ZAO可能產(chǎn)生的潛在危險和不安全性，也是人工智能為社會提供產(chǎn)品的同時人們必然面臨的挑戰(zhàn)。

名為ZAO的AI換臉軟件紅遍網(wǎng)絡(luò)，然而好景不長，一夜爆紅“ZAO”的微信分享鏈接目前已經(jīng)被停止訪問了。關(guān)于“ZAO”刷屏后所帶來的隱私焦慮與風(fēng)險擔(dān)憂，仍在蔓延。

實際上，ZAO軟件就是一款經(jīng)改造的換臉APP，2017年發(fā)源于美國，稱Deepfakes，是深度機器學(xué)習(xí)(deep machine learning)和假照片(fake photo)的簡稱(合稱)，最生動的稱呼是深度(照片)造假。

既然是造假，當(dāng)然要禁止。它不僅可能產(chǎn)生因個人信息泄露帶來的種種不安全，如果涉及犯罪，輕而易舉的換臉操作也會讓真假罪犯難辨，同時加大司法成本。當(dāng)然，在一些國家，如美國，換臉還可能成為反恐的夢魘，既可以讓恐怖分子很容易通過換臉作案和逃脫，也加大了安全部門反恐的難度。

所有這些問題都是ZAO和相似軟件可能產(chǎn)生的潛在危險和不安全性，這也是人工智能為社會提供產(chǎn)品的同時人們必然面臨的挑戰(zhàn)。因此，如何監(jiān)管才是最現(xiàn)實和最嚴(yán)峻的問題。

現(xiàn)在ZAO軟件就面臨著管理者禁與放的困難抉擇。而對于換臉，美國歐盟等認(rèn)為，即便是潛在的威脅，也極其嚴(yán)重，必須先出手防范。

今年1月28日，美國卡內(nèi)基國際和平基金會專門發(fā)表文章《國家如何應(yīng)對Deepfakes?》，指出，以Deepfakes為代表的換臉技術(shù)具有一系列潛在的危害，包括煽動政治暴力、破壞選舉、擾亂外交關(guān)系、提供虛假證據(jù)并干擾司法、實施敲詐等，希望各國明確定義Deepfakes的不正當(dāng)使用，亟須社會定義什么可以接受，什么不可以接受，這既有利于社會和法律的管理，也有利于社交媒體規(guī)范其平臺，管理網(wǎng)上內(nèi)容。

今年6月13日，美國眾議院情報委員會對Deepfakes舉行了聽證會，會上該委員會主席、眾議員亞當(dāng)·希夫稱，篡改視頻的傳播為2020年總統(tǒng)大選帶來了一種“噩夢般的”場景，讓議員、新聞媒體和公眾“難以分辨什么是真實的，什么是虛假的”。因此，他和美國馬里蘭法學(xué)院教授達尼埃爾·西特龍建議國會考慮對《通信規(guī)范法》第230條(互聯(lián)網(wǎng)服務(wù)不必為其用戶的行為負(fù)責(zé))進行修改，以打擊Deepfakes，保護用戶免受假新聞的誤導(dǎo)。

針對Deepfakes換臉技術(shù)產(chǎn)生的具有破壞性的危險性內(nèi)容，歐盟也在2019年初出臺了應(yīng)對指南，以幫助公眾分辨某條信息的來源，信息是如何產(chǎn)生的以及信息是否值得信賴。

可以看到，對換臉技術(shù)的潛在危險極為重視的美國和歐盟現(xiàn)在還沒有出臺法律予以禁止，只是在進行論證。但迫于壓力，美國的Reddit上關(guān)于換臉技術(shù)的討論版被刪除，換臉技術(shù)也在美國被全網(wǎng)封禁，其GitHub開源代碼也被清除。

盡管目前看來，ZAO軟件還沒有造成實際上的危害，但是，正如網(wǎng)友所指出，一個潛在危害非常實在：“有手機號，有面部圖像，通過技術(shù)合成，犯罪分子可以替你和你家人通話了。”因此，公眾的擔(dān)心并非杞人憂天，有必要及早以明確的法律條款予以規(guī)范。