導(dǎo)讀:這樣的事情并非第一次發(fā)生。
近日,荷蘭議會外交事務(wù)委員會在視頻會議軟件Zoom上被AI換臉技術(shù)所騙,對方利用Deepfake(深度偽造技術(shù))冒名頂替俄羅斯反對派領(lǐng)導(dǎo)人阿列克謝·納瓦爾尼的參謀長列昂尼德·沃爾科夫(Leonid Volkov)。
▲列昂尼德·沃爾科夫
這樣的事情并非第一次發(fā)生。此前,沃爾科夫的冒名頂替者還與拉脫維亞和烏克蘭政治家進(jìn)行了交談,與英國、愛沙尼亞和立陶宛的政治人物進(jìn)行了接觸。
荷蘭國眾議院在一份聲明中說到,眾議院對此次Deepfake換臉事件感到憤慨,并正在研究如何防止此類事件再次發(fā)生。
一、單張照片即可換臉,Deepfake成政治武器
Deepfake由深度機器學(xué)習(xí)和假照片組合而成,本質(zhì)是一種AI深度學(xué)習(xí)模型在圖像合成、替換領(lǐng)域的技術(shù)框架,屬于深度圖像生成模型的一次成功應(yīng)用。
Deepfake技術(shù)出現(xiàn)于2017年,給影視制作等方面帶去高效、低成本制作等好處,但隨之而來也存在造假、造謠、欺詐等倫理問題,真假混淆使得人們愈發(fā)缺乏安全感。
去年,俄羅斯的兩位研究員推出了一款名為Avatarify的軟件,可以與Zoom或Skype等視頻會議軟件配合使用,將視頻會議中用戶的面容變成任意指定名人的樣子。通過Avatarify的使用,用戶只需要一張制定照片就可以完成臉部替換。
▲使用Avatarify軟件換臉(右下)
AI換臉技術(shù)運用于視頻通話存在潛在風(fēng)險,惡作劇者可能會欺騙政府做出糟糕的政策決定,還會成為政客間相互攻擊的武器。
在2020年美國大選期間,特朗普4月在推特上轉(zhuǎn)發(fā)了一個偽造拜登吐舌頭的視頻,當(dāng)晚視頻播放量超過1000萬次。隨后特朗普在5月又轉(zhuǎn)發(fā)了用自己臉替換科幻電影《獨立日》中總統(tǒng)托馬斯·懷特摩爾、發(fā)表“我們要為我們的生存而戰(zhàn)”演講的視頻。
▲特朗普推特轉(zhuǎn)發(fā)拜登換臉惡搞視頻
二、商學(xué)政界積極應(yīng)對Deepfake風(fēng)險
目前,針對Deepfake,谷歌、微軟、Facebook等眾多科技巨頭都在開發(fā)各種檢測技術(shù)。但目前比較進(jìn)階的Deepfake仍然可以騙過大多數(shù)AI檢測模型。
2019年6月13日,美國眾議院情報委員會召開關(guān)于人工智能深度偽造的聽證會,公開談?wù)摿松疃葌卧旒夹g(shù)對國家、社會和個人的風(fēng)險及防范和應(yīng)對措施。這是美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術(shù)的聽證會。
會議邀請了四位來自不同領(lǐng)域的專家,分別是美國外交政策研究所研究員克林特·瓦茨(Clint Watts)、馬里蘭大學(xué)法學(xué)教授丹尼爾 · 希特倫(Danielle Citron)、布法羅大學(xué)人工智能研究所所長大衛(wèi)·多爾曼(David Doermann)和Open AI政策總監(jiān)杰克·克拉克(Jack Clark),以系統(tǒng)介紹深度偽造技術(shù)及解答議員的疑惑,共同探討“深度偽造”的風(fēng)險及應(yīng)對之策。
在我國,相關(guān)監(jiān)管政策也在不斷完善。我國《民法典》第1019條明確指出,任何組織或個人不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。
結(jié)語:警惕視頻通話中的AI換臉技術(shù)
荷蘭視頻會議遭AI換臉,表明當(dāng)前AI換臉技術(shù)風(fēng)險已滲透到安全性較高的政界,各界應(yīng)當(dāng)加大AI換臉技術(shù)的監(jiān)管。
未來,可能需要嚴(yán)格的篩查流程來識別AI換臉技術(shù),以此確保視頻通話中每個參與者都是真實的。
來源:Engadget