導讀:近日,你應該看到了社交媒體上對于網(wǎng)站 ThisPersonDoesNotExist.com,生成無數(shù)不存在人臉的鋪天蓋地的消息,以及楊冪換朱茵的假臉圖像。
近日,你應該看到了社交媒體上對于網(wǎng)站
ThisPersonDoesNotExist.com,生成無數(shù)不存在人臉的鋪天蓋地的消息,以及楊冪換朱茵的假臉圖像。一方面,這說明,AI
技術(shù)的火正從專業(yè)人士那里不知不覺發(fā)展到了頻繁上熱搜的時期,但另一方面強勢的 AI 技術(shù)發(fā)展帶給了大眾更大的恐慌情緒。
從假人臉、假人聲到假消息,AI 利用來自人類世界的數(shù)據(jù)集,正在創(chuàng)造一個以假亂真的仿真世界。
從人類的視角來看,AI 技術(shù)帶來的這些前所未有的創(chuàng)造力是一種威脅,是為“假”,但換個角度,AI 正在創(chuàng)造的“仿真”人類信息世界,可能正給人們帶來在面對未來時更大的困惑和不安全感。
在這里要重申:AI 正在創(chuàng)造一個獨特的虛擬(虛假)信息世界。
除了眾所周知的 Deepfake 這樣的換臉技術(shù)外,今天要介紹的是與人們息息相關(guān)的指紋,它被廣泛應用于指紋鎖、手機、安檢等應用場景中,有極高的安全等級。但如今指紋也開始能被 AI 技術(shù)“復制”了,由 AI 合成的指紋能輕松騙過識別的掃描儀。
這個叫 DeepMasterPrints 的系統(tǒng),確實像是跟 Deepfake 來自同一個世界,在由 AI 創(chuàng)造太過逼真的事物上,業(yè)內(nèi)人士一般都喜歡加個前綴“Deep”。
DeepMasterPrints 系統(tǒng)由紐約大學工程學院的 5 位研究人員開發(fā),其研究于去年 10 月在洛杉磯舉行的生物測量學會議上發(fā)表,主要可以用人工智能來制作虛假的指紋,它可以以假亂真,輕松“騙過”生物識別掃描儀(或人眼)。
研究人員稱,DeepMasterPrints 在一個系統(tǒng)中復制了 23% 的人類指紋部分,錯誤率為千分之一。而當錯誤匹配率達到百分之一時,DeepMasterPrints 能在 77% 的情況下模擬真實指紋騙取掃描儀的“信任” 。
左圖是真實指紋,右圖為 AI 合成指紋
這些合成指紋在“騙”過存有許多指紋的系統(tǒng)時可能很有效(不同于你手機中的指紋記錄,它可能只記錄了幾個數(shù)字),DeepMasterPrints 開發(fā)的工具進行運行幾個假指紋,通過系統(tǒng)查看是否有任何指紋與任何用戶賬戶匹配。攻擊者可能通過反復試驗獲得更多成功的機會,類似于黑客對密碼進行暴力或字典攻擊的破解方式,不是通過系統(tǒng)運行數(shù)百萬流行密碼的軟件。
具體而言,其背后的技術(shù)原理是,通常研究人員采用兩種生成對抗網(wǎng)絡(luò) GAN 組合在真實圖像中使用,其中一個神經(jīng)網(wǎng)絡(luò),使用公開、可用的指紋圖像,訓練神經(jīng)網(wǎng)絡(luò)識別真的指紋圖像,然后用另一套神經(jīng)網(wǎng)絡(luò),訓練創(chuàng)建生成偽造指紋。
研究人員解釋,可以將第二個神經(jīng)網(wǎng)絡(luò)的假指紋圖像輸入第一個神經(jīng)網(wǎng)絡(luò)中以測試仿真程度。隨著時間的推移,第二個神經(jīng)網(wǎng)絡(luò)則會“學習”生成逼真的指紋圖像,最終騙過人眼和掃描儀。
DeepMasterPrints 正是利用了生物識別指紋系統(tǒng)中的兩個缺陷。首先,大多數(shù)指紋識別儀器在掃描時不會對整個指紋進行掃描,而只是對指紋的一部分上進行匹配;其次,多數(shù)設(shè)備允許用戶提交多個指紋圖像,匹配其中任何一部分,便可以確認用戶身份。這使得由 AI 偽造的指紋更容易騙過指紋掃描儀。
帶有訓練網(wǎng)絡(luò)的潛在變量演化。左邊是 CMA-ES 的高級概述,右邊的方框表明如何計算潛在變量。
這樣一個系統(tǒng)是如何創(chuàng)建的?根據(jù)論文描述,為了開發(fā) DeepMasterPrint,研究人員將生成器的潛在變量演化為最優(yōu)值。生成器的輸入稱為潛在變量,因為它們對網(wǎng)絡(luò)輸出的影響只能通過觀察到的圖像來進行理解。由于網(wǎng)絡(luò)以 100 個潛在變量作為輸入,那最優(yōu)解是 100 維空間中的一個點。
如上圖所示,LVE(Latent Variable Evolution,潛在變量演化技術(shù)) 對這些點進行采樣,將它們轉(zhuǎn)換為圖像,然后對圖像進行評分,以了解最佳點隨時間的分布情況。這些最佳點是 DeepMasterPrint 的基因型,然后可以映射到圖像上。
LVE 可以使用任何進化算法(或其他隨機全局優(yōu)化器)來搜索潛在空間。進化算法不需要梯度,因此這是黑盒優(yōu)化的理想方法。在這個域中,匹配器可以報告匹配了多少身份(不同的指紋)以及相應匹配率,至于如何得到這些結(jié)果的卻并不提供任何信息。
梯度沒有顯示 DeepMasterPrint 的哪個像素效果最好或最差。由于 LVE 的適應度得分是身份匹配的數(shù)量,因此適應度景觀(fitness landscape)是不連續(xù)的。由于卷積網(wǎng)絡(luò)的層次性,潛在變量也是不可獨立分離的。
研究人員的這篇論文像是給了黑客破解指紋鎖的密碼,但他們告訴 Gizmodo,如果沒有驗證生物識別是否來自真人,很多這些對抗性攻擊都有可能發(fā)生,希望他們的研究能加強指紋安全工作,推動生物識別傳感器中的活體檢測。
不過,AI 技術(shù)的兩面性在于道高一尺魔高一丈,不知道潘多拉魔盒完全打開后,還會如何“解鎖”當下的物理世界,給人類更大的意想不到的震撼。