AI 生成面孔已跨越恐怖谷，比真實面孔更真

作者：DAVID SALAZAR

責編：方阿美 劉祥輝

一項新的研究發(fā)現(xiàn)，人類不再能夠區(qū)分真假面孔。

您可能對自己從使用人工智能創(chuàng)建的面孔中分辨出真實面孔的能力充滿信心。但是一項新的研究發(fā)現(xiàn)，如果你只是擲硬幣，你準確選擇的機會會稍微好一點——而且你更有可能相信假臉而不是真臉。

該研究發(fā)表在《美國國家科學院院刊》上，由加州大學伯克利分校教授 Hany Farid 和英國蘭開斯特大學講師 Sophie J. Nightingale 進行。

Farid 多年來一直在探索合成圖像——以及人們?nèi)绾畏直嫠鼈兣c真實圖像的區(qū)別。他最初專注于計算機生成圖像的興起。但近年來，隨著被稱為 GAN（生成對抗網(wǎng)絡(luò)）的基于深度學習的神經(jīng)網(wǎng)絡(luò)在生成真正逼真的合成圖像方面變得更加復(fù)雜，媒體的發(fā)展道路已經(jīng)加快?！叭绻憧匆幌律疃葌卧旌?[GANs] 的改進速度，它比 CGI 快一個數(shù)量級，”他說。“我們會爭辯說，我們已經(jīng)通過了靜止面孔的恐怖谷?！?/p>

這種逼真的假貨的問題是多方面的。“欺詐性的在線個人資料就是一個很好的例子。偽造的護照照片。靜態(tài)照片有一些邪惡的用途，”法里德說?！暗虑闀兊梅浅＜值氖且曨l和音頻?！?/p>

1.這張臉是真人的還是人工合成的？（請參閱下面的答案。）

鑒于這些改進的速度，法里德和南丁格爾想要探索通過人工智能創(chuàng)建的面孔是否能夠讓觀眾相信他們的真實性。他們的研究包括三個實驗，旨在了解人們是否可以從 Nvidia 的 StyleGAN2 創(chuàng)建的合成人臉中辨別出真人臉。在識別出 800 張真假面孔的圖像后，法里德和南丁格爾要求參與者查看其中的一部分并將它們分類為真假。參與者的正確率不到一半，平均準確率為 48.2%。

第二個實驗表明，即使向參與者提供一些關(guān)于識別 AI 生成的面孔并在他們做出決定時提供反饋的提示，也并沒有顯著提高他們的破譯能力。參與者以 59% 的準確率識別出哪張臉是真實的，哪張是假的，但隨著時間的推移沒有任何改善?！凹词褂蟹答仯词褂信嘤栐噲D讓他們變得更好，他們的表現(xiàn)也比偶然的好，但他們?nèi)栽诳嗫鄴暝?，”法里德說?！斑@并不是說他們變得越來越好——基本上它會有所幫助，然后就會停滯不前?！?/p>

人們難以識別人工智能創(chuàng)造的面孔并沒有讓法里德和南丁格爾感到特別驚訝。然而，他們沒有預(yù)料到，當參與者被要求根據(jù)他們感知的可信度對一組真假面孔進行評分時，人們會發(fā)現(xiàn)合成生成的面孔比真實面孔可信度高 7.7%——這是一個很小但具有統(tǒng)計學意義的差異。

2、這張臉是真人的還是人工合成的？（請參閱下面的答案。）

“我們對這一結(jié)果感到非常驚訝，因為我們的動機是尋找一種間接途徑來提高績效，我們認為信任就是這樣——真實的面孔會引發(fā)更值得信賴的感覺，”南丁格爾說。

Farid 指出，為了進行更多受控實驗，他和南丁格爾一直致力于讓出處成為真臉和假臉之間唯一的實質(zhì)性區(qū)別。對于每一張合成圖像，他們使用數(shù)學模型從真實面孔的數(shù)據(jù)庫中找到一個在表情和種族方面相似的圖像。例如，對于一位年輕黑人女性的每一張合成照片，都有一個真實的對應(yīng)物。

盡管 GAN 目前可以令人信服地創(chuàng)建的圖像類型仍僅限于護照式照片，但南丁格爾表示，這些欺騙行為對從約會詐騙到社交媒體的一切構(gòu)成威脅。

3、這張臉是真人的還是人工合成的？（請參閱下面的答案。）

“就在線浪漫詐騙而言，這些圖像將是完美的，”她說。“[對于] 諸如 Twitter 虛假信息攻擊之類的事情，而不是使用默認的雞蛋圖像，您只需獲取其中一張圖像。人們信任它，如果你信任某些東西，你可能更有可能分享它。因此，您會看到這些類型的圖像如何已經(jīng)造成混亂?！?/p>

那么，我們?nèi)绾畏乐谷藗兪褂煤铣蓤D像進行不法手段呢？Farid 是“受控捕獲”方法的擁護者，該方法由TruePic和內(nèi)容來源和身份驗證聯(lián)盟等公司開發(fā)。該技術(shù)為在具有內(nèi)置相機功能的應(yīng)用程序中拍攝的任何照片捕獲與時間和位置相關(guān)的元數(shù)據(jù)。

“我認為唯一的解決方案是在錄制時進行身份驗證，使用受控的捕獲類型的技術(shù)，”他說。“然后，任何有它的東西，都很好；任何沒有的東西，買家要小心。我認為這個 [解決方案] 真的會開始受到關(guān)注，我希望在未來幾年，我們開始更加重視在線信任和安全。”

4.這張臉是真人的還是人工合成的？（請參閱下面的答案。）

除了合成靜止圖像之外，這項研究是隨著合成媒體世界的發(fā)展而進行的。澳大利亞公司 Synthesia在 12 月完成了 5000 萬美元的 B 輪融資，用于企業(yè)通信中使用的 AI 頭像；總部位于倫敦的 Metaphysic是湯姆克魯斯病毒式深度假冒背后的公司，今年早些時候籌集了 750 萬美元。隨著這些技術(shù)不斷改進和改變?nèi)斯?智能的可能性，南丁格爾說，研究人員和公司將不得不認真考慮所涉及的倫理問題。

“如果某些新技術(shù)的風險大于收益，我們真的應(yīng)該這樣做嗎？” 她問?！笆紫?，我們應(yīng)該開發(fā)它嗎？其次，我們是否應(yīng)該將其上傳到 Github 之類的平臺上，任何人都可以在其中得到它？. . . 正如我們所看到的，一旦它出現(xiàn)，我們就不能再把它收回，因為人們已經(jīng)下載了它，而且為時已晚?！?/p>

答案：1. 假；2. 真；3. 真；4. 假

（來源：https://www.fastcompany.com/90723105/ai-generated-faces-have-crossed-the-uncanny-valley-and-are-now-more-trustworthy-than-real-ones）

END

關(guān)鍵詞： 生成面孔已跨越恐怖谷 比真實面孔更真 南丁格爾