真人的臉 VS 人工智能合成的臉，你能區(qū)分嗎？

哈嘍艾瑞巴蒂

這里是你的可愛博醬呀

大家應該都聽過一句話叫

“耳聽為虛，眼見為實”

但是眼見就一定為實嗎？

如果說人工智能已經(jīng)能做到

讓你相信“假即是真”

你會不會覺得難以置信？

到底是怎么一回事呢

快隨博醬來一探究竟~

2018 年，英偉達推出了一種人工智能，它可以為不存在的人制作超逼真的照片，讓全世界驚嘆不已。它的研究人員依賴于一種稱為生成對抗網(wǎng)絡 (GAN) 的算法，該算法使兩個神經(jīng)網(wǎng)絡相互對抗，一個試圖發(fā)現(xiàn)假貨，另一個試圖生成更有說服力的網(wǎng)絡。如果有足夠的時間，GANS 可以生成非常好的偽造品。

從那以后，人工智能生成人體圖像的能力有了很大的提高，但也帶來了一些令人擔憂的影響：使詐騙者能夠欺騙人們，使得在未經(jīng)他們同意的情況下將人們拼接成色情電影成為可能，以及破壞對在線媒體的信任。雖然可以使用人工智能本身來發(fā)現(xiàn)深度偽造，但科技公司沒能有效的調(diào)節(jié)那些復雜的材料，也就說明這條路走不通。

這意味著更重要的問題是人類是否可以發(fā)現(xiàn)差異，以及它們與深度偽造有何關系。PNAS的一項新研究的結果并不樂觀——研究人員發(fā)現(xiàn)人們檢測假貨的能力并不比隨機猜測好，而且實際上他們認為假臉比真人更逼真。

“我們對人工智能合成的面孔的逼真度的評估表明，合成引擎已經(jīng)達到了堪稱不可思議的地步，能夠創(chuàng)造出無法區(qū)分的面孔，而且比真實面孔更值得信任。”作者寫道。

為了測試對假臉的反應，研究人員使用 Nvidia 的 GAN 的更新版本生成了 400張臉，性別平等，各 100 張臉來自四個種族：黑人、高加索人、東亞人和南亞人。他們將這些中的每一個與從最初用于訓練 GAN 的數(shù)據(jù)庫中提取的真實面孔進行匹配，該數(shù)據(jù)庫已被不同的神經(jīng)網(wǎng)絡判斷為相似。

然后，他們從 Amazon Mechanical Turk 眾包平臺招募了 315 名參與者。每個人都被要求從組合數(shù)據(jù)集中判斷 128 張面孔，并判斷它們是否是假的。他們的準確率只有 48%，實際上比你應該從隨機猜測中得到的 50% 還要差。

深度偽造出來的假照通常具有特征性的缺陷和故障，可以幫助人們將其識別出來。因此，研究人員對另外 219 名參與者進行了第二次實驗，在讓他們判斷相同數(shù)量的面孔之前，他們對他們進行了一些基本培訓，了解要注意什么。他們的表現(xiàn)僅略有改善，達到 59%。

在最后的實驗中，該團隊決定看看對面部更直接的直覺反應是否可以為人們提供更好的線索。他們決定看看可信度。人們通常在一瞬間會根據(jù)自己的第一直覺來確定難以判斷的東西。而對于人臉，可信度無疑是人們判斷一個人的第一反應。但是，當他們讓另外 223 名參與者對 128 張面孔的可信度進行評分時，他們發(fā)現(xiàn)人們實際上認為假面孔的可信度高出 8%，這是一個很小但具有統(tǒng)計學意義的差異。

鑒于可以將深度偽造用于邪惡用途，這是一個令人擔憂的發(fā)現(xiàn)。研究人員認為，假面孔評價更高的部分原因是因為它們看起來更像普通面孔，而之前的研究發(fā)現(xiàn)人們更傾向于信任這些面孔。這是通過觀察最不值得信任的四張面孔而得出的，這些面孔都是真實的，而最值得信賴的三張面孔都是假的。

研究人員表示，他們的研究結果表明，那些開發(fā) deepfakes 背后的底層技術的人需要認真思考他們在做什么。第一步是問自己這項技術的好處是否超過其風險。其次該行業(yè)還應該考慮建立保障措施，其中包括讓 deepfake 生成器在其輸出中添加水印。

“因為對這種強大技術的訪問民主化構成了最重大的威脅，我們還鼓勵重新考慮對公眾放任自流的方法，以及不受限制地發(fā)布代碼以供任何人納入應用程序?！弊髡邔懙?。

不幸的是，這可能為時已晚。公開可用的模型已經(jīng)能夠生產(chǎn)出令人信服的深度偽造品了，想把模型收回已經(jīng)不太可能了。

。 。

。 。 。

關鍵詞： 真人的臉 人工智能合成的臉 你能區(qū)分嗎