“變臉”詐騙頻現(xiàn)，謹防深度合成技術作惡

一段視頻、一段語音未必是真人拍攝或者錄制。在你不知道的手機App后臺、支付界面、門禁閘機，或許有人正在盜刷你的臉……去年以來，多地發(fā)生“變臉”詐騙案。“新華視點”記者調查發(fā)現(xiàn)，隨著深度合成技術迅猛發(fā)展、落地場景激增，一些不法分子趁機牟利。音頻、視頻等合成技術濫用，對人臉、聲紋、指紋等個人敏感信息保護形成挑戰(zhàn)。（4月14日《北京青年報》）

前幾年剛出現(xiàn)的“換臉”技術，還略顯粗糙，肉眼仔細辨認尚可識破，支付平臺亦可識別真?zhèn)危瑓s已經(jīng)令大眾心驚肉跳，擔憂技術會迭代升級，帶來更難以控制的后果。擔憂不幸言中了，隨著深度合成技術飛速演進，用靜態(tài)照片、音頻可制作為人臉動態(tài)視頻，可完成豐富表情，模擬效果極為逼真，已經(jīng)能夠騙過支付識別系統(tǒng)，人工審核亦難辨真假。近年來頻頻發(fā)生的“變臉”詐騙案，凸顯深度合成技術遭到非法濫用，成為犯罪分子作惡的工具，需要嚴加防范。

在網(wǎng)絡詐騙鏈條里，身份核驗是一道繞不過的關卡，不法分子需要突破這個關卡，才能辦理實名制手機卡、登錄網(wǎng)銀賬戶、電子轉賬提現(xiàn)等，難度很大。如今，深度合成技術成為一把利器，破解身份核驗的難度越來越低、耗時將越來越短。相應地，針對深度合成技術的識別技術不斷迭代、檢測手段持續(xù)增強，但依然沒能跑贏“偽造”技術升級的速度，使得不法分子能夠利用深度合成技術，實施精準詐騙，侵害他人人身和財產(chǎn)安全。

深度合成技術的成熟，讓眼見不再為實，將虛擬與現(xiàn)實的界限進一步被模糊。技術本身是中立的，如果將深度合成技術用于影視、游戲、醫(yī)療、教育等領域，必將發(fā)揮出強大的力量，給相關行業(yè)帶來顛覆性的創(chuàng)新發(fā)展，給大眾帶來超乎想象的產(chǎn)品和服務。可是，當技術失去控制，落入不法分子手里，就變成了害人的工具，給社會大眾造成難以估量的損失和傷害。

很多得到廣泛市場應用的技術，都經(jīng)過了由復雜到簡單操作的階段，從小眾化到大眾化的全面普及過程。由功能單一、操作復雜的“換臉”“擬聲”等技術，演變?yōu)椴僮骱啽?、成熟度高、成本低廉的深度合成技術，亦體現(xiàn)出了這些特征，也是不法分子輕易上手的主要因素。因此，除了發(fā)展“深度偽造內容”檢測技術，監(jiān)管部門也應對深度合成技術進行全面評析，及早作出研判和部署，采取行之有效的防范機制。

近年來，針對深度合成技術遭惡意使用，各國紛紛出臺相關法律法規(guī)，探索深度合成的治理路徑。美國從聯(lián)邦和州層面進行專門立法，歐盟將深度合成納入《通用數(shù)據(jù)保護條例（GDPR）》等現(xiàn)有法律框架規(guī)制。國家網(wǎng)信辦公布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定（征求意見稿）》，亦對深度合成技術作出了一系列較為明確的規(guī)定和指引。因此，刑法應對深度合成技術濫用行為予以規(guī)制，同時從風險防控的角度，加強對個人信息安全的保護。對于“深度偽造內容”，平臺應依法履行安全管理義務，落實管理責任，圍堵黑色產(chǎn)業(yè)鏈的生存空間。（江德斌）

關鍵詞： 變臉詐騙頻現(xiàn) 謹防深度合成技術作惡 深度合成技術