“元宇宙”里也有風(fēng)險(xiǎn)？報(bào)告披露深度合成應(yīng)用十大趨勢(shì)

利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作圖像、音頻、視頻、虛擬場(chǎng)景等信息的深度合成技術(shù)，已在多個(gè)領(lǐng)域大量應(yīng)用，但與此同時(shí)，惡意使用該技術(shù)生成的音視頻，也顯現(xiàn)出了巨大的破壞力，給個(gè)人、企業(yè)造成了聲譽(yù)損害和財(cái)產(chǎn)損失，也對(duì)社會(huì)、國(guó)家安全造成威脅。

為了對(duì)人工智能和深度合成技術(shù)的健康發(fā)展提供參考和指引，清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國(guó)家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心近日聯(lián)合發(fā)布《深度合成十大趨勢(shì)報(bào)告（2022）》（下稱《報(bào)告》），從技術(shù)研究、領(lǐng)域應(yīng)用、發(fā)展趨勢(shì)等多個(gè)方面，介紹和研判深度合成技術(shù)及應(yīng)用帶來(lái)的機(jī)遇與挑戰(zhàn)。

首先一個(gè)趨勢(shì)是多個(gè)領(lǐng)域落地應(yīng)用，深度合成內(nèi)容迎爆發(fā)式增長(zhǎng)。以視頻為例，《報(bào)告》顯示，在國(guó)內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長(zhǎng)10倍以上。此外，深度合成內(nèi)容關(guān)注度也呈指數(shù)級(jí)增長(zhǎng)，通過對(duì)互動(dòng)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)，2021年新發(fā)布的深度合成視頻的點(diǎn)贊數(shù)已超過3億。

目前，深度合成在影視制作、廣告營(yíng)銷、社交娛樂等領(lǐng)域發(fā)展出多元化的商業(yè)應(yīng)用，例如AI合成主播、虛擬偶像、修復(fù)歷史老照片、影視劇本地化配音、“數(shù)字復(fù)活”已過世演員等。一些面向公眾開發(fā)的合成類產(chǎn)品也陸續(xù)推出，《報(bào)告》顯示，視頻、語(yǔ)音和文本形式的服務(wù)最為普遍，例如支持風(fēng)格定制的特效視頻制作軟件等風(fēng)靡網(wǎng)絡(luò)；語(yǔ)音方向衍生出了語(yǔ)音導(dǎo)航、有聲讀物、自動(dòng)新聞播報(bào)等應(yīng)用；文本合成則在新聞報(bào)道、詩(shī)文創(chuàng)作、聊天問答等方面發(fā)揮著重要作用。

“元宇宙”等新商業(yè)思維的提出，也為深度合成提供了更廣闊的應(yīng)用場(chǎng)景。阿里巴巴安全感知與認(rèn)知智能部負(fù)責(zé)人薛輝表示，比如虛擬人、數(shù)字人即是深度合成的主要應(yīng)用，也是“元宇宙”的重要組成部分。清華大學(xué)新聞與傳播學(xué)院常務(wù)副院長(zhǎng)陳昌鳳認(rèn)為，深度合成將重新定義虛擬數(shù)字化空間，從傳播社會(huì)學(xué)意義上看，一個(gè)新的人類生存場(chǎng)景將以深度合成技術(shù)為基石展開。

其次是風(fēng)險(xiǎn)加劇，技術(shù)檢測(cè)成重要應(yīng)對(duì)舉措。隨著技術(shù)逐步“平民化”，不法分子可輕易偽造音頻、視頻，實(shí)施誣陷、誹謗、詐騙、勒索等違法行為。陳昌鳳表示，虛假內(nèi)容的高難度甄別影響了事實(shí)核查的有效性，在社會(huì)重大事件或政治事件節(jié)點(diǎn)上，深度合成技術(shù)可能被用于操作輿論意見，借助社交媒體，使虛假信息短時(shí)間內(nèi)引發(fā)產(chǎn)生病毒式擴(kuò)散，激化社會(huì)矛盾。

中國(guó)工程院院士鄔賀銓認(rèn)為，深度合成的治理有兩項(xiàng)要點(diǎn)，第一，要持續(xù)發(fā)展技術(shù)，不能“一刀切”地禁止，避免阻礙正向應(yīng)用與創(chuàng)新。第二，衍生出的安全問題要從源頭上解決，利用技術(shù)創(chuàng)新、技術(shù)對(duì)抗等方式，持續(xù)提升和迭代檢測(cè)技術(shù)的能力。瑞萊智慧CEO田天也表示，新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜，加上基于檢測(cè)算法存在漏洞缺陷等，反深偽檢測(cè)技術(shù)面臨“強(qiáng)對(duì)抗性”，需要持續(xù)更新與迭代。

此外，構(gòu)建多維度治理機(jī)制，引導(dǎo)深度合成技術(shù)良性發(fā)展，也成為深度合成的新趨勢(shì)。中國(guó)社科院哲學(xué)所科技哲學(xué)研究室主任段偉文建議，對(duì)深度合成技術(shù)引發(fā)的社會(huì)、法律和倫理問題，應(yīng)展開有系統(tǒng)性、前瞻性的跨學(xué)科研究，對(duì)其可能出現(xiàn)的高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景，進(jìn)行有針對(duì)性的治理與監(jiān)管。

《報(bào)告》也建議，各方應(yīng)當(dāng)與時(shí)俱進(jìn)落實(shí)好新的規(guī)范要求，并在此前提下不斷追求技術(shù)突破，不斷開拓深度合成技術(shù)應(yīng)用場(chǎng)景，創(chuàng)立示范標(biāo)桿，形成對(duì)人工智能行業(yè)整體的帶動(dòng)效應(yīng)，從而促進(jìn)新技術(shù)的持續(xù)健康發(fā)展。

【記者】郜小平

【作者】 郜小平

【來(lái)源】 南方報(bào)業(yè)傳媒集團(tuán)南方+客戶端

關(guān)鍵詞：