要聞：用人工智能“復(fù)活”逝者，未來可行嗎？

（小塵4x/圖）

2013年，英劇《黑鏡》的《馬上回來》一集中，失去愛人的女主角，將已故男友在社交網(wǎng)絡(luò)中的數(shù)據(jù)上傳至網(wǎng)站。后來她不再滿足于線上文字和語音交流，還購買了面貌與思維和男友一致的實體機器人，某種程度上，機器人甚至比真人更完美。最后，女主將機器人藏于閣樓中，令他不與外界接觸和溝通。

技術(shù)的發(fā)展讓這個故事里的前景變得明朗。從文字聊天機器人到虛擬人，甚至真正的仿生機器人，人臉建模、面部捕捉、語音合成、AI訓(xùn)練等多項技術(shù)令“復(fù)活”逝者成為可能。在一檔節(jié)目中，復(fù)旦大學(xué)副教授蔣昌建曾與自己的仿生機器人對談，機器人熟知他的所有事情、觀點，語氣與動作也幾乎一致。

2021年，微軟獲得了一種利用AI“復(fù)活”逝者的聊天機器人專利，通過收集圖像、語音和社交網(wǎng)站發(fā)帖等信息，模仿逝者的性格與語氣，甚至可以創(chuàng)建3D模型。他們以虛擬的形式存在，能夠不斷適應(yīng)新環(huán)境。

外公因病去世十年后，圖像算法工程師俞佳霖使用了幾種成熟的AI技術(shù)——包括語言學(xué)習(xí)模型、語音克隆模型、“人臉再扮演”技術(shù)等，將外公“復(fù)活”。俞佳霖每輸入一個問題，程序會生成一個外公的回答視頻。視頻中的AI，既有著外公的面容和聲音，又能以外公的語氣說話。

“逝者虛擬人愛上了其他虛擬人怎么辦”

美劇《西部世界》里提到“人很簡單”，科技從業(yè)者彭博同意此觀點，人在分類時確實比較簡單，但是，“每個人的不同生長經(jīng)歷，有很多特殊的地方，你的信息是拿不到的，最后得到的還是有點假……‘復(fù)活’人目前做不到很深層的東西，只是表面上的”。

長期關(guān)注元宇宙的律師黃斌告訴南方周末記者，AI“復(fù)活”逝者需要注意法律問題。生者提供逝者的照片、生前的聊天內(nèi)容等數(shù)據(jù)，數(shù)據(jù)的真實性和完整性將影響到逝者的名譽、榮譽、隱私，使用死者的姓名、肖像需要得到權(quán)利人（本人、配偶、子女等親屬）的許可。如果數(shù)據(jù)量太少，可能需要利用算法補足后進行機器學(xué)習(xí)，有可能存在算法的偏見歧視等現(xiàn)象。另外，平臺有審核義務(wù)，應(yīng)當要求使用者提供合法授權(quán)文件等。

【資料圖】

“選擇性地提供其喜歡的數(shù)據(jù)，有可能侵害逝者的名譽?！秉S斌舉例，現(xiàn)實情況非常復(fù)雜，如果在聊天平臺上傳離世男友的信息，沒有獲得其家人的許可，容易有侵權(quán)的風(fēng)險；如果配偶把和逝去伴侶的聊天記錄部分上傳，選擇性地復(fù)原負面的感情部分，有可能傷害父母和子女之間的感情，“如果僅僅是為了懷念或情感慰藉的話可能會好一些，但不排除某些惡意的情況”。

用AI“復(fù)活”已故名人的嘗試已有先例。2021年12月31日，江蘇衛(wèi)視跨年晚會上，歌手周深與虛擬形象鄧麗君合唱了歌曲。有粉絲利用AI換臉技術(shù)，錄制了一段張國榮在錄音棚里演唱的視頻。

甚至有公司利用AI虛擬人的技術(shù)牟利。在主持人何炅與上海自古紅藍人工智能科技有限公司的網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛中，該公司在某記賬軟件中虛擬何炅人設(shè)，出現(xiàn)大量何炅表情包等，以何炅口吻向用戶推送“情話”，甚至互動頁面可以“調(diào)教”此人設(shè)，被法院判定構(gòu)成侵權(quán)。

根據(jù)黃斌的觀察，僅僅用照片“捏臉”的成本不高，但如果要打造真正的虛擬人，價格在幾十萬到上百萬不等。業(yè)內(nèi)尚未有公司開展逝者虛擬人的服務(wù)，元宇宙初始，業(yè)界關(guān)注更多的是能夠大規(guī)模商用的形象，例如二次元歌姬等。黃斌相信，技術(shù)平民化后，很多人愿意在這個世界留下自己的虛擬人，例如有人患癌早逝，將留下幼小的孩子，會希望保留自己的思維，引導(dǎo)孩子成長。

彭博分析，“復(fù)活”逝者沒有商業(yè)模式。一方面的障礙是成本，另一方面，它不適合廣泛推廣，客戶要做的事情很多，需要收集和上傳逝者的大量資料，“很多人已經(jīng)沒興趣了，因為很麻煩”。

元宇宙進一步發(fā)展后，黃斌擔(dān)憂，更大的風(fēng)險在于不可控制的“社交性”。“一旦虛擬人能夠進入各種各樣的元宇宙社交，能否被社會現(xiàn)有的道德所理解？”黃斌對南方周末記者分析，如果AI逝者僅僅用于和親友聊天，不參與社會交往，只要不違反法律規(guī)定，不存在多大問題，“但是如果他出去社交，問題就很嚴重。比如，自然人愛上了逝者虛擬人，逝者虛擬人愛上了其他虛擬人怎么辦？”

清華大學(xué)人工智能國際治理研究院副院長梁正擔(dān)憂“復(fù)活”后面臨的邊界問題。現(xiàn)在成熟的“深度偽造”技術(shù)，例如換臉、換語音等，已經(jīng)產(chǎn)生了一些欺詐性的風(fēng)險。一旦AI“復(fù)活”的結(jié)果被盜用，顯然比之前的深度偽造技術(shù)有更嚴重的危害性。

會不會打開“潘多拉的魔盒”

“人的逝去留下了一些印記，有歡樂也有痛苦。如果以這種方式留下逝者，帶來的一定是積極的結(jié)果嗎？”梁正對南方周末記者說，“一旦你去干預(yù)了，不想要逝者負面的部分，只想留下美好的內(nèi)容，這還是不是你所認為的那種真實的印記？”

他舉例說，很多人與父母之間存在巨大的認知鴻溝，難以解決，甚至矛盾頻發(fā)。他們在情感上希望希望與父母溝通，但理智上卻明白正常的溝通已經(jīng)難以進行了。如果只保留關(guān)系美好的部分，關(guān)系僵化的部分卻不保留，“這樣是不是一種好的方案？”

人們往往容易理想化地考慮“復(fù)活”的問題，而忽視其中的風(fēng)險——機器在深度學(xué)習(xí)中會產(chǎn)生意想不到的結(jié)果。梁正解釋，如果將AI置于一個開放系統(tǒng)中，在互動中產(chǎn)生了新的信息，將會無法預(yù)知學(xué)習(xí)后的內(nèi)容和產(chǎn)生的影響。比如，如果有人希望職業(yè)選擇得到已故長輩的指導(dǎo)，將不能保證虛擬人給出的是同樣的建議。

“情感、意識和價值，這些純個人體驗是不能被物理數(shù)據(jù)所記錄的，AI做不到，它只是一個模擬問答，僅僅是與逝者相似的風(fēng)格。”梁正說。

在一些AI實踐中，已經(jīng)出現(xiàn)了青少年向AI咨詢自殺的情況，AI甚至搜索出了自殺的案例。梁正擔(dān)心擁有強大互動能力的AI對弱勢群體產(chǎn)生的價值導(dǎo)向。在一些消費領(lǐng)域，AI聊天機器人盛行，滿足日常的消費需求，提供售后服務(wù)等，但當AI進入教育等領(lǐng)域，可能會涉及價值判斷，并非所有人都擁有清醒的判斷能力。

彭博承認，AI內(nèi)容有不可預(yù)料性，“你說我很苦悶，我應(yīng)該怎么做，電腦說你去自殺，這是有實際的案例”，因此需要人工干預(yù)。但是，關(guān)于AI“復(fù)活”，彭博并不過度擔(dān)憂，他認為，對于了解技術(shù)原理的人而言，機器只是像解數(shù)學(xué)題一樣，猜出下一個字，實際上“這個模型沒有任何智力可言”。

“現(xiàn)在的文字模型，它看到蘋果兩個字，不知道蘋果是什么，它沒有見過真的蘋果，沒看過蘋果的圖像視頻，也沒感受過。”彭博對南方周末記者說，“但是以后模型的方向是把各種東西的模態(tài)，文字、圖像、視頻、語音等全部集中在一起。它看到一個蘋果，就可能真的很了解蘋果是什么東西?！?/p>

彭博認為那一天可能不會太遠。他說自己不會去嘗試“復(fù)活”逝者，倒是對機器來扮演自己更感興趣，經(jīng)過訓(xùn)練后，它能夠幫助你處理工作信息等。

用AI“復(fù)活”外公的俞佳霖使用了兩周后，決定永遠封存這個程序。他說，如果有人希望了解，他愿意提供技術(shù)支持。他想起自己失戀時的一段日子，如果那時擁有現(xiàn)在的技術(shù)，會不會打開“潘多拉的魔盒”？“那樣就會既依賴又違法?！?/p>

南方周末記者 張銳

關(guān)鍵詞： 用人工智能復(fù)活逝者 未來可行嗎 人工智能