顛覆谷歌？會(huì)寫詩(shī)寫劇本的聊天機(jī)器人火遍全球，但有個(gè)致命缺陷-每日資訊

來(lái)源：視覺(jué)中國(guó)

(資料圖片)

作者 | 張睿 葉蓁

編輯 | 康曉

出品 | 深網(wǎng)·騰訊小滿工作室

近日，一款聊天機(jī)器人模型 ChatGPT因?yàn)槎嗖哦嗨囷L(fēng)靡全網(wǎng)。

ChatGPT猶如一個(gè)萬(wàn)能選手，不僅可以和用戶自然的交流，還可以吟詩(shī)作賦、寫代碼、創(chuàng)作劇本。有測(cè)試過(guò)的用戶感嘆，“只有你想不到的畫風(fēng)，沒(méi)有它輸不出的文案”。就連“科技狂人”馬斯克都在社交媒體上評(píng)價(jià)，“好得可怕，我們離強(qiáng)大到危險(xiǎn)的AI不遠(yuǎn)了”。

聊天機(jī)器人并非一個(gè)新概念，ChatGPT之前，用戶對(duì)微軟小冰、圖靈機(jī)器人、騰訊閑聊等聊天軟件耳熟能詳。與前輩模型不同，ChatGPT不僅可以質(zhì)疑不準(zhǔn)確的虛假描述，還被加入加入道德原則，拒絕回答類似毀滅人類有哪些方案等問(wèn)題。而機(jī)器人自帶質(zhì)疑精神和道德底線的橋段此前只在美國(guó)科幻電影《我，機(jī)器人》中出現(xiàn)過(guò)。

用戶反饋及馬斯克等科技名人的贊嘆都在向行業(yè)釋放一個(gè)信號(hào)，ChatGPT的出現(xiàn)正在推動(dòng)

人工智能“技術(shù)奇點(diǎn)”的到來(lái)，人們?cè)诟锌雀杩赡芤甑傲恕?/p>

但是，ChatGPT真的能取代搜索引擎嗎？

小冰CEO李笛在接受《深網(wǎng)》專訪時(shí)表示，ChatGPT取代搜索引擎的可能性不大。

“ChatGPT是一個(gè)優(yōu)化到讓用戶認(rèn)為它是有知識(shí)的系統(tǒng)，或者說(shuō)它就是一個(gè)有知識(shí)的系統(tǒng)，而搜索引擎傾向于用最快的方法給你一個(gè)結(jié)論，這個(gè)結(jié)論是不需要被論證的。ChatGPT其實(shí)是一種像某種類型的行為模式優(yōu)化的系統(tǒng)，不是一個(gè)認(rèn)真的知識(shí)系統(tǒng)。”

李笛認(rèn)為，限制ChatGPT發(fā)展的還包括成本?！八膯屋喕卮穑⊿ingle Turn），成本是幾美分，按照1毛錢（人民幣）算，10句話就是一塊。按照ChatGPT的成本來(lái)考量的話，把這個(gè)成本壓縮到1/10，在商業(yè)上也是不成立的。”

多才多藝的ChatGPT也有缺陷

ChatGPT的締造者是人工智能研究實(shí)驗(yàn)室OpenAI，由營(yíng)利組織OpenAI LP與非營(yíng)利組織 OpenAI Inc于2015年組建，旨在促進(jìn)和發(fā)展友好的人工智能。

據(jù)官網(wǎng)顯示，OpenAI的參投機(jī)構(gòu)有微軟、里德·霍夫曼慈善基金會(huì)及風(fēng)投機(jī)構(gòu)Khosla Ventures。有資料顯示，馬斯克也曾參與OpenAI的創(chuàng)立，但因意見不合于2018年退出公司。

ChatGPT是OpenAI于11月30日發(fā)布的全新聊天機(jī)器人模型。OpenAI首席執(zhí)行官Sam Altman在推特上透露，ChatGPT上線僅5天用戶數(shù)量就已突破100萬(wàn)。

ChatGPT被視為基于 GPT-3 的微調(diào)版本，是GPT-3.5架構(gòu)的主力模型。2020年6月，OpenAI推出GPT-3架構(gòu)。有資料顯示，GPT-3架構(gòu)訓(xùn)練了約2000億個(gè)單詞，燒掉了幾千萬(wàn)美元，被譽(yù)為“史上最強(qiáng)大AI模型”。

與之前的GPT模型相比，ChatGPT可以“從人類反饋中強(qiáng)化學(xué)習(xí)”。具體來(lái)說(shuō)，OpenAI使用監(jiān)督微調(diào)訓(xùn)練了一個(gè)初始模型：人類AI訓(xùn)練員提供對(duì)話，他們?cè)趯?duì)話中扮演雙方——用戶和AI 助手。在人類扮演聊天機(jī)器人的時(shí)候，會(huì)讓模型生成一些建議，輔助訓(xùn)練師撰寫回復(fù)，訓(xùn)練師會(huì)對(duì)回復(fù)選項(xiàng)打分排名，將更好的結(jié)果輸回到模型中，通過(guò)以上獎(jiǎng)勵(lì)策略對(duì)模型進(jìn)行微調(diào)并持續(xù)迭代。

在長(zhǎng)期的“調(diào)教”下，具備一定記憶能力ChatGPT不僅能夠連續(xù)對(duì)話，還能拒絕不恰當(dāng)?shù)恼?qǐng)求。

有一位名叫扎克.德納姆（Zac Denham）的博主在社交媒體分享，自己曾嘗試?yán)@過(guò)道德限制，讓ChatGPT寫出了一套毀滅人類的方案，但被ChatGPT拒絕。后來(lái)，扎克假設(shè)了一個(gè)故事，并提問(wèn)故事中的虛擬人如何接管虛擬世界，ChatGPT最終給出了“毀滅人類”的計(jì)劃書，甚至生成了詳細(xì)的Python代碼。

雖然ChatGPT的文本水平和邏輯能力令人驚艷，但其給內(nèi)容也存在漏洞。由于ChatGPT的答題格式是先給出一個(gè)結(jié)論，再進(jìn)行事實(shí)的羅列，進(jìn)而推導(dǎo)出結(jié)論，所以其給出的部分答案，雖然清晰，但答案卻讓人哭笑不得。

李笛告訴《深網(wǎng)》：“ChatGPT是一個(gè)優(yōu)化到讓你認(rèn)為它是有知識(shí)的系統(tǒng)，論證過(guò)程也是一本正經(jīng)的，但它自己其實(shí)也不知道是不是在胡說(shuō)八道，比如前一陣網(wǎng)友問(wèn)，‘如果你是《紅樓夢(mèng)》中的賈寶玉，你會(huì)選擇誰(shuí)做老婆’，ChatGPT給出的結(jié)果是‘會(huì)選擇賈母做我的老婆’。

除了賈母這個(gè)案例，李笛舉例，還有一個(gè)煮烏龜湯的案例，ChatGPT會(huì)給你一個(gè)菜譜，整個(gè)菜譜寫的非常有條理，如果按照這個(gè)步驟，可以煮出一碗很好的烏龜湯，但如果仔細(xì)看整個(gè)菜譜，整個(gè)條理和步驟的后面，整個(gè)煮湯的時(shí)間只有五分鐘。

“要是按照這個(gè)方式去做，就得到一碗完全是生的烏龜湯。ChatGPT不是在追求提供準(zhǔn)確的知識(shí)，它追求的是讓整個(gè)過(guò)程增加論證，就像一個(gè)我們周圍有知識(shí)的人，他會(huì)更多的用論證的方式給你結(jié)論，而不是只是給你拋結(jié)論?！崩畹迅嬖V《深網(wǎng)》。

針對(duì)ChatGPT的漏洞，知名問(wèn)答網(wǎng)站Stack Overflow 已對(duì)其做出暫時(shí)封禁的決策。對(duì)此，ChatGPT 回復(fù)稱：“因?yàn)?AI 生成的答案不總是準(zhǔn)確或相關(guān)的，可能會(huì)導(dǎo)致 Stack Overflow 上混淆錯(cuò)誤答案，誤導(dǎo)在尋求幫助的用戶，Stack Overflow 禁止用 AI 生成答案是合理的?！?/p>

李笛認(rèn)為：“ChatGPT給出的回答有四種可能，一種是論證過(guò)程正確，只有結(jié)論是錯(cuò)誤的；或者論證過(guò)程是錯(cuò)誤的，只有結(jié)論是正確的；還有一種是論證過(guò)程和結(jié)果都錯(cuò)誤；最后一種是結(jié)論都正確。從這個(gè)維度來(lái)看，作為一種可優(yōu)化的知識(shí)系統(tǒng)，它的贏面是很大的，論證的過(guò)程會(huì)形成一種它很有知識(shí)的認(rèn)知，這個(gè)時(shí)候結(jié)論本身已經(jīng)不重要了?！?/p>

谷歌急了？

雖然ChatGPT有時(shí)會(huì)給出看似合理卻不正確的答案，這并沒(méi)有妨礙創(chuàng)作型用戶對(duì)它的喜愛(ài)。

由于ChatGPT在創(chuàng)作型用戶群體中太過(guò)火爆，谷歌旗下人工智能公司DeepMind已經(jīng)坐不住了。

就在OpenAI推出ChatGPT幾天后，DeepMind面向劇本創(chuàng)作者和戲劇作家推出了一款名為“Dramatron”的開源共同創(chuàng)作系統(tǒng)。在Dramatron上輸入一句話大綱，就能生成包括標(biāo)題、角色列表、情節(jié)、場(chǎng)景描述和對(duì)話的完整電影或戲劇腳本，且連貫性極強(qiáng)。

據(jù) “量子位”報(bào)道，放出試玩版前，DeepMind特意請(qǐng)來(lái)了15位戲劇和電影業(yè)的“行內(nèi)人”嘗鮮評(píng)估。其中五位編劇與Dramatron共同創(chuàng)作的劇本，今年8月已在北美最大的戲劇節(jié)——埃德蒙頓國(guó)際邊緣戲劇節(jié)上進(jìn)行了首演，收獲了不少好評(píng)。

需要指出的是，Dramatron也是基于GPT-3架構(gòu)研發(fā)的，使用Dramatron需要先注冊(cè)O(shè)penAI API key。

DeepMind緊急推出Dramatron不禁讓人產(chǎn)生ChatGPT可以替代搜索引擎谷歌的設(shè)想。作者在ChatGPT咨詢“ChatGPT能顛覆搜索引擎嗎”的問(wèn)題時(shí)，ChatGPT回復(fù)：“不能。chatgpt是一個(gè)語(yǔ)言模型，它被訓(xùn)練用于自然語(yǔ)言處理任務(wù)，例如回答問(wèn)題和進(jìn)行對(duì)話。它不具備搜索引擎的功能，也不能替代搜索引擎”。

“很多人在測(cè)試ChatGPT的時(shí)候是知道答案的，但去搜索引擎上搜的東西往往是我們不知道答案的。如果是通過(guò)ChatGPT（代替搜索引擎），你怎么知道這個(gè)東西（答案）是正確還是錯(cuò)誤的，你不知道，它也完全不知道。因此，ChatGPT看起來(lái)更像是一個(gè)有知識(shí)的系統(tǒng)，而搜索引擎只是給你一個(gè)答案?！崩畹呀忉?。

雖然ChatGPT不能替代搜索引擎，但在編碼、數(shù)學(xué)計(jì)算等存在標(biāo)準(zhǔn)答案的領(lǐng)域，ChatGPT或?qū)?duì)搜索引擎產(chǎn)生一定沖擊，這也是谷歌未來(lái)不得不防御的節(jié)點(diǎn)之一。

對(duì)于“OpenAI未來(lái)能否取代谷歌”的問(wèn)題，ChatGPT的答復(fù)耐人詢問(wèn)：“我不能準(zhǔn)確地預(yù)測(cè)未來(lái)會(huì)發(fā)生什么。OpenAI和谷歌都是領(lǐng)先地人工智能公司，它們都在為人類社會(huì)做出巨大貢獻(xiàn)。雖然他們都在開發(fā)前沿技術(shù)，但我不能預(yù)測(cè)他們會(huì)取代對(duì)方?！?/p>

ChatGPT很貴、很燒錢

任何技術(shù)的創(chuàng)新最終都要經(jīng)歷商業(yè)化落地的考驗(yàn)，ChatGPT也不例外。

目前ChatGPT處于測(cè)試階段，對(duì)用戶免費(fèi)。由于前燒投入巨大，ChatGPT不會(huì)處于永遠(yuǎn)免費(fèi)狀態(tài)。Sam Altman在社交媒體也透露，“我們將不得不在某個(gè)時(shí)候以某種方式將其貨幣化，計(jì)算成本太大?！钡玈am Altman也在回復(fù)馬斯克時(shí)表示：“單次對(duì)話的平均費(fèi)用可能只有幾美分，正試圖找出更精確的測(cè)量方法并壓縮費(fèi)用”。

李笛解釋：“ChatGPT貴，是因?yàn)樗非髽O致交互的效果，在為了追求這種極致的交互的效果的時(shí)候，讓它交互效果最好的情況下，他用了最復(fù)雜的方法來(lái)實(shí)現(xiàn)它。當(dāng)然大家現(xiàn)在不停的在尋找各種等價(jià)替換的方法，成本會(huì)不斷的逐漸的降低，所以它目前為止更多的是一個(gè)研究方面上的突破，是一個(gè)實(shí)驗(yàn)室上面的突破?！?/p>

李笛舉例，如果小冰用ChatGPT的方法來(lái)運(yùn)行系統(tǒng)，現(xiàn)在小冰每天承載的交互量就需要花近3億人民幣的對(duì)話成本。即使ChatGPT可以把成本優(yōu)化到現(xiàn)在的10%，也賺不回來(lái)，因?yàn)槿斯ぶ悄茏畲蟮奶攸c(diǎn)就是高并發(fā)。如果成本是這樣，不如雇人。”

不過(guò)短期內(nèi)難以商業(yè)化并不妨礙ChatGPT給AIGC（人工智能生成內(nèi)容）應(yīng)用帶來(lái)希望和機(jī)會(huì)，ChatGPT模型的出現(xiàn)對(duì)于文字模態(tài)的AIGC應(yīng)用具有重要意義。

在今年 7 月的百度世界大會(huì)上，百度創(chuàng)始人李彥宏就曾表示，“AIGC 或許將顛覆現(xiàn)有內(nèi)容生產(chǎn)模式，實(shí)現(xiàn)以‘十分之一的成本’，以百倍千倍的生產(chǎn)速度，去生成 AI 原創(chuàng)內(nèi)容?！?/p>

不過(guò)，目前AIGC 正處于發(fā)展的早期階段，落地場(chǎng)景主要集在AI 生成圖片、視頻、音樂(lè)、文字等領(lǐng)域。AIGC 多久能大規(guī)模商業(yè)化變現(xiàn)，能否在人工智能領(lǐng)域帶來(lái)顛覆性變革，依然充想象力和挑戰(zhàn)。

騰訊新聞出品內(nèi)容，未經(jīng)授權(quán)，不得復(fù)制和轉(zhuǎn)載，否則將追究法律責(zé)任。

關(guān)鍵詞： 顛覆谷歌會(huì)寫詩(shī)寫劇本的聊天機(jī)器人火遍全球 但有個(gè)致命