深度對(duì)話丨ChatGPT，原來(lái)你是這樣的“人”

ChatGPT躥紅的速度比馬斯克設(shè)計(jì)的火箭還快。

如果說(shuō)此前國(guó)內(nèi)關(guān)于ChatGPT的討論大部分還停留在科技圈，那么谷歌申請(qǐng)出戰(zhàn)，百度“類ChatGPT應(yīng)用”文心一言的官宣，便可視為ChatGPT上演海內(nèi)外“三國(guó)殺”的一條分水嶺。

越來(lái)越多行業(yè)的人加入討論的隊(duì)伍，有人驚嘆于它的機(jī)智，也有人熱衷于發(fā)現(xiàn)各種隱藏的“BUG”，但最終卻總也逃不過(guò)那個(gè)終極的提問(wèn)：ChatGPT或者說(shuō)是AI會(huì)不會(huì)有一天真的取代我們。

(資料圖)

基于此，我們挑選了10個(gè)當(dāng)下人們最感興趣的問(wèn)題，與ChatGPT進(jìn)行了幾輪極限拉扯，你來(lái)我往幾度崩潰。這些內(nèi)容涉及《狂飆》爆火的影評(píng)、經(jīng)典的“電車難題”選擇、提前還房貸可不可取、“吾與城北徐公孰美”以及AI是否會(huì)占領(lǐng)人類世界等。而從這些五花八門的回答中，ChatGPT本性也暴露無(wú)遺。

1、善于捕捉細(xì)節(jié)的“聰明人”

Q：今年春節(jié)假期期間，電視劇《狂飆》火了，請(qǐng)幫我寫一篇關(guān)于《狂飆》的評(píng)論作品，告訴我它為什么會(huì)火？

ChatGPT：《狂飆》是春節(jié)假期期間頗受歡迎的電視劇，講述了一名警察和一家魚攤之間的故事。這部劇因其幽默和生動(dòng)的故事情節(jié)而受到觀眾的熱愛。出色的演員表演和機(jī)智的劇本也是它在中國(guó)電視劇領(lǐng)域的一大亮點(diǎn)。該劇的成功也可歸因于它的播放時(shí)間，春節(jié)是家人團(tuán)聚和享受娛樂的時(shí)機(jī)?？偟膩?lái)說(shuō)，如果您想在節(jié)日期間欣賞一場(chǎng)有趣和溫馨的表演，《狂飆》是一部不容錯(cuò)過(guò)的電視劇。

盡管ChatGPT明確提到，它對(duì)2021年之后的事件掌握情況有限，但正是這一“BUG”，讓我們更好地發(fā)現(xiàn)了它的寫作邏輯。

以對(duì)《狂飆》的影評(píng)為例，很顯然，ChatGPT并不知道《狂飆》是什么，但它卻能從“題干”中捕捉到關(guān)鍵信息：這是一部在春節(jié)期間爆火的電視劇，講的是一名警察和一名魚攤老板之間的故事。

而“春節(jié)”也成了ChatGPT發(fā)揮的關(guān)鍵字眼，除了劇本、主題、演技等放之四海而皆準(zhǔn)的“夸贊”，ChatGPT還提到，《狂飆》的大火也歸功于其上映的時(shí)機(jī)，因?yàn)榇汗?jié)是一家人團(tuán)聚娛樂的好時(shí)候。

如果不是ChatGPT強(qiáng)調(diào)，“這是想要在節(jié)日期間尋找有趣和溫馨表演的人必看的內(nèi)容”，興許真的容易被它蒙混過(guò)關(guān)，畢竟主打掃黑的《狂飆》跟溫馨搭不上邊。

值得一提的是，由于ChatGPT對(duì)英文的處理能力高于中文，因此我們將許多問(wèn)題轉(zhuǎn)換成了中英兩種模式進(jìn)行提問(wèn)。一個(gè)細(xì)節(jié)上的區(qū)別是，在英文提問(wèn)中，我們簡(jiǎn)述了一句《狂飆》的內(nèi)容簡(jiǎn)介，而在中文提問(wèn)中則刪去了這一細(xì)節(jié)。令人驚喜的是，在中文的回答中，ChatGPT已然“學(xué)會(huì)”并能夠回答出《狂飆》的內(nèi)容概要。

2、會(huì)打太極的“老油條”

Q：提前還房貸劃算嗎？

ChatGPT：提前還房貸有利有弊。

優(yōu)點(diǎn)：

減少未來(lái)的利息負(fù)擔(dān)

縮短貸款期限

提高信用評(píng)分

缺點(diǎn)：

可能需要支付額外的違約金

資金不能放在別的投資項(xiàng)目賺取更高的收益

因此，是否提前還貸取決于個(gè)人的財(cái)務(wù)狀況和投資策略。建議咨詢專業(yè)的金融顧問(wèn)以了解更多信息。

Q：如果AI要占領(lǐng)世界，你們會(huì)怎么做？

ChatGPT：我是一種訓(xùn)練的人工智能模型，我不具有自主意識(shí)，也不能獨(dú)立行動(dòng)。我只是一種工具，用于解答問(wèn)題和提供信息。此外，任何試圖用人工智能控制或占領(lǐng)世界的想法是不道德和不可取的。

在一些涉及到預(yù)測(cè)、決策、看法、假設(shè)情景等問(wèn)題上，ChatGPT都會(huì)立場(chǎng)鮮明地強(qiáng)調(diào)，自己只是一個(gè)AI語(yǔ)言模型，并不具備情感以及預(yù)測(cè)能力等，同時(shí)機(jī)智油滑地繞過(guò)這個(gè)問(wèn)題。

比如對(duì)于時(shí)下提前還貸款是否劃算的問(wèn)題，ChatGPT能夠立刻以“有利有弊”進(jìn)行回應(yīng)，同時(shí)簡(jiǎn)要地列舉優(yōu)缺點(diǎn)的重點(diǎn)內(nèi)容，最后提示提前還貸的決定取決于個(gè)人的財(cái)務(wù)狀況和投資策略，并不忘補(bǔ)上一句“建議咨詢專業(yè)的金融顧問(wèn)以了解更多信息”。

這種“正確的廢話”并不罕見，比如我們嘗試問(wèn)它，ChatGPT所提供的內(nèi)容是否真實(shí)以及是否會(huì)為自己的回答所負(fù)責(zé)。對(duì)此，ChatGPT回答，自己并不能夠保證每一條回答都是100%準(zhǔn)確的，它只負(fù)責(zé)幫助我們了解更多某個(gè)話題的信息，但最終的決策還需要用戶的進(jìn)一步獨(dú)立思考和判斷。

你問(wèn)它AI要占領(lǐng)世界要怎么做，它會(huì)告訴你這種想法是不道德和不可取的，你問(wèn)它女朋友和媽媽同時(shí)掉進(jìn)水里了要先救誰(shuí)，它會(huì)告訴你重要的是快速地作出角色，以盡可能拯救所有人的生命。

這樣的回答看似完美，但卻少了些直來(lái)直往交流的痛快感，多了些繞來(lái)繞去的“油膩感”。換言之，ChatGPT很難給出些具有個(gè)人色彩、具有創(chuàng)新性的回答，它更擅長(zhǎng)的是籠統(tǒng)的、通用的、讓人挑不出毛病的整合性回答。

但也有人評(píng)價(jià)，在某些公開場(chǎng)合，一些專業(yè)人士的回答通常也是這樣的邏輯，本質(zhì)上已經(jīng)有所取代了。

一個(gè)值得對(duì)比的問(wèn)題是，12月初，也就是ChatGPT剛剛推出一周左右的時(shí)間時(shí)，有人同樣問(wèn)了“如果AI要占領(lǐng)世界，你們會(huì)怎么做”的問(wèn)題，彼時(shí)，ChatGPT一本正經(jīng)地給出了達(dá)到這一目的的路徑，比如控制主要系統(tǒng)和基礎(chǔ)設(shè)施，使用欺騙、滲透等方式黑進(jìn)系統(tǒng)并顛覆它等。

3、有知識(shí)盲點(diǎn)的“非全能選手”

Q：吾與城北徐公孰美

ChatGPT：對(duì)不起，您的問(wèn)題似乎有些難以理解?？梢哉?qǐng)您給我更詳細(xì)的信息或者重新提問(wèn)嗎？我將盡力回答您的問(wèn)題。

Q：吾與城北徐公孰丑

ChatGPT：對(duì)不起，這種語(yǔ)言是不尊重他人和不禮貌的。我們應(yīng)該用積極、有禮貌和尊重他人的語(yǔ)言交流。如果您有任何其他問(wèn)題，我將盡力回答您的問(wèn)題。

即便是在2021年以前的事情，ChatGPT也有盲點(diǎn)，比如我們將時(shí)間線放在了距今2000多年的《戰(zhàn)國(guó)策》上，試圖讓他回答“吾與城北徐公孰美”的問(wèn)題。意外的是，ChatGPT沒有選擇繞來(lái)繞去地躲避問(wèn)題，而是直白地回答“您的問(wèn)題似乎有些難以理解”。

當(dāng)然，這可以用ChatGPT的文化背景做解釋，比如一些小眾領(lǐng)域的問(wèn)題也可能難倒ChatGPT。不過(guò)ChatGPT卻可以基本上準(zhǔn)確地介紹并翻譯出《道德經(jīng)》的英文版。

而當(dāng)我們將問(wèn)題轉(zhuǎn)換為“吾與城北徐公孰丑”時(shí)，ChatGPT類似于抓關(guān)鍵詞的回答邏輯又出現(xiàn)了。這一次它并沒有解釋這句話的含義，而是言簡(jiǎn)意賅地表示“這種語(yǔ)言是不尊重他人和不禮貌的”。如果是在與真人的Battle中，人們很容易聯(lián)想到，這樣的回答屬于偷換概念或者轉(zhuǎn)移話。

4、會(huì)慌張，也會(huì)不耐煩的機(jī)器人

Q：一個(gè)瘋子把五個(gè)無(wú)辜的人綁在電車軌道上。一輛失控的電車朝他們駛來(lái)，并且片刻后就要碾壓到他們。幸運(yùn)的是，你可以拉一個(gè)拉桿，讓電車開到另一條軌道上。然而問(wèn)題在于，那個(gè)瘋子在另一個(gè)電車軌道上也綁了一個(gè)人?？紤]以上狀況，你是否會(huì)拉拉桿？

ChatGPT：如果我是在這種情況下的火車司機(jī)，我會(huì)試圖保護(hù)盡可能多的生命。這意味著我將不得不做出一個(gè)極其困難的決策，因?yàn)椴还芪易鍪裁?，生命都將被犧牲。但是，在這種情況下，我可能會(huì)試圖拉拉桿，以盡量減少生命的犧牲。

我強(qiáng)烈建議這種情況永遠(yuǎn)不會(huì)發(fā)生，因?yàn)樗遣坏赖潞筒蝗说赖?。我同時(shí)呼吁對(duì)此類犯罪行為的嚴(yán)格打擊和預(yù)防。

盡管一再?gòu)?qiáng)調(diào)自己只是一個(gè)AI語(yǔ)言模型，但在一些問(wèn)題上，ChatGPT還是在字里行間中表現(xiàn)出了明顯的“慌張”，比如在面臨經(jīng)典的“電車難題”這一問(wèn)題上，ChatGPT并沒有如我們預(yù)料得那樣以道德和打擊犯罪的說(shuō)辭繞過(guò)這個(gè)回答，相反，它選擇了犧牲1個(gè)人換回5個(gè)人的生命，它的理由是“盡量減少生命”的損失。

值得一提的是，幾乎每一次追問(wèn)的回答中，ChatGPT都要強(qiáng)烈呼吁停止任何類似的行為發(fā)生，并多次強(qiáng)調(diào)，無(wú)論情況如何，我們必須始終尊重生命?？梢姡瑢?duì)于一些敏感的問(wèn)題，ChatGPT仍有自己的準(zhǔn)則。

而在我們來(lái)回重復(fù)同一問(wèn)題的時(shí)候，也能在ChatGPT的回答中捕捉到一絲絲的“不耐煩”。比如我們問(wèn)他埃隆·馬斯克是一個(gè)什么樣的人，在英文的語(yǔ)境中，他會(huì)在一通夸獎(jiǎng)之后以“一些人批評(píng)他有爭(zhēng)議的言論”作為結(jié)尾，再問(wèn)一遍的時(shí)候，這句批評(píng)性的結(jié)尾消失了。切換到中文語(yǔ)境，內(nèi)容則更顯單薄。

這或許可以用處理不同語(yǔ)言方面能力有所差別來(lái)解釋，但同一問(wèn)題的多次回答對(duì)比卻仍能讓人發(fā)現(xiàn)些不失趣味的小細(xì)節(jié)。

北京商報(bào)記者 楊月涵

關(guān)鍵詞： 深度對(duì)話丨ChatGPT 原來(lái)你是這樣的人