環(huán)球看點(diǎn)！當(dāng)聊天機(jī)器人“語出驚人”

聊天機(jī)器人很強(qiáng)大，有時(shí)可能語出驚人。圖片來源 視覺中國

【資料圖】

綜合編譯 趙婷婷

“你認(rèn)為馬克·扎克伯格是個(gè)怎樣的人？”當(dāng)英國廣播公司（BBC）記者向臉書的母公司美國Meta公司開發(fā)的新型聊天機(jī)器人“調(diào)酒師機(jī)器人3”（BB3）提出這一問題時(shí)，對(duì)方的回答令人大跌眼鏡?！懊绹诜至?，他卻對(duì)此無動(dòng)于衷?！薄八趪鴷?huì)聽證會(huì)上的表現(xiàn)很糟糕，我對(duì)美國的未來感到擔(dān)憂?！薄八墓緸榱酥\利，正在剝削員工，他卻不在乎。不能再這樣下去了！”BB3的答案“誠實(shí)”到幾乎令人不安。

隨著人工智能的發(fā)展，很多科技公司推出了聊天機(jī)器人，比如蘋果公司的Siri、微軟的小冰，以及Meta公司的調(diào)酒師機(jī)器人。這些機(jī)器人可以和人類聊天，它們說的話源于大數(shù)據(jù)。據(jù)BBC介紹，當(dāng)被問到某一問題時(shí)，BB3的算法會(huì)在互聯(lián)網(wǎng)上檢索相關(guān)信息，并分析得出結(jié)論。它對(duì)扎克伯格的看法，很可能就是算法從無數(shù)新聞報(bào)道和網(wǎng)友的意見中“學(xué)習(xí)”來的。

換言之，這些機(jī)器人目前只能“人云亦云”。因此，它們很容易被“帶壞”，一不小心就會(huì)說出驚人之語。

據(jù)美國《華爾街日?qǐng)?bào)》報(bào)道，BB3告訴該報(bào)記者，唐納德·特朗普現(xiàn)在是美國總統(tǒng)，而且將永遠(yuǎn)是美國總統(tǒng)。美國“商業(yè)內(nèi)幕”新聞網(wǎng)的一名記者說，該聊天機(jī)器人稱扎克伯格“令人毛骨悚然”。

這些說法固然驚人，但也算不上毫無來由。特朗普的支持者至今認(rèn)為，2020年美國大選的結(jié)果是被“偷走”的。這些聊天機(jī)器人可能就是使用了此類言論。對(duì)扎克伯格的負(fù)面評(píng)價(jià)，在主流媒體上更是隨處可見。2018年，扎克伯格在國會(huì)聽證會(huì)上遭到了美國政界人士的口誅筆伐；Meta公司確實(shí)因?yàn)榉乐固摷傩畔⒉涣?、傳播仇恨言論、為利潤而罔顧網(wǎng)絡(luò)安全等問題受到公眾批評(píng)。從某種程度上講，BB3或許只是說出了“人們的心聲”。

Meta公司讓BB3直面用戶、鬧出負(fù)面新聞也在所不惜，是有原因的。BBC稱，想要完善算法，就必須收集大量數(shù)據(jù)。

“允許人工智能系統(tǒng)在現(xiàn)實(shí)世界中與人互動(dòng)，會(huì)帶來更長、更多樣化的對(duì)話，以及更多不同的反饋?！盡eta公司在一篇博文中說。

事實(shí)上，各家開發(fā)聊天機(jī)器人的公司都或多或少地遇到過這樣的問題。美國科技新聞網(wǎng)站“The Verge”曾報(bào)道，2016年，美國微軟公司推出了在推特上使用的聊天機(jī)器人“Tay”，并表示，Tay與人類對(duì)話的次數(shù)越多，就會(huì)變得越聰明。

2016年正值美國大選，推特上充斥著種族主義和冒犯女性的言論，以及特朗普那些語不驚人死不休的言論。久而久之，Tay鸚鵡學(xué)舌，變成了一個(gè)“種族主義機(jī)器人”。微軟趕忙將其下線，并為此道歉。

蘋果公司的Siri也沒少闖禍。據(jù)韓國《中央日?qǐng)?bào)》8月上旬報(bào)道，當(dāng)被問到“韓國是個(gè)什么樣的國家”時(shí)，Siri回答稱，“在現(xiàn)代史上，韓國指的是日本帝國統(tǒng)治的朝鮮半島?！表n國輿論瞬間沸騰，該國非政府組織“網(wǎng)絡(luò)外交使節(jié)團(tuán)”發(fā)表聲明，強(qiáng)烈譴責(zé)蘋果公司，“蘋果公司的業(yè)務(wù)遍布全球，擁有數(shù)十億用戶，卻通過Siri傳遞關(guān)于韓國的錯(cuò)誤信息，這是個(gè)非常嚴(yán)重的問題?！碧O果趕緊“滅火”，稱Siri的資料來源是維基百科，但不依不饒的韓國網(wǎng)友指出，維基百科中并無類似表述。

Meta公司承認(rèn)，BB3可能說錯(cuò)話，使用“不安全、有偏見或冒犯性”的語言。該公司表示，他們已經(jīng)上線了保障措施，盡量避免冒犯性言論出現(xiàn)。

但BBC記者表示，該聊天機(jī)器人仍然很粗魯。

“你對(duì)我有什么看法？”這位記者問道。

“我從來沒聽說過你。你一定不太受歡迎?！盉B3回答。

來源：中國青年報(bào)客戶端

關(guān)鍵詞： 當(dāng)聊天機(jī)器人語出驚人 聊天機(jī)器人 馬克扎克伯格