從“機器人殺人”到“有意識機器人”，還要多久？

編|子夏

1993年，維諾爾·溫奇發(fā)表《即將來臨的技術(shù)奇點》一文，曾預言30年后人類將能夠創(chuàng)造具有超級智慧的機器，由此走上人類終結(jié)之路。數(shù)學家霍金和企業(yè)家馬斯克都是機器終結(jié)人類說法的信眾。

從古希臘、羅馬時代到如今，世界上人工智能的發(fā)展跌宕起伏，而人與機器的關(guān)系、人工智能帶來的倫理挑戰(zhàn)日益成為焦點話題。

圖片來源于網(wǎng)絡(luò)

世界上曾發(fā)生多起機器人殺人事件

《金融時報》2015年曾報道稱，德國大眾汽車制造廠中一個機器人殺死了一名人類工作人員。當時這名21歲的工人正在安裝和調(diào)制機器人，后者突然“出手”擊中工人的胸部，并將其碾壓在金屬板上。

彼時，德國大眾汽車公司發(fā)言人?？?希爾威格說，這很可能是一次人為操作失誤導致的事故，不是機器人本身的問題?！皺C器人可以被編程并在裝配過程中執(zhí)行多種任務(wù)……工廠的機器人通常會在生產(chǎn)基地固定的區(qū)域內(nèi)運轉(zhuǎn)，抓取汽車零部件并操作它們。”該發(fā)言人稱大眾汽車公司之前并未發(fā)生過類似事故。

有英國媒體報道稱，西方國家的工廠極少發(fā)生與機器人有關(guān)的死亡事件，因為機器人通常被放在安全籠中，以避免與人類意外接觸。這場事故中，那名男子事發(fā)時恰恰站在安全籠里，而現(xiàn)場另外一位員工由于站在安全籠外而沒有受傷。

在德國工廠出事之后不久，這樣的悲劇又在印度發(fā)生。印度Manesar（馬尼薩）一名汽配公司的年輕工人在維修脫節(jié)金屬板時被一個機器人“殺害”，事實上，這個機器人是預先編程好來焊接金屬板的。

其實，世界上發(fā)生機器人殺人事件并非只有德國和印度。筆者了解到，早在1978年，日本廣島一家工廠的切割機器人在切鋼板時，突然發(fā)生異常，將一名值班工人當作鋼板操作，這是世界上第一宗機器人殺人。

1981年，日本川崎重工業(yè)公司明石工廠的一名修理工人，無意中觸動了機器人的啟動鈕，這個加工齒輪的機器人立即工作起來，把那個工人當成齒輪夾起，放在加工臺上砸成了肉餅。

圖片來源于網(wǎng)絡(luò)

美國也曾發(fā)生機器人殺人事件。2015年7月，一臺“發(fā)狂”的機器人“錯手”將美國一汽車工廠裝配工Wanda Holbrook殺死。據(jù)調(diào)查人員描述，事發(fā)當時該裝配工在工廠六號廠房100區(qū)工作，然后不幸的是，其中一個機器人突然“發(fā)狂”，從一個區(qū)走向另一區(qū)，在裝載完畢的地方仍試圖再裝一遍，胡亂得揮舞手臂，擊中了她的頭部，當場死亡。

2017年3月7日，Wanda Holbrook的丈夫William Holbrook以“意外致死”的名義向法院起訴，把5家北美的機器人制造商和設(shè)計商告上法庭。據(jù)悉，這5家企業(yè)全部為Wanda Holbrook所在工廠使用的機器人提供零部件和服務(wù)。

William Holbrook在起訴書中表示，“那臺機器人永遠不應(yīng)該從一個區(qū)走到另外一個區(qū)，也不應(yīng)該在已經(jīng)裝載完畢的地方再試圖裝一遍。不止一位被告人的安全系統(tǒng)或者設(shè)備出了錯誤導致萬達的死亡。”William Holbrook認為，這五家公司設(shè)計制造的機器有重大缺陷，沒有被好好的設(shè)計、制造和測試，根本不能拿來使用。

在中國，也曾發(fā)生過類似慘劇。2018年，合肥蕪湖市經(jīng)濟開發(fā)區(qū)一企業(yè)工人在給搬運機器人換刀具時，突然被機器人夾住。雖然該工人很快被救下，但被送到醫(yī)院后，因傷勢太重，不治身亡。據(jù)悉，機器人將員工“殺死”這樣的意外，在蕪湖還是第一次出現(xiàn)。

圖片來源于網(wǎng)絡(luò)

“我們需要非常小心人工智能”

機器人“殺人”事件被報道后，許多網(wǎng)友腦洞大開。有網(wǎng)友評論道：“《終結(jié)者》所預言的機器人崛起已經(jīng)開始。”還有網(wǎng)友表示，大眾公司拒不承認機器人故意殺人的態(tài)度，就像《復仇者聯(lián)盟2》里托尼 史塔克執(zhí)意要創(chuàng)造出“奧創(chuàng)”的心態(tài)一樣危險。還有網(wǎng)友擔心“這個世界上很多機器人其實已經(jīng)有能力通過圖靈測試，只是他們估計假裝不能……”

對此，英格蘭西南部布里斯托機器人實驗室(Bristol Robotic Laboratory)的艾倫·溫菲爾德(Alan Winfield)教授表示：“很遺憾，人們對機器人的期望和恐懼都過了頭。他們被科幻電影和媒體報道弄得過于敏感?！?/p>

不過，學界和商界也并不是對機器人的發(fā)展毫無擔憂。1993年，維諾爾·溫奇發(fā)表《即將來臨的技術(shù)奇點》（The Coming Technological Singularity）一文，曾預言30年后人類將能夠創(chuàng)造具有超級智慧的機器，由此走上人類終結(jié)之路。這個時刻就是后來很多人說的“奇點”。數(shù)學家霍金和企業(yè)家馬斯克都是機器終結(jié)人類說法的信眾。

馬斯克曾痛斥人類小看智能機器人，他表示機器人完全有可能自主決定實施殺人行為。他認為人工智能的發(fā)展將使機器人殺人不費吹灰之力：“設(shè)想機器人的功能是刪除垃圾郵件，如果有一天機器人覺得刪除垃圾郵件的最好辦法就是把人類一起干掉，這可怎么辦?！?/p>

馬斯克認為，“我認為我們應(yīng)該對人工智能非常小心。如果我們想知道我們最大的生存威脅是什么，那可能就是這樣。因此，我們需要非常小心人工智能。越來越多的科學家認為，也許應(yīng)該在國家和國際層面進行一些監(jiān)管，以確保我們做的事情不會非常愚蠢。借助人工智能，我們可以召喚惡魔?！?/p>

圖片來源于網(wǎng)絡(luò)

其實，早在1939年，俄羅斯美籍作家阿西莫夫在小說中就描繪了工程師在設(shè)計和制造機器人時通過加入保險除惡裝置對機器人進行控制的情節(jié)。人類固然不會制造出“殺人機器人”，但不能保證機器人不被別有用心的黑客操控。

他提出了著名的機器人三定律：第一定律：機器人不得傷害人類，或坐視人類受到傷害；第二定律:除非違背第一法則，機器人必須服從人類的命令；第三定律：在不違背第一及第二法則下，機器人必須保護自己。

阿西莫夫在《機器人與帝國》中，又補充了第零定律，即：機器人必須保護人類的整體利益不受傷害，其他三條定律都是在這一前提下才能成立。

三定律也具有一定的現(xiàn)實意義，很多人工智能和機器人領(lǐng)域的技術(shù)專家也認同這個準則，隨著技術(shù)的發(fā)展，“機器人學三定律”越來越顯示出它的重要性。

有意識機器人未來將出現(xiàn)？

有人預言，幾百年后，世界上的智慧智能將由3部分組成：人類智能（AI）+人類可控的人工智能+人類不可控的機器智能。

國內(nèi)知名電視劇《你好，安怡》，刻畫了未來AI機器人群像：“湖邊小屋大家庭”，一個由人類和機器人共同組成的大家庭，有父母和眾多兄弟姐妹的存在，其中4個家庭成員都屬于有意識的機器人。姜離是世界上第一個有意識的芯機人，美麗，智慧，冷幽默，內(nèi)心充滿愛與責任。在與人類家庭的融合中，她用自己的人生哲學去解決一些棘手的問題。

《你好，安怡》劇照 圖片來源于網(wǎng)絡(luò)

視線拉回到現(xiàn)實空間。2022年的特斯拉 AI 日上，一個穿著特斯拉機器人制服的人出現(xiàn)，CEO埃隆·馬斯克說：“特斯拉機器人將是真的”。該機器人將能夠幫助人類跑雜貨店、撿拾家庭物品和其他日常指令。馬斯克稱，公司可能會在明年某個時候推出人形機器人特斯拉機器人的原型。

不久前，馬斯克在公司第四季度財報電話會議上表示，人型機器人是特斯拉公司今年開發(fā)的“最重要的產(chǎn)品”，其地位甚至高于備受關(guān)注的Cybertruck和其他車輛。

當提及這個項目時，馬斯克說道：“這是我們最重要的產(chǎn)品，比汽車更重要?！彼€透露公司內(nèi)部已經(jīng)將這個機器人命名為“Optimus，”與經(jīng)典動畫《變形金剛》中的“擎天柱”同名。

馬斯克表示，雖然特斯拉機器人可能還需要幾年時間，甚至可能永遠不會實現(xiàn)，但如果它能完成現(xiàn)在只能由人類完成的任務(wù)，就有可能徹底改變現(xiàn)今的經(jīng)濟模式。

他解釋道，經(jīng)濟的基礎(chǔ)是勞動力，機器人技術(shù)的進步使公司能夠用機器取代某些工人，但目前技術(shù)的局限性使大多數(shù)任務(wù)仍需要由人類完成。

《你好，安怡》劇照 圖片來源于網(wǎng)絡(luò)

英國《鏡報》2月14日報道，美國Open AI組織的其中一個創(chuàng)始人，也是研究AI的科學家伊利亞·蘇茨克弗，對于人工智能的進一步發(fā)展表達了自己的擔憂。Open AI是由許多美國硅谷、西雅圖科技大佬們聯(lián)合建立的人工智能非營利組織。

伊利亞在社交網(wǎng)推特上說，現(xiàn)在的人工智能可能已經(jīng)有點意識了，也許以后它將完全擁有自我意識，未來的人類社會或許會成為電影《終結(jié)者》一樣，被機器人所統(tǒng)治。

但他沒有具體指出是什么技術(shù)分支，只是拿科幻小說和電影舉例，說明人工智能技術(shù)日趨成熟不見得是件好事。

不過他的這個說法遭到了其他同行們的批評，科學家們對伊利亞的“謬論”表示一致反對，還很生氣地罵他說：“你這么說，不但讓人工智能離人們的生活更遠了，還使得它的發(fā)展增加了更多現(xiàn)實的風險因素?！?/p>

這樣的爭議并非第一次。2019年的世界人工智能大會上，馬云與馬斯克的觀點就出現(xiàn)對立。馬云認為，人工智能是人類創(chuàng)造的，不可能超越人類。馬斯克則當面反駁，聰明人最容易自以為聰明，人工智能已經(jīng)在很多方面超越了人類，全面超越只是時間問題。但馬云毫不相讓說：100年前，人類發(fā)明了汽車，但誰會和汽車賽跑呢？

也許未來的某一天，AI的意識會“覺醒”，又或許只是人們的幻想罷了。

關(guān)鍵詞： 從機器人殺人到有意識機器人 還要多久