處理器也會(huì)“成長”“成熟”起來？AI時(shí)代真正需要警惕的其實(shí)是它……

近期在英國亮相的“世界最先進(jìn)機(jī)器人”表情之豐富，令人驚嘆它仿佛具有了思維與意識(shí)。而更有機(jī)器人研制公司宣稱，幾年內(nèi)就會(huì)出現(xiàn)具有完全意識(shí)的機(jī)器。

人工智能是否會(huì)擁有意識(shí)，是一個(gè)熱門話題。一旦機(jī)器智能擁有記憶和自我意識(shí)，按照自己的意念而非設(shè)定程序行事，這是否就到達(dá)了人工智能的最高階段了？它真的可以通過硅與金屬這樣的硬件來實(shí)現(xiàn)嗎？或者，它真有可能在游戲中產(chǎn)生嗎？

人工智能會(huì)產(chǎn)生意識(shí)嗎？

美國密歇根州立大學(xué)人工智能專家阿倫德·欣茨曾將機(jī)器智能劃為四個(gè)階段：

第一階段是反應(yīng)機(jī)器，即只能進(jìn)行反應(yīng)，但沒有記憶能力，也無法利用過去的經(jīng)驗(yàn)來制定現(xiàn)在的決策；

第二階段是有限記憶機(jī)器，它會(huì)存儲(chǔ)一些過去的交互，并使用這些內(nèi)容來修改未來的行為；

第三階段是基于心智理論的機(jī)器，到達(dá)這個(gè)層面，意味著機(jī)器不僅能夠理解特定任務(wù)，而且有能力更全面地理解周圍的世界；

第四階段可能是人工智能發(fā)展的最后一步，那就是構(gòu)建一套能夠形成自我意識(shí)的機(jī)器。

阿倫德認(rèn)為，心智理論更強(qiáng)調(diào)對(duì)外部思維體的感知，而自我意識(shí)則是向內(nèi)的感知，即生命能夠意識(shí)到自我，知道自己的內(nèi)部狀態(tài)，而且可以預(yù)測(cè)他人的感受。電影《失控玩家》所描述的男主角蓋伊所經(jīng)歷的自我意識(shí)覺醒的過程，就是從第一階段逐步進(jìn)化到了第四階段。

然而，人工智能會(huì)不會(huì)產(chǎn)生意識(shí)，卻是一個(gè)眾說紛紜的話題。

我國人工智能專家、中國工程院院士李德毅在《智能技術(shù)學(xué)報(bào)》發(fā)表論文認(rèn)為，知覺意識(shí)是最初級(jí)的意識(shí)，只有有了知覺意識(shí)，我們才能清晰地感受到“我”這個(gè)本體的存在。然而，智能和意識(shí)之間并沒有明確的相關(guān)性。自然界就存在著大量無（弱）智能卻具有弱意識(shí)的生物。

在他看來，當(dāng)前的機(jī)器人都是無意識(shí)的，卻可以表現(xiàn)出一定的智能。到目前為止，任何機(jī)器或者機(jī)器人都還沒有知覺意識(shí)，更不必說不斷成長發(fā)展、甚至脫離物理束縛的更高級(jí)別的自我意識(shí)以及群體意識(shí)了。

不過，圖靈獎(jiǎng)獲得者曼努埃爾·布魯姆教授及其夫人萊諾爾·布魯姆教授卻對(duì)“機(jī)器產(chǎn)生意識(shí)”有著不同看法。他們?cè)谧罱l(fā)表的文章中提出，意識(shí)是任何經(jīng)過合理組織的計(jì)算系統(tǒng)所擁有的一種性質(zhì)。無論這種系統(tǒng)由血肉還是由金屬和硅組成。

他們提出，意識(shí)包括全局工作空間架構(gòu)，還有一些關(guān)鍵的處理器——它們能用一種豐富的內(nèi)在語言相互溝通想法、計(jì)劃、圖像、感知，并且存在一個(gè)由預(yù)測(cè)、反饋和學(xué)習(xí)組成的循環(huán)動(dòng)力學(xué)機(jī)制——這就使得它們具有意識(shí)，甚至還具備動(dòng)機(jī)、欲望、最基礎(chǔ)的認(rèn)知能力等。

從他們的實(shí)驗(yàn)來看，當(dāng)一種機(jī)器具有意識(shí)，它就會(huì)不斷“成長”，隨著各處理器之間的連接不斷增強(qiáng)，它會(huì)從各處理器相對(duì)獨(dú)立的“嬰兒期”走向“成熟期”。

AI時(shí)代真正需要警惕的是什么？

的確，在對(duì)待人工智能的態(tài)度上，人類顯得猶豫不決。我們既希望有更強(qiáng)大的智能工具出現(xiàn)，又擔(dān)憂它們會(huì)對(duì)人類不利。

過去25年，尤其是近十年，人工智能的進(jìn)展非常迅猛，其性能提升的比例幾乎達(dá)到百萬級(jí)。而且，機(jī)器智能還在不斷發(fā)展。

布魯姆夫婦就在積極發(fā)展意識(shí)圖靈機(jī)，試圖讓機(jī)器理解感質(zhì)、情緒，乃至痛感。在他們看來，科學(xué)可以解釋愉悅和疼痛之類的感覺是如何產(chǎn)生的，無論是在有血有肉的動(dòng)物身上，還是在硅與金屬構(gòu)成的機(jī)器人身上。

從生物化學(xué)層面來看，人體中控制快感的多巴胺、控制情緒的血清素，以及控制興奮的谷氨酸鹽，它們發(fā)揮作用的信號(hào)通路其實(shí)與通過描述信號(hào)代碼和對(duì)應(yīng)效果的機(jī)器通路十分相似，或許真的與機(jī)器的感覺有相通之處。

美國麻省理工學(xué)院計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室的托馬索·波吉奧教授認(rèn)為：“過去的經(jīng)驗(yàn)告訴我們，人工智能歷史上的一些突破口來自神經(jīng)科學(xué)，所以我預(yù)計(jì)未來的一些突破性進(jìn)展也將來自于神經(jīng)科學(xué)。”

布魯姆夫婦相信，通過尋找能同時(shí)解釋動(dòng)物和機(jī)器的感質(zhì)，科學(xué)家會(huì)更接近“計(jì)算機(jī)能否擁有意識(shí)”的真相，“我們認(rèn)為未來機(jī)器也能擁有感覺”。

未來，當(dāng)機(jī)器真的越來越接近人，是否會(huì)如《失控玩家》里的非玩家角色（NPC）一樣，擺脫人類的控制呢？

在李德毅看來，沒有意識(shí)的機(jī)器人肯定不可能成為人類的天敵?；蛟S經(jīng)過漫長的進(jìn)化發(fā)展，機(jī)器人有了自我意識(shí)，但它們還得在個(gè)體間發(fā)展出不同于人類的語言和文字，甚至要擁有不同于人類群體的共同價(jià)值觀，到那時(shí)，機(jī)器人才會(huì)真正成為相對(duì)于人類的異類。

不過，他認(rèn)為，這不應(yīng)該被認(rèn)為是人工智能的問題。真正需要警惕的，是將人工智能反作用于生物，哪怕是只有感知意識(shí)的低級(jí)生物。“當(dāng)人類從人工智能進(jìn)入生命智能時(shí)代，不是人工智能具有了意識(shí)，而是有意識(shí)的生命擁有了強(qiáng)大的智能，這才是人工智能可能產(chǎn)生的顛覆性革命?！?/p>

因此，人類要為自己的選擇和行為進(jìn)行更加審慎的思考，并作出道德決策——它關(guān)乎我們?nèi)祟愖陨韺?huì)創(chuàng)造的未來世界。

作者：楊馥溪

圖片：視覺中國

編輯：許琦敏

責(zé)任編輯：任荃

*文匯獨(dú)家稿件，轉(zhuǎn)載請(qǐng)注明出處。

關(guān)鍵詞： 處理器也會(huì)成長成熟起來AI時(shí)代真正需要警惕的