陳嘉映：漫談人工智能

（2017年6月為玉河夜話“人工智能”研討會準備的發(fā)言稿）

我們年輕時候讀歐洲思想史、觀念史，讀到巴黎的沙龍文化，歐洲各國的沙龍，好生羨慕，人家文化發(fā)達，都說跟這些沙龍有關(guān)。后來，我們自己也試著辦沙龍，可一群五大三粗的男人，怎么辦都像吵架會，不像沙龍。翁菱女士風雅寬容，她主辦的玉河夜話是名副其實的沙龍。

今天的主題是人工智能。這個題目，我沒做過研究，但翁菱指定我發(fā)言，我就說說我的零零星星的思考，拋磚引玉吧。

最近這些年，最火熱的技術(shù)好像是兩種：生物工程技術(shù)和人工智能技術(shù)。這兩大門類的技術(shù)都很了得，不僅將大規(guī)模改變世界的面貌，而且將改變?nèi)俗陨怼?strong>我常說，這是兩面夾擊，人工智能要把機器變得越來越像人，生物工程要把人變得越來越像機器。

生物工程技術(shù)和人工智能技術(shù)，兩廂相比，我估計，生物工程技術(shù)帶來的變化會更根本。據(jù)說，生物工程技術(shù)不用多久就能夠讓人長生不老。在很多人看來，長生不老是所有愿望里最大的愿望——無論什么愿望，都得人活著才能實現(xiàn)。

但推開一步想，人終有一死，才會去努力實現(xiàn)愿望，真若永無死日，那還急什么？今天、明天或任何一天，所有的日子都一樣。人想多活幾天，人有這個愿望大概是事實。不過，長壽作為一種可欲的東西，在各種文化里地位不同，好像在咱們中國擺的位置最高，在古希臘，極流行的觀念是人過完了青壯年就該去死了。我其實挺懷疑人是不是真的都愿意長生不老?？粗蝗夯畋膩y跳的孩子，大家都開心，看著年輕人旺盛生長，大家都開心，我們老年人要是都不讓出地方，孩子和青年往哪兒長呢？

不過，今天的主題是人工智能，還是回到這個題目上來。我們街上的老百姓，說到人工智能，首先想到的大概是科幻電影里的電腦人。電腦真能變成人嗎？

人工智能進步飛快，在很多特定方面已遠遠強于人類。但我以為，電腦不會成為人。人工智能跟人的智能有根本的區(qū)別。人類智能是有機體的智能，所以，人類智能連著意識，連著欲望和感覺等等。

我們需要有智能才能制做衣裳，才能生火，而這智能是跟感知連在一起的。我們知冷知熱，感知到降溫了，于是要添加衣服或生火。我們之所以感知到降溫了，那因為我們是恒溫動物。溫度計可以測量溫度，但它不感知冷熱。

我們感知這個世界，因為我們是有機體，有血有肉，有各種各樣的欲望。所謂智能，并不只在腦力里，智能體現(xiàn)在手和腳上，體現(xiàn)在人的方方面面，比如，體現(xiàn)在說話的聲調(diào)里。

總之，計算能力這種“智能”跟人類智能不是一回事。人的智能跟感知連在一起，感知跟欲望連在一起，欲望跟血肉連在一起。智能在人身上很突出，但它仍然是人這個有機體的一個方面。

所以，我倒不像有些人那樣擔心電腦人有朝一日會統(tǒng)治人類。他們說，人工智能的威脅與原子彈的威脅不同類，原子彈的危險是毀滅人類，電腦人的危險是另一種，它們將超過人類，成為一個“更高”的群體，成為人類的統(tǒng)治者。

可機器為什么要控制人類呢？人要控制別人，因為他要利用別人，人對人工智能毫無用處，他干嗎要控制人類呢？人要控制別人，因為他害怕，人工智能沒有fear，他干嗎要控制人類呢？電腦人控制人類，那只是科幻電影的遐想。

但機器人能不能發(fā)展出感覺、欲望、感情呢？就說自保這種欲望吧。就我們?nèi)祟愔疄閯游锒裕员Ｊ且环N基本的欲望，有了這種欲望，就會生出其他多種多樣的欲望，例如，口渴了要喝水，肚子餓了要吃飯，受到侵害要奮起反抗。

也許，有朝一日，我們會為電腦也設(shè)置自保的程序。有了這個基本的程序，它也許會自己生成其他程序，電池缺電了它就設(shè)法充電，受到侵害就奮起反抗，等等。這的確是可能的。但我們?nèi)匀徊豢赡転殡娔X設(shè)置總體的自保程序。

或這么說，總體上的自保根本不是設(shè)置出來的，對有機體來說，自保是構(gòu)成性的，是有機體的定義的一部分，不需要設(shè)置。而對電腦來說就不是這樣，自保不是它的一部分，所謂給電腦設(shè)置自保的程序，指的本來就是設(shè)置一系列缺電了就設(shè)法充電之類的程序。

我們也許可以承認，按照我們今天所理解的欲望，電腦人不會產(chǎn)生這樣的東西。那我們能不能重新定義欲望？我們不可能單單重新定義欲望，為此，我們需要重新定義感知、感情、理解、理想、精神，一句話，我們需要重新定義人。

我并不是在主張有一種亙古不變的人性。今人的人性不是一萬年前智人的人性。在那時的智人看來，今人的人性已經(jīng)面目全非。不過，人性的改變和技術(shù)造就的改變不是同種類型的改變——人性的改變不是設(shè)計出來的。（歷史上不止一次有政治家和思想家企圖通過設(shè)計來改變?nèi)诵裕麄儫o一例外都失敗了。）

簡單說，人性的改變坐落在人性的連續(xù)性之中，這樣的改變我們稱作生長。對這種連續(xù)性的變化，調(diào)整定義是有意義的，但對人工智能，干嘛非要用它來重新定義人呢？

我不怎么擔心電腦會變成人，變成一種超級人類，然后來統(tǒng)治人。但我倒相信，人工智能技術(shù)會大規(guī)模地改變現(xiàn)有的人類，最后變得面目皆非。

技術(shù)當然不是今天才有的。不過，今天的技術(shù)不同于以往的技術(shù)。粗略說來，人類技術(shù)經(jīng)歷了三個大階段。最初，技術(shù)是工匠們琢磨出來的。后來，十八、十九世紀以來，技術(shù)是科學技術(shù)——現(xiàn)代技術(shù)不再是匠人摸索出來的，而是基于科學原理發(fā)明出來的。工業(yè)革命依賴的是這樣的技術(shù)。

人工智能代表的是第三波技術(shù)發(fā)展。這一波與前兩波的主要區(qū)別在于它做的是“腦力勞動”。人的能力可以粗分為體力和腦力。工業(yè)革命引入了一系列新能源、新機器，它們把很多體力勞動接過去了。人工智能將把很多腦力勞動接過去。

人們預料，人工智能將比工業(yè)革命給社會帶來更劇烈的改變。因為體力本來就不是人的特長，腦力才是，柏拉圖在《普羅泰戈拉篇》里就說過，人沒有翅膀四足尖牙，勝過動物的只在于才智。要是腦力也用不著人了，人還能干什么呢？

腦力和體力的區(qū)分有時有點兒誤導。剛才我說，智能并不只在腦力里，我們一投手一投足，動手動腳，都體現(xiàn)智能。這意味著，所謂腦力勞動不只是腦子的勞動，人類的一切活動，都有腦力在內(nèi)。結(jié)果，人工智能有可能把幾乎所有勞動都接過去。

人類發(fā)明各種技術(shù)，本來就因為技術(shù)可以代替人類勞動。但也有人擔心，人工智能技術(shù)只有少數(shù)精英能夠掌握，大多數(shù)人參與不到其中。一方面，他們的勞動將越來越“不值錢”。另一方面，他們的生活將越來越依賴于少數(shù)精英的發(fā)明。社會結(jié)構(gòu)因此會發(fā)生巨大變化，只有少數(shù)人是有用的，大多數(shù)人變成了“無用階級”。

我們也許覺得這是杞人憂天，不勞動了，還可以玩嘛。我們可以把世上的事情分成我愛干的和我不愛干的，有了電腦人，我們就可以把我們不愛干的事情派他去干，然后把時間省下來做我們愛干的那些事，比如說打球、聽音樂會、談戀愛。談戀愛我就不派電腦人去，這么好的事派它去干嗎啊？

我們是可以區(qū)分哪些事是我們不得不做，哪些事是我們樂意做的，但是這種區(qū)分挺有限的。比如說帶孩子，換尿布不愛干，逗孩子笑愛干。但你不給孩子換尿布，逗孩子玩就沒那么樂。

好玩的事情怎么跟有點兒苦有點兒累的事情連在一起，我們弄不大清楚，但我們大致知道，你為孩子付出了很多辛苦，你跟他的相處就會有一些不同的品質(zhì)。等到把不愛干的事情都交給機器人以后，剩下的愛干的事情的性質(zhì)也會改變，你作為一個人的品質(zhì)總體上也會改變。

我們勞作得很辛苦，難免有時會希望別人做這些工作我們來享受勞動成果。不過，如伯納德·威廉斯指出的，人并不是只要享受的生物，我們不僅希望獲得結(jié)果，我們也希望這些結(jié)果是親力親為的結(jié)果。馬克思認為，勞動創(chuàng)造了人，勞動是人的基本需求。勞動與享受割裂開來，勞動由機器完成，人單單享受結(jié)果，人的定義就改變了。

我們實際上正在經(jīng)歷這個過程。我們對世界的感知越來越集中到結(jié)果這一端。我們住在樓房里，不知道樓房是怎樣蓋起來的，打開餐盒，里面是大米飯，但我們沒見過水稻長在地里是什么樣子的。我們通過各種屏幕看到海底世界、太空、非洲的動物，世界各地的騷亂，但沒有哪樣事情是我們親歷的，沒有哪樣東西是我們親力親為的結(jié)果。

不斷進步的技術(shù)把人類勞動一項一項接過去了，我們不必經(jīng)歷勞動的艱辛就能夠享受勞動的成果，這讓技術(shù)樂觀主義者歡欣鼓舞——技術(shù)把苦活累活難活都干了，我們享受成果，有何不好？但事情還有另一面，那就是，我們只享受結(jié)果，不再能感知產(chǎn)生結(jié)果的過程。僅僅感受結(jié)果是薄瘠的感受，而我們的感受正在變得越來越薄。

現(xiàn)在哲學界討論人類智能和人工智能的區(qū)別，很大一部分集中在人具有意識這一點上，而所謂意識，被說成是主觀體驗，是跟什么東西都不相連的qualia。人不再是欲望、勞作和結(jié)果之間的聯(lián)系，人變成VR游戲室里一堆主觀體驗，當然，人的定義就變掉了。

人工智能發(fā)展起來，不僅社會結(jié)構(gòu)會發(fā)生很大變化，人自身也會發(fā)生很大變化。技術(shù)不只是我們可加以利用的東西，技術(shù)改變我們自身。有一些改變是明顯的。我們習慣了GPS定位，我們的方位感就可能退化。

等我們習慣了讓電子設(shè)備來采集關(guān)于自己身體的數(shù)據(jù)，我們對自己身體的感知很可能變得越來越遲鈍。技術(shù)改變我們與世界相處的方式，隨著與世界相處方式的改變，我們自己也在改變。

我不認為人工智能會演變?yōu)橐环N新人類，但人工智能倒是很可能把人變成新人類。

技術(shù)進步會改善人類生活，同時使未來面對更大風險?？晌艺f的好像都是風險那一面。這并不奇怪。有人把知識人的任務(wù)設(shè)想為指導社會發(fā)展。我倒覺得，知識人從來沒有成功地指導過社會的發(fā)展。社會自行發(fā)展。

知識人的任務(wù)與其說是指導社會，毋寧說在于指出這個發(fā)展過程中的危險。是啊，社會自行發(fā)展，這可不一定是朝著良好的方向發(fā)展。

海德格爾就是這樣看的，他說，技術(shù)是這個時代的存在天命，技術(shù)發(fā)展，你喜歡也罷不喜歡也罷，技術(shù)仍將征服世界。是啊，人能夠控制其他人，控制異端思想，唯獨控制不了技術(shù)的發(fā)展。如果有一天，人類只享受結(jié)果，產(chǎn)生的結(jié)果的過程都交給人工智能去施行了，真到了心想事成那一天，那么我們就不得不說，技術(shù)主宰了人。

借助技術(shù)，我們把過程和結(jié)果分離開來，我們只要得到結(jié)果就好了。這一點，在人工智能那里最為突出。

去年，AlphaGo戰(zhàn)勝了李世石。有意思的不是人工智能贏了——這只是早晚的事兒。我覺得最有意思的是，AlphaGo的設(shè)計者并不知道它是靠什么理路贏下來的。我跟圍棋高手下棋，不論他多高，我們兩個都是在用同樣的“圍棋語言”思考。

而AlphaGo依靠的根本不是我們的思維方式，而是一種我們無法理解的思維方式——如果還叫它思維的話。

人們從各個角度思考人工智能，怎么提高人工智能的水平，人工智能會怎樣改變我們的社會，改變我們自己，等等。我自己的興趣則在另外一個方面。我更關(guān)心的是我們已有的東西，想要更恰當?shù)乩斫馕覀円延械臇|西。比如，通過對人工智能的了解，更恰當?shù)乩斫馊祟愖约旱闹悄堋?/p>

按現(xiàn)在流行的看法，人工智能的發(fā)展讓我們看到，智能的本質(zhì)是計算。我的看法正相反，通過圍棋程序的發(fā)展，我們能夠看得更加清楚，人類智能的本質(zhì)并不是計算，而是對話，是互相理解。下棋是一種對話——圍棋也叫“手談”。

實際上，人的所有智能都是一種對話，哪怕我是一個人在思考。我獨自證明了費馬大定理，最后一刻我說，我明白了；我明白了什么？我看到了過程與結(jié)論之間的聯(lián)系。

因此，我明白了，我也可以讓別人明白。然而，我們并不知道在AlphaGo那里，過程和結(jié)論之間是個什么聯(lián)系。在我看，這才是人類智能和人工智能的本質(zhì)區(qū)別。

關(guān)鍵詞： 陳嘉映漫談人工智能