人工智能的可能性與局限性：機器不能做什么？

作者簡介: 西蒙·科爾頓（ Simon Colton）是倫敦瑪麗女王大學(xué)電子 工程與計算機科學(xué)學(xué)院的教授，同時也是澳大利亞莫納什大學(xué)信息技術(shù)學(xué)院SensiLab實驗室的研究員， 專攻計算機創(chuàng)作（ Computational Creativity ） 問題。此前曾任倫敦帝國理工學(xué)院計算機系副教授，并擔(dān)任帝國理工學(xué)院 計算機創(chuàng)作研究小組的負(fù)責(zé)人。他主導(dǎo)設(shè)計了一個名為“繪畫傻瓜”（The Painting Fool） 的電腦程序，并希望將其訓(xùn)練成一個真正具有創(chuàng)作能力的“藝術(shù)家”。

本文將探討人工智能在未來工作中的局限性與可能性。以我之見， 我們可以并且應(yīng)該從實際而非哲學(xué)的角度去看待那些已經(jīng)在工作場景中 得到應(yīng)用的智能算法，踏踏實實地制定一個可以造福于廣大勞動者而非 僅僅是嘩眾取寵的中期發(fā)展規(guī)劃，確保先進的人工智能系統(tǒng)由商業(yè)領(lǐng)袖 和當(dāng)政者善加應(yīng)用。在此，我將首先討論人工智能系統(tǒng)的局限性，然后 介紹軟件在我的研究領(lǐng)域—計算機創(chuàng)作—中的一些應(yīng)用。我們在研究過程中開發(fā)的軟件不僅可以激發(fā)靈感、充當(dāng)?shù)谰?，而且可以扮演共同?chuàng)作者和完全自主的創(chuàng)作實體（ Colton & Wiggins， 2012）。

需要記住的是，人工智能研究主要是作為一門實驗科學(xué)在進行，這 跟物理和化學(xué)十分相似。大部分人工智能研究人員的工作都是自下而上推進，也就是說，研究那些我們認(rèn)為人工智能系統(tǒng)能夠解決的現(xiàn)有問題，以一種通用的方式改進底層算法，從而有效獲取更好的解決方案。 另外也有一些像我這樣的研究人員，通過提出并鉆研一些新的、有一 定難度的自動化智能任務(wù)—如數(shù)學(xué)發(fā)明、虛構(gòu)故事或者視頻游戲的創(chuàng) 作—從外部倒逼人工智能進步。大多數(shù)研究人員將技術(shù)與這些技術(shù)被 應(yīng)用于社會時的道德考量截然分割。也有一些研究人員（包括我本人在內(nèi)）則試圖融入那些采用自己軟件的文化社區(qū)，因此十分關(guān)注人工智能 應(yīng)用過程中所引發(fā)的社會道德問題，而這些問題之前僅僅存在于人類活 動之中。

同樣值得注意的是，計算機系統(tǒng)并不是人類。在這個擬人化盛行的時代，許多人（包括一些人工智能研究人員）說起人工智能系統(tǒng)就好像 它們是某種“準(zhǔn)人類”（subhuman），而不是與人類迥然相異的信息處 理系統(tǒng)。通常，將人工智能系統(tǒng)與人類進行盲目比較會導(dǎo)致把人類屬性 不適當(dāng)?shù)赝渡涞杰浖驒C器人上。在討論機器的意識時，我經(jīng)常提起手 指甲自動生長的問題，這對人而言非常有用，但對計算機來說則顯得荒 唐可笑。這就說明了一個事實，那就是人類和計算機真的很不一樣，我 們不需要用計算機去模擬人性中的所有東西。不僅如此，軟件甚至無須 借助人的意識也照樣可以具備驚人的智力和意向，并且有益于人類社會。

我反對將“機器不能做什么”這個假定前提當(dāng)成此次研討會的出發(fā)點。誠然，迄今為止，人類智力的許多特征幾乎很少甚至根本沒有相應(yīng) 地融入到當(dāng)今的人工智能系統(tǒng)中，但是，我始終找不到確鑿的理由來斷定計算機軟件在未來會不會具有酷似人類（甚至超人類）的智力和栩栩如生的特征。我們可能很難在計算機中嵌入“靈魂”之類的東西，但我想這是因為我們自己都沒有弄清楚這些術(shù)語的含義，更不用說去向人工 智能機器解釋這些術(shù)語了。在我看來，那些以人為中心的術(shù)語，如創(chuàng)造力和意識，最終將通過更透徹的研究而大白于天下。我們已經(jīng)開始接受 人類并非智慧宇宙中心的觀點，同樣，我們最終也會對創(chuàng)作或有意識的 行為形成一種更加寬泛的概念，其中也將涵蓋計算機的相應(yīng)能力。

包括我在內(nèi)的許多工程師都很樂意聽到業(yè)外人士提出一些善意的觀 點。比如，他們認(rèn)為軟件永遠(yuǎn)不可能具備創(chuàng)作能力，因為計算機缺乏意 向性（intentionality），它們只會根據(jù)已經(jīng)出現(xiàn)的問題編寫代碼并生成 一套自治系統(tǒng)—但這種自治系統(tǒng)恰恰證明業(yè)外人士的善意觀點難以自圓其說。盡管這樣的辯論是促進人工智能研究的一種強大動力，但我相信，認(rèn)為技術(shù)固有的局限性會限制軟件所能夠達(dá)到的智力水平，這種想 法未免過于幼稚— 除非社會希望如此。不過，雖然我是堅定的技術(shù)擁 護者，但同時我也是一名現(xiàn)實主義者。我認(rèn)為，要實現(xiàn)上面所描述的那種有創(chuàng)作能力的人工智能系統(tǒng)仍有待時日，此外還要考慮到社會是否愿意接受人工智能系統(tǒng)所展示的某些原本被視為人類獨有的品質(zhì)特征。

我們家兄弟兩人都是在1969年美國科學(xué)家登月后不久出生的。在成長過程中，我們一直堅信有朝一日會飛行到月球甚至更遙遠(yuǎn)的星球度 假，但時至今日這個夢想依然遙不可及。鑒于目前人們瘋狂炒作人工智 能系統(tǒng)的能力，我三歲的女兒也許會期待自己長大后有個機器人成為她 在大學(xué)里的閨蜜。但遺憾的是，到時候她很可能也會像我和她叔叔一樣 大失所望。得益于過去十年來深度學(xué)習(xí)技術(shù)（Deep Learning）的進步， 人工智能系統(tǒng)的功能邁上了新的臺階。盡管如此，當(dāng)前人工智能系統(tǒng)的 智力尚遠(yuǎn)不及新聞界、政客和哲學(xué)家們所宣傳的那樣強悍。炒作是可以 理解的：技術(shù)領(lǐng)導(dǎo)者必須極力夸大人工智能系統(tǒng)改變生活的能力，只有 這樣才有機會在當(dāng)前獲得風(fēng)險資本的青睞；記者在報道人工智能項目的 成果時危言聳聽，目的在于與競爭對手爭奪點擊量；為了使自己揚名立萬，政客和哲學(xué)家在談?wù)撊斯ぶ悄軙r需要發(fā)表一些極端和跟風(fēng)炒作的言論，以顯得他們的觀點切中時弊。

隨著世界上最聰明的人紛紛加入人工智能的開發(fā)工作，近年來該領(lǐng) 域的進步顯著加快，我衷心希望真正聰敏的人工智能系統(tǒng)可以盡快為社 會帶來福祉。然而，過去的種種跡象表明，人工智能的發(fā)展依然舉步維 艱。記得上一次媒體熱議人工智能系統(tǒng)在棋類上的精彩表演還是20多年前“深藍(lán)”與國際象棋大師卡斯帕羅夫的對弈，每念及此不禁黯然神 傷（但實際上，2016年和2017年， 由谷歌旗下DeepMind公司科研團隊 開發(fā)的AlphaGo先后以壓倒性優(yōu)勢擊敗圍棋世界冠軍李世石和柯潔，并 在一個賽事上保持連勝60場的戰(zhàn)績，一度令全世界對人工智能的深度學(xué) 習(xí)技術(shù)進步嘆為觀止。目前，圍棋界公認(rèn)AlphaGo的棋力已經(jīng)遠(yuǎn)超人類 頂尖棋手的水平—譯者注）。況且—恕我直言—棋類對弈并非什么特別重要的事情，它不過是人們的一種消遣活動而已，根本不值得如 此宣揚和推崇。真正值得尊重的是那些致力于探索宇宙普遍規(guī)律的人工智能研究人員。我們（人類社會）熱愛國際象棋和圍棋，只是因為這種 對弈充滿挑戰(zhàn)性，只有殫精竭慮領(lǐng)悟?qū)牡木璨拍艹蔀橛袆e于菜鳥的大師，而我們褒獎的正是大師們在這個競爭激烈的人類社會中所表現(xiàn)出 的拼搏精神。我們（人工智能研究人員）之所以愛好國際象棋和圍棋， 恰恰是因為下棋對軟件而言是一件相當(dāng)輕松的事情：一個封閉的棋盤世 界、簡單的規(guī)則、擺在明面上的競爭，這些條件對于施展人工智能技術(shù) 的特長真是再理想不過了。毫無疑問，棋類對弈將繼續(xù)成為人工智能發(fā) 展的強大驅(qū)動力。

因此，我們應(yīng)該更現(xiàn)實地看待人工智能取得的最新突破，例如，谷歌DeepMind公司開發(fā)的AlphaGo Zero系統(tǒng)所展現(xiàn)的超人類的圍棋對弈 能力。這一次是軟件通過與自己反復(fù)對弈，從零起步，“自學(xué)”成為一 名特級大師，這不能不說是一項巨大的成就。但我們也不能因為這一里程碑式的進步而對人工智能產(chǎn)生過多的期盼。不過值得慶幸的是，這個水平的超人類智能還不至于對人類的工作崗位產(chǎn)生負(fù)面影響。那些在棋 盤上展現(xiàn)了“英勇搏斗”這一優(yōu)秀品質(zhì)的世界冠軍們，也不會因為有軟件可以打敗他們而悵然若失。不僅如此，像AlphaGo這樣的人工智能系 統(tǒng)擊敗世界圍棋冠軍的奇觀，非但沒有降低人們對圍棋的興趣，反而使 圍棋受到越來越多的關(guān)注。例如， 在2016年AlphaGo大獲全勝后，世界上很多地方的圍棋立即銷售一空（ Shead， 2016）。

對于人工智能更明智的看法是，它應(yīng)該拓展到設(shè)計更多的軟件，以 替代律師、醫(yī)生、科學(xué)家、記者等職業(yè)的部分工作。人工智能領(lǐng)域的大 多數(shù)業(yè)內(nèi)人士都贊同這樣的觀點，但媒體和學(xué)術(shù)圈的一些人士卻對此莫 衷一是。而尼克 博斯特羅姆（Nick Bostrom）《超級智能：路線圖、危 險性及應(yīng)對戰(zhàn)略》（Superintelligence: Paths, Dangers, Strategies）這樣的書又進一步助長了各種猜測。他在書中清楚地表明，自己的哲學(xué)探討純 屬推測，但有一點例外：人工智能的“超級智能”必定而且很可能會以閃電般的速度出現(xiàn)（ Bostrom， 2014）。雖然這是一個引人入勝且司空見 慣的科幻小說素材，但不幸的是，它只是一門糟糕的虛構(gòu)科學(xué)而已。在 我認(rèn)識的人工智能研究者中，沒有跡象表明我們能在一夜之間獲得“超級智能”。據(jù)我所知，迄今為止，對于所謂的“通用人工智能”（artificial general intelligence， AGI ，也被稱為“強人工智能”）， 誰也沒有給出一 條合理的路線圖，即便是部分指標(biāo)取得了一定進展，也仍然面臨諸多爭 議和質(zhì)疑（ Goertzel， 2014）。

在此，我們有必要反駁博斯特羅姆關(guān)于“超級人工智能”時代 即將來臨的幾個想法。其中一個就是遞增式自動化人工智能系統(tǒng) （ incremental automated， AI）。該系統(tǒng)可以使一種人工智能向另一種更 聰明的人工智能學(xué)習(xí)，而后者也是在學(xué)習(xí)比它更聰明的人工智能后生成 的。如此循環(huán)往復(fù)，該系統(tǒng)的智能就會一步步增強。不幸的是，這種想法純屬人工智能菜鳥們的天方夜譚，它存在一個類似“雞和蛋”的困 惑。在現(xiàn)實生活中，你需要憑著人類級別的智力才能設(shè)計出那些看起來 依然非常幼稚的人工智能軟件。你不能指望一個非常愚蠢的人工智能軟件會生成一個連最聰明的人工智能專家都難以研發(fā)出來的“更智能的軟件”。實際上，我本人就是研究人工智能系統(tǒng)自動化軟件工程的，我相信人工智能系統(tǒng)可以編寫出真正有實用價值的代碼，我也相信有人會解決“雞和蛋”的問題，但我現(xiàn)在對此束手無策，而且我懷疑仍需要等待很長時間，直到人工智能系統(tǒng)的科學(xué)和工程領(lǐng)域取得許多重大突破后才 能解決這個問題。

博斯特羅姆提出的另一種構(gòu)想是，人工智能系統(tǒng)可以自動進化出與 人腦相似的“類人腦結(jié)構(gòu)”（brain-like structure）。他在分析過程中使用 了大量的數(shù)字運算，旨在大致推測進化出類似人腦的東西將需要多長 的時間。但他忽略了一個重要的事實：大腦（以及我們身體的其他部 分）是在自然環(huán)境中進化而成的，一般來說，只有最適應(yīng)環(huán)境的個體才 能存活下來并把他們的基因信息傳遞給下一代?，F(xiàn)在我們尚不清楚進化 出“超級智能”需要什么樣的環(huán)境（無論真實的還是模擬的），但有一 點可以明確，這種適應(yīng)性測試將是一個漫長而艱難的過程，需要用地 質(zhì)時間尺度（geological timescales）而不是技術(shù)時間尺度（technological timescales）來衡量。雖然人工智能系統(tǒng)日新月異，但要進化出一個“類人腦結(jié)構(gòu)”，其時間之漫長將超乎我們的想象。因此，我們討論人工智能在工作場所中的應(yīng)用時不必考慮這種“類人腦結(jié)構(gòu)”的影響，除非我 們也像博斯特羅姆那樣沉迷于科幻小說。

綜上所述，人工智能系統(tǒng)能否聰明到足以在工作場所替代人類，其 技術(shù)限制不在于基礎(chǔ)的理論問題，而是取決于計算機智能領(lǐng)域科學(xué)探索 的進度以及工程系統(tǒng)如何充分利用這些技術(shù)突破。若是10年后我們每天看到自動駕駛汽車在大街小巷穿梭往來，我不會感到稀奇；而如果再晚50年才出現(xiàn)這種情景，我也會覺得合情合理（ Tschangho， 2018）。

鑒于社會上對自動化的普遍關(guān)注，人工智能在工作場所的應(yīng)用受到 諸多限制也可能是出于自律。但可以肯定的是，隨著人工智能系統(tǒng)能力的提高，它將逐漸替代人類去執(zhí)行各種智能任務(wù)。為了強調(diào)這個問題的重要性，下面我將介紹一個被稱為“新型幸運兒”的思維實驗。盡管勉 為其難，我們通常還是能接受社會上各式各樣的幸運兒，無論他們是中 大彩的人還是富二代。在自動化的時代，我們不妨想象一個公司老板突 然宣布：“本周的幸運兒是會計部的瓊 ·史密斯，因為她的工作已被自 動化了?！痹搱鼍爸械男疫\兒有三個選項：全薪永久離職；待在自己目 前的工作崗位上繼續(xù)做事；轉(zhuǎn)到本公司另外一個更適合自己并且可能也 更有趣的新崗位。對公司來說，雖然為員工購買辦公自動化軟件會導(dǎo)致 一筆開銷，但運營成本（當(dāng)然是24小時運營）會大幅下降，因此繼續(xù)向“幸運員工”支付薪酬對公司形成的財務(wù)影響屬于中性。

這個思維實驗最后留下的思考題是：面對這樣的情景，哪種選擇是 錯的？ 我們不難發(fā)現(xiàn)，所謂的幸運兒其實是一個倒霉蛋，因為在我們當(dāng) 前的資本主義社會中，這意味著她遭到解雇，公司將把省下來的錢用于 再投資，老板和股東能賺到更多的錢。當(dāng)然，社會應(yīng)當(dāng)要求自動化具備 道德風(fēng)范，并迫使政客們以立法的形式來維護這種道德。然而，現(xiàn)實情 況恰恰與之相反。例如，某些出租車公司似乎把人力純粹當(dāng)作一種臨時替代物，目的是為研發(fā)籌集風(fēng)險資本，以便將來大規(guī)模推出無人駕駛汽車，最終讓公司的人力司機通通下崗（ Price， 2019）。

我的觀點頗具烏托邦色彩。我認(rèn)為，工薪階層之所以拼命工作，他 們大多為環(huán)境所迫（對此我們不妨認(rèn)真看看自己周圍的工作世界）， 而 自動化可以使人類從毫無意義的苦差事中解脫出來。這個看法或許比較 天真，而且也存在很多問題。顯而易見，自動化給社會帶來長期利益的 同時也會造成中短期的失業(yè)問題，隨之而來的是工薪階層收入減少、自尊心受損和福利下降。作為一個社會群體，我們可能會為了追求不切實際的福利而罔顧眼前的困難。在我們幾乎無力照顧病人或教育年輕一代的情況下，實行每周三天工作制、鼓動推行“全民基本收入”計劃或增 加國民保險以使失業(yè)者過上安逸的生活，難道我們真的有本錢支撐這些 福利措施嗎？ 然而，假如我們能夠弱化資本主義價值觀，有節(jié)制地推廣 人工智能系統(tǒng)在工作場所的應(yīng)用，也許這些措施都沒有必要。

對于技術(shù)的發(fā)展前景，雖然我們通常寄望于科學(xué)家和技術(shù)領(lǐng)導(dǎo)者， 但我們也可以期待藝術(shù)方面的指導(dǎo)。我一直在參與一些與人工智能有關(guān) 的文化項目，其中利用人工智能生成的虛構(gòu)創(chuàng)作已成為倫敦西區(qū)音樂劇 制作的基礎(chǔ)（Colton等， 2016）；人工智能生成的繪畫作品在藝術(shù)畫廊 和博物館中廣為展出（ Colton & Ventura， 2014）；人工智能生成的視頻 游戲也已被納入比賽并得到游戲愛好者的追捧（Cook等， 2016）；人工 智能生成的詩歌經(jīng)常在BBC電臺朗誦（Colton等， 2012）。通過這些項 目，我目睹了藝術(shù)界正在與時俱進，不斷創(chuàng)造條件使藝術(shù)家能夠利用計 算機從事自己的工作；藝術(shù)家也把某些創(chuàng)作任務(wù)交給軟件，使之成為 名副其實的自動化人工智能“藝術(shù)家”，比如我那個名為“繪畫傻瓜”（THe Painting Fool）的軟件系統(tǒng)（ Colton， 2011）。藝術(shù)領(lǐng)域的實踐使我 們可以更好地理解人工智能系統(tǒng)在那些以人為中心的領(lǐng)域所具備的優(yōu) 點和不足，從而有助于把這些理念從藝術(shù)領(lǐng)域移植到更為廣闊的工作 世界。

在這樣的學(xué)術(shù)和文化背景下，我用另一個思維實驗來說明我所從事 的專業(yè)—計算機創(chuàng)作—正面臨的幾個問題。這個專業(yè)主要研究如何 在藝術(shù)和科學(xué)項目中把創(chuàng)作任務(wù)交給軟件來執(zhí)行。特別值得一提的是， 我曾經(jīng)朗讀了下面這首題為《分娩》的短詩，并與聽眾討論“女作者” 試圖表達(dá)什么意思。

快樂，痛苦，此起彼伏。我的孩子?。?/p>

你由我所生，也為我而生，伴隨著我的淚水與恐懼。

然后我告訴聽眾，作者其實是一個男人。這立即改變了一些聽眾對 作者意圖的看法。接著我繼續(xù)爆料：該男子是一名被定罪的戀童癖。隨 即聽眾對這首《分娩》的解讀就變得有些陰暗了。后來我再次把作者身 份改變?yōu)橐粋€在運行過程中有人稍加指導(dǎo)的計算機程序，并請聽眾思考 一下這首由軟件創(chuàng)作的詩歌有何“意味”。此時，他們大都認(rèn)為這首詩 已經(jīng)沒有什么“意味”可言：軟件對分娩一無所知，所以這首詩缺乏真 情實感，是在無病呻吟。最后我揭開謎底，告訴聽眾這首詩其實就是我 本人寫的。我發(fā)現(xiàn)，隨著作者身份的層層披露以及由此產(chǎn)生的作者真實 性變化，我信筆寫下的詩句對聽眾而言也大異其趣。

雖然目前我們尚未做到，但我相信隨著人工智能系統(tǒng)產(chǎn)出的藝術(shù)作 品質(zhì)量不斷提高，真情實感將成為藝術(shù)的焦點，圍繞創(chuàng)作過程的背景故 事也會增添作品的魅力（Colton等， 2018）。例如，在特定模式下，“繪 畫傻瓜”可以根據(jù)它閱讀《衛(wèi)報》上的文章后所產(chǎn)生的虛擬情感來畫肖 像（Colton等， 2015）?？吹杰浖Α缎l(wèi)報》背景故事的反應(yīng)以及屏幕 上虛擬的手和畫筆將肖像漸次呈現(xiàn)所帶來的體驗，遠(yuǎn)比藝術(shù)創(chuàng)作過程中 對著模特臨摹更加震撼和有趣。盡管如此，“繪畫傻瓜”仍受制于背景 故事的約束，其展現(xiàn)的虛擬情感也存在諸多局限。雖然我并不認(rèn)為我們 正在走向某種人機合一的“奇點”（singularity， 原本是一個天體物理學(xué) 術(shù)語，指研究宇宙起源時所推測的宇宙大爆炸的起始點。后來美國未來 學(xué)家、谷歌工程總監(jiān)雷蒙德·庫茲韋爾提出“奇點理論”，其中的“奇點”是指人類與其他物種或物體的相互融合。確切地說，是指人工智能 與人腦智能融為一體的那個神奇時刻—譯者注），但我們的確有可能 賦予軟件越來越多“類人”品質(zhì)，并最終欣賞到計算機和機器人通過其藝術(shù)作品所表達(dá)的逼真的生活體驗。然而，這并不意味著機器人從此可 以擺脫作為非人類物體的先天性約束。正因為如此，它們的藝術(shù)作品將 始終有別于人類的創(chuàng)作，社會也將認(rèn)識到最好的藝術(shù)品實際上就是對人 性的頌揚。

如今許多人對人工智能生成的藝術(shù)品情有獨鐘，實際上每當(dāng)新技術(shù) 被用于藝術(shù)活動時都會出現(xiàn)這樣的獵奇現(xiàn)象。不過，對于所謂的新生事 物沖擊，如果被善加利用也會結(jié)出優(yōu)秀的文化碩果。為此，人們正在試 圖劃出界線，厘清自動化能夠做什么以及應(yīng)該做什么。當(dāng)然，這些界線 最終會被跨越并逐漸模糊，世界也將由此變得趣味盎然。然而，藝術(shù)領(lǐng) 域的一個突出特點就是以人為中心，這在自動化時代必將變得更加明 確。我有時會把詩歌比喻為濃縮的人性：由人所寫，為人而寫，寫的是人（Colton等， 2012）。

言歸正傳，下面將談?wù)勛詣踊瘜Ω鞣N工作活動的影響。跟前面的詩 歌類似，有些事情我們可能只想把它們劃歸為只適合人類承擔(dān)或以人為 中心的工作。其中一項就是最近新聞報道中提到的老人護理工作。隨著 機器人護理員從科學(xué)幻想走進科學(xué)現(xiàn)實，日本和其他一些國家的機器護 理員都已進入測試階段（ Hurst， 2018）。在這樣的工作領(lǐng)域，我們必須 權(quán)衡利弊。隨著其他工作崗位實現(xiàn)自動化，可能會有更多的人去從事護 理工作，這對于改善老齡人口的保健服務(wù)大有必要。然而，也許有人會問，為什么真人就比機器人更適合照料老人？ 而且肯定還會有一種功利 主義的觀點認(rèn)為使用機器人做護理總比沒有護理強。因此，權(quán)衡利弊非 常重要。在其他領(lǐng)域，也會出于別的原因需要破除“只有人才能做”的 禁錮。我曾經(jīng)提醒我的學(xué)生們，在電子表格出現(xiàn)以前，紙質(zhì)分類賬本都 是由擅長算術(shù)和統(tǒng)計的人手工填寫；然而，如今記賬早已普遍采用計算 機操作，它不僅使簿記實現(xiàn)了大眾化、提高了準(zhǔn)確度和效率，而且有助于將電子表格的應(yīng)用范圍擴大到生活的其他許多領(lǐng)域。雖然人類會計還在繼續(xù)工作，但如果現(xiàn)在還有企業(yè)想雇人來從事手工填寫報表或其他復(fù) 雜的計算，大家一定會覺得不可思議。

關(guān)于工作和休閑，我曾在收音機里聽到一個簡單粗暴的定義，它已 經(jīng)影響到我對在社會上推廣利用人工智能的思考。那個定義是：工作就 是你樂意付錢請別人從事的任何活動，而除此之外的一切活動都是休 閑。如果研究人員想了解人們的日?；顒幽男儆诠ぷ?、哪些屬于休 閑時，上述定義就顯得頗具操作性。認(rèn)為工作就是花錢雇人干的活，這 個想法實際上給工作的定義設(shè)置了很高的標(biāo)準(zhǔn)，它促使人們?nèi)ニ伎脊ぷ?和休閑生活的質(zhì)量。因此，這是一個相當(dāng)主觀的定義。例如，業(yè)余垂釣 對許多人而言絕對是一項休閑活動，但假如我愿意花錢雇一個人拿根魚 竿在河邊坐上好幾個小時，對我而言這人就像是在為我工作。又比如， 為自己的孩子換尿布這件事情，這是做父親的本分，我不會花錢請人代 勞；不是因為我喜歡做，而是我認(rèn)為這件事本身似乎不值得花錢請人來做，盡管我尊重別人花錢雇人換尿布。我很幸運，因為我從事的有償活 動對我來說大都可以歸于休閑，更幸運的是我的雇主從不利用這個事實 來克扣我的工資。

在我看來，要確定一個工作場所是否適合推廣自動化系統(tǒng)，首先 可以詢問員工他們的活動中有哪些可以歸為工作、哪些可以歸為休閑，然后設(shè)法使屬于工作的那部分實現(xiàn)自動化，同時盡量創(chuàng)造機會增加休閑活動的比重。我以前曾經(jīng)提到一個關(guān)于“標(biāo)題黨媒體”（clickbait journalism）的例子。一位此類媒體的前雇員在接受《衛(wèi)報》采訪時表 示，他并不想當(dāng)標(biāo)題黨記者，因為每天要做的事情就是必須在鍵盤上敲 出幾十篇低俗而空洞的短文。一旦這位特殊的記者選擇跳槽，他就會被自動化系統(tǒng)所取代，因為軟件系統(tǒng)現(xiàn)在已經(jīng)可以照葫蘆畫瓢，將各種統(tǒng)計數(shù)據(jù)和第三方新聞報道嫻熟地套用到標(biāo)題黨文章里面。當(dāng)然這位記者 也可以有第三種選擇：他可以告訴老板自己其實很喜歡寫一些有人情味的文章，并同意把利用軟件撰稿節(jié)省出來的時間用于發(fā)表更多關(guān)于名人 寵物化妝之類的八卦新聞。不過，如前文所述，就目前而言，達(dá)成這樣 的結(jié)果對他來說只是一廂情愿。

雖然知道這是一種極度烏托邦的設(shè)想，但我仍然相信我們可以生活 在一個自動化的世界。在這個世界中，人類駕駛和自動駕駛的出租車都 可以載著我們在城市里穿梭，但人類司機之所以還開出租車，是因為他 們真正熱愛這份工作，而不僅僅是為了養(yǎng)家糊口。我們也許還樂意為體 驗到人類駕駛的出租車付更高的價格，就像我們現(xiàn)在買藝術(shù)作品一樣。 多付點錢給人類司機是理所應(yīng)當(dāng)?shù)?，畢竟雇用人力比使用機器人成本更 高，而且乘客也可以在與司機的交流中享受到更多的文化體驗。這種理 想化的愿景自然不會延伸到所有類型的工作以及所有的人或公司，但我 相信，這是我們作為一個社會群體應(yīng)該為之努力的方向。

在促成本文的論壇上（ 指2018年2月倫敦全球研究中心主辦的“工作的未來”研討會—譯者注），其他與會者提出了幾個問題，其中一 些我在上述討論中已經(jīng)作了回應(yīng)。此外，有人注意到我的一個觀點— 大多數(shù)人工智能研究人員傾向于將人工智能技術(shù)的發(fā)展與它的用途區(qū)別 對待，并且不太關(guān)注人工智能的道德問題。對此我想強調(diào)的是，雖然目前情況確實如此，但隨著技術(shù)領(lǐng)導(dǎo)者—比如來自谷歌Deep Mind的德米斯 · 哈薩比斯（ Demis Hassabis） —積極推動建立人工智能應(yīng)用的 道德規(guī)范，加之一些大學(xué)也逐步為計算機專業(yè)的學(xué)生開設(shè)人工智能應(yīng)用 道德課程，將來的情況必然會發(fā)生變化。

后來，研討會又回到“由誰來決定人工智能的應(yīng)用”這個問題，并 提出是否有可能自下而上來推動，例如從社區(qū)或消費者團體著手。我承認(rèn)自己對此深表懷疑。我指出，學(xué)術(shù)界的人工智能團體也在帶頭行動。 我舉了一個關(guān)于抵制自動殺人機的例子。這場學(xué)術(shù)運動就是由我的一位老同事托比 ·沃爾什教授（Toby Walsh） 發(fā)起的。他在2018年出版了《會思考的機器：人工智能的未來》（Machines That Think: The Future of Artificial Intelligence）一書。我最近曾對沃爾什表達(dá)過自己的疑慮：一 場學(xué)術(shù)運動是否能扭轉(zhuǎn)人工智能在政府、軍隊甚至商業(yè)領(lǐng)域的發(fā)展趨 勢？ 但他顯然比我更樂觀。他認(rèn)為，這些組織都在積極雇用人工智能專 業(yè)的博士畢業(yè)生，而且人才爭奪非常激烈。他相信，其中一些畢業(yè)生可 能會受到這場學(xué)術(shù)運動的影響，從而在擇業(yè)時將考慮那些用人單位的道 德立場。這不失為一個令人振奮的消息。

另一場討論集中于軟件本身的創(chuàng)作能力。有人認(rèn)為，雖然計算機軟 件能夠?qū)σ郧暗乃囆g(shù)杰作— 比如音樂名曲—進行重新組合，但真正 的藝術(shù)家不僅需要動用音樂資料庫里面的資源，而且還要積累素材。 這些素材來自他們的日常生活、來自其他文藝作品（如小說）、來自夢想、來自朋友間的互動以及其他許多方面。大家認(rèn)為，只有受到這些素 材的潛移默化，軟件才能創(chuàng)造出偉大的藝術(shù)作品。我也持同樣的立場。我經(jīng)常告訴別人，在計算機創(chuàng)作研究中我們應(yīng)該如何避免生搬硬套，因 為這與創(chuàng)作的理念背道而馳。我也反對認(rèn)為軟件創(chuàng)作不會被上述因素感 染的觀點。我指出，“繪畫傻瓜”的“靈感”就來自每天報紙上的文章 和推特數(shù)據(jù)流（twitter stream），來自之前肖像模特所表達(dá)的情感。我反復(fù)聲明，我實在不明白為什么軟件就不能擁有豐富的素材，因為所有 能模擬人類生活的內(nèi)容都可以被設(shè)計到軟件之中。我推測，目前在創(chuàng)作軟件中之所以未能實現(xiàn)這一步，并不是因為技術(shù)上的限制，而是因為還 沒有形成針對計算機創(chuàng)作活動的經(jīng)濟模式。開發(fā)計算機的創(chuàng)作能力，可 能需要調(diào)動大型科技公司龐大的人力和算力資源。

最后，我們還討論了藝術(shù)品的估值問題，我們認(rèn)為藝術(shù)作品應(yīng)當(dāng)具備原創(chuàng)性和獨特的價值。需要指出的是，許多從事創(chuàng)作的人都聲稱自己 的作品具有原創(chuàng)性，但在市場上卻遭到冷落，這里面可能涉及個人才華 不夠、缺少人脈以及帶有偏見的估值等因素。估值是一個非?！班须s” 的過程，我們懷疑計算機是否能在這樣“嘈雜”的環(huán)境中保持專注、認(rèn)清自己，像人類一樣借鑒過去的失敗和錯誤以不斷完善自己。我注意 到，“繪畫傻瓜”確實能夠從它的某些失敗經(jīng)歷中吸取教訓(xùn)，吃一塹長一智，每當(dāng)發(fā)現(xiàn)自己的敗筆之后都能夠在下一次創(chuàng)作中畫出更加感人的肖像。之所以能做到這一點，是因為它帶著閱讀報紙文章后產(chǎn)生的模擬 情感，使用機器視覺來分析作品的效果并表現(xiàn)出情感價值。

我們還討論了人工智能是否應(yīng)該借鑒文學(xué)藝術(shù)領(lǐng)域?qū)?chuàng)作的簡單化 定義（比如產(chǎn)生出富有新意和價值的作品）（Colton等， 2014）。我提出 的觀點是，“藝術(shù)”和“創(chuàng)作”這類概念其實在本質(zhì)上是存在爭議的。 正如哲學(xué)家W ·B. 加利（ W. B. Gallie）在其論文《本質(zhì)上有爭議的概 念》（Essentially Contested Concepts）中所言：要想恰如其分地使用這 些概念，你就得煞費苦心先搞清楚什么是“概念的恰當(dāng)運用”（Gallie ， 1955）。換句話說，我們的社會已經(jīng)形成默契，在某些概念上我們可能 永遠(yuǎn)都無法達(dá)成一致，這也是社會進步的一個重要推動力。接下來討論 的焦點是，在辨析那些本質(zhì)上存在爭議的概念（比如藝術(shù)和創(chuàng)作）時， 某些人是否更具有權(quán)威性。我同意有的人在某些事情上確實擁有更多的 權(quán)威性和更深刻的領(lǐng)悟，因此可以提出更令人信服的觀點，但這并不能 改變一個事實：為了更好地討論計算機的創(chuàng)作能力，他們也應(yīng)該與別人進行切磋。由此推導(dǎo)出本文的結(jié)論：只有當(dāng)軟件本身有助于討論什么是 創(chuàng)作的時候，我才會相信自己已經(jīng)成功開發(fā)出真正具有創(chuàng)作能力的軟 件。我建議設(shè)計這樣一個從哲學(xué)意義上具有創(chuàng)造性的人工智能系統(tǒng)，以 此終結(jié)我作為一名計算機創(chuàng)作能力研究者的職業(yè)生涯。

本文摘自：《工作的未來》

關(guān)鍵詞： 人工智能的可能性與局限性機器不能做什么 人工智能