從數(shù)學(xué)悖論中折射出的AI極限

人工智能的致命弱點

深度學(xué)習(xí)是一種用于模式識別的人工智能技術(shù)，這是一種正全面進入科學(xué)計算領(lǐng)域的成功技術(shù)。我們常在許多令人矚目的新聞標題中看到它的身影，比如說它能夠比醫(yī)生更準確地診斷疾病，又比如說它能通過自動駕駛預(yù)防交通事故等等。然而，許多深度學(xué)習(xí)系統(tǒng)是不值得信任的，它們很容易被愚弄。

這使得人工智能系統(tǒng)就像一些過度自信的人類一樣，常常具有遠超其實際能力的自信。而人類還比較善于發(fā)現(xiàn)自己的錯誤，但許多人工智能根本無法知道自己在什么時候犯了錯。對人工智能系統(tǒng)來說，有時意識到自己犯了錯甚至比產(chǎn)生一個正確的結(jié)果還要困難。

這種不穩(wěn)定性是現(xiàn)代人工智能的致命弱點，也是一個悖論。這個悖論可以追溯到20世紀的兩位數(shù)學(xué)巨匠——圖靈（Alan Turing）和哥德爾（Kurt G del）。20世紀初，數(shù)學(xué)家們正試圖證明數(shù)學(xué)是統(tǒng)一科學(xué)的終極語言。然而，圖靈和哥德爾發(fā)現(xiàn)了數(shù)學(xué)核心的一個悖論：某些數(shù)學(xué)命題的真?zhèn)问遣豢赡鼙蛔C明的，而有些計算問題也無法用算法來解決。

到了20世紀末，數(shù)學(xué)家斯蒂芬·斯梅爾（Steve Smale）提出了18個當時未解數(shù)學(xué)問題的清單，其中的最后一問所探討的就是人類和機器的智能極限。這個問題至今沒有得到解決，不過它將圖靈和哥德爾最先提出的悖論帶入了人工智能的世界：數(shù)學(xué)存在固有的基本極限，類似地，人工智能算法也有無法解決的問題。

人工智能的固有極限

一項新的研究表明，人工智能普遍存在固有的極限，而這種極限可歸結(jié)于這個長達世紀之久的數(shù)學(xué)悖論。研究人員通過擴展哥德爾和圖靈提出的方法，展示了計算神經(jīng)網(wǎng)絡(luò)的算法所存在的極限。他們提出了一種分類理論，描述了在特定條件下，可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)來提供可信的人工智能系統(tǒng)的情況。

研究結(jié)果被發(fā)表在了近期的《美國國家科學(xué)院院刊》上。新研究指出，穩(wěn)定、精確的神經(jīng)網(wǎng)絡(luò)存在問題，且沒有算法可以產(chǎn)生這樣的網(wǎng)絡(luò)。只有在特定的情況下，算法才能計算出穩(wěn)定、精確的神經(jīng)網(wǎng)絡(luò)。

神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域最先進的工具，之所以稱之為“神經(jīng)網(wǎng)絡(luò)”，是因為它是對大腦神經(jīng)元之間的聯(lián)系的一種大致模擬。在新研究中，研究人員表示雖然在某些情況下，良好的神經(jīng)網(wǎng)絡(luò)可以存在，但由于這種悖論的存在，我們無法創(chuàng)建一個固有可靠的神經(jīng)網(wǎng)絡(luò)。換句話說，無論我們用于構(gòu)建一個神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)有多么準確，都永遠無法獲得構(gòu)建這個神經(jīng)網(wǎng)絡(luò)所需的完美信息。

與此同時，無論對多少數(shù)據(jù)的進行訓(xùn)練，也都不可能計算出良好的現(xiàn)有神經(jīng)網(wǎng)絡(luò)。無論一個算法能訪問多少數(shù)據(jù)，它都不會生成所需的網(wǎng)絡(luò)。這一點與圖靈的觀點類似：無論計算能力和運行時間如何，都存在無法解決的計算問題。

研究人員表示，并不是所有的人工智能都有固有缺陷。在某些情況下，人工智能犯錯誤是完全沒有問題的，但它需要誠實面對這些問題。然而，這并不是我們在許多系統(tǒng)中所看到的情況。

理解人工智能的基礎(chǔ)

當我們嘗試一些東西發(fā)現(xiàn)它不起作用時，可能會加點其他東西希望它能起作用，然而如果當加到一定程度時仍不能得到想要的，我們就會選擇嘗試不同的方法。理解不同方法具有各自的極限是很重要的。現(xiàn)在，人工智能正處于其實際成功遠遠領(lǐng)先其理論和對其理解的階段，因此我們急需能夠理解人工智能計算基礎(chǔ)來彌補這一差距。

當20世紀的數(shù)學(xué)家發(fā)現(xiàn)不同的悖論時，他們并沒有停止對數(shù)學(xué)的研究。他們必須找到新的道路，因為他們明白其中的極限。相應(yīng)地，在人工智能領(lǐng)域，這或許意味著需要改變路徑或開發(fā)新的路徑，從而構(gòu)建出能以可靠且透明的方式解決問題的，并同時了解它們的極限的系統(tǒng)。

研究人員的下一個階段是將近似理論、數(shù)值分析和計算基礎(chǔ)結(jié)合起來，來確定哪些神經(jīng)網(wǎng)絡(luò)是可以通過算法計算的，以及哪些神經(jīng)網(wǎng)絡(luò)是可以變得穩(wěn)定和可信的。正如哥德爾和圖靈提出的關(guān)于數(shù)學(xué)和計算機極限的悖論帶來的豐富的基礎(chǔ)理論，也許類似的基礎(chǔ)理論可能會在人工智能中開花結(jié)果。

#創(chuàng)作團隊：

撰文：小雨

排版：雯雯

#參考來源：

https://www.cam.ac.uk/research/news/mathematical-paradox-demonstrates-the-limits-of-ai

#圖片來源：

封面圖：julientromeur / Pixabay

首圖：Chenspec / Pixabay

關(guān)鍵詞： 從數(shù)學(xué)悖論中折射出的AI極限 人工智能 神經(jīng)網(wǎng)絡(luò) 深度學(xué)習(xí)