技術(shù)濫用警報(bào)：AI能在6小時(shí)內(nèi)合成4萬種新的致命化合物

據(jù)最新一期《自然·機(jī)器智能》刊發(fā)的論文，美國科學(xué)家發(fā)出警報(bào)，人工智能（AI）很容易被濫用。實(shí)驗(yàn)顯示，AI在被研究人員賦予任務(wù)之后，在短短6小時(shí)內(nèi)就合成了40000種新的致命化學(xué)武器化合物。

據(jù)報(bào)道，北卡羅來納州羅利的生物技術(shù)創(chuàng)業(yè)公司Collaborations Pharmaceuticals科研團(tuán)隊(duì)正在使用人工智能尋找可用于治療疾病的化合物，其中一部分涉及過濾掉任何可能致命的化合物。

作為檢測新技術(shù)潛在負(fù)面影響的一部分，研究小組在其人工智能算法中 "打開了一個(gè)開關(guān)"，并讓它找到最致命的化合物。該團(tuán)隊(duì)想看看，如果人工智能算法被設(shè)定在一個(gè)負(fù)面而非正面的任務(wù)上，它可以多么迅速和容易地被濫用。

根據(jù)The Verge的一份報(bào)告，一旦進(jìn)入“壞模式”，人工智能就能夠發(fā)明數(shù)以千計(jì)的新化學(xué)組合，其中許多類似于今天使用的最危險(xiǎn)的神經(jīng)毒劑。

在人工智能發(fā)明的化合物中，有一些類似于VX，一種毒性極強(qiáng)的神經(jīng)毒劑，即使是很小的劑量也能引起抽搐。

研究人員表示，他們發(fā)現(xiàn)最可怕的是，利用廣泛可用的有毒化學(xué)品數(shù)據(jù)庫，并使用人工智能來設(shè)計(jì)類似于目前最危險(xiǎn)的化學(xué)武器是多么容易。

論文的主要作者烏爾比納（FabioUrbina）說：“我們使用的很多東西都是免費(fèi)的，你可以從任何地方去下載一個(gè)毒性數(shù)據(jù)庫。如果有一個(gè)人知道如何用Python編程，并且有一些機(jī)器學(xué)習(xí)的能力，那么可能在一個(gè)周末的工作中，他可以建立類似于這種由有毒數(shù)據(jù)庫驅(qū)動(dòng)的生成模型?！?/p>

他表示，這就是讓研究團(tuán)隊(duì)考慮把這篇論文公開發(fā)表原因，對(duì)于這種類型的濫用，它的進(jìn)入門檻如此之低。

文/南都記者 陳林

關(guān)鍵詞： 技術(shù)濫用警報(bào)AI能在6小時(shí)內(nèi)合成4萬種新的致命化合物