俄烏沖突啟示：AI可在6小時(shí)內(nèi)造出萬(wàn)種生化武器，或?qū)⒂糜谲娛?/h1>

發(fā)布時(shí)間：2022-03-25 17:47:51  |  來(lái)源：騰訊網(wǎng)  

在世界各地的局部沖突中，生化武器已經(jīng)多年沒(méi)有展現(xiàn)過(guò)崢嶸了，很多人都可能因此而低估了生化武器的破壞力和致命性，事實(shí)顯然不是這樣——任何低估生化武器威力的人都有可能為此付出巨大的代價(jià)。而隨著俄烏沖突的發(fā)展，美國(guó)在包括烏克蘭在內(nèi)的世界各地大搞生物武器的丑聞也被曝光出來(lái)，這一事實(shí)很快就將沉寂許久的生化武器推到了風(fēng)口浪尖，讓我們不得不再次認(rèn)真審視生化武器這個(gè)“大麻煩”。

近日，美國(guó)某制藥公司的研究人員公開(kāi)了一項(xiàng)基于人工智能的試驗(yàn)，在這項(xiàng)實(shí)驗(yàn)中，研究人員通過(guò)本來(lái)是用于藥物制造的AI系統(tǒng)，在6個(gè)小時(shí)內(nèi)，“制造”出了4萬(wàn)種能造成巨大破壞的生化武器。這一項(xiàng)研究一經(jīng)公布，就在外媒中備受矚目，仿佛和美國(guó)的烏克蘭生物武器研究“遙相呼應(yīng)”，警醒我們必須時(shí)刻警惕美國(guó)的生化武器“生產(chǎn)制造能力”。

人工智能和生化武器

人工智能無(wú)疑功能強(qiáng)大，借助人工智能，現(xiàn)代的科學(xué)研究進(jìn)展得到了極大的促進(jìn)，醫(yī)療衛(wèi)生技術(shù)水平也大受裨益，AI能夠幫助醫(yī)生盡早判斷病人身體的變化，從而挽救生命；AI能夠預(yù)測(cè)和評(píng)估某些新元素組合的化學(xué)反應(yīng)，并調(diào)控其反應(yīng)的水平，其準(zhǔn)確率達(dá)到了驚人的水平；AI甚至能夠推算宇宙的壽命、行星的演化或者說(shuō)預(yù)測(cè)下一次世界末日（當(dāng)然，其準(zhǔn)確性是無(wú)法論證的）。

總之，人工智能很強(qiáng)大，可能比以往所有的技術(shù)都要來(lái)得更強(qiáng)大，但是萬(wàn)事有利有弊。

人工智能的門(mén)檻已經(jīng)越來(lái)越低了，大量的開(kāi)源程序和代碼拉低了人工智能的準(zhǔn)入門(mén)檻，即便是一名只有一周編程經(jīng)驗(yàn)的程序員也能通過(guò)閱讀詳實(shí)的開(kāi)源文檔，很快入手那些強(qiáng)大的人工智能模型，并用它來(lái)訓(xùn)練和利用數(shù)據(jù)，從而來(lái)做一些事。至于這個(gè)事到底是好事還是壞事，可能就在一念之間。

就好像之前網(wǎng)上沸沸揚(yáng)揚(yáng)的某些視頻換臉明星的事件，要達(dá)成這種目標(biāo)并不需要高超的技術(shù)，只需要通用的人工智能模型和幾天的文檔閱讀就可以做到。

而前文中提到的美國(guó)某制藥廠的這次試驗(yàn)，顯然不是小打小鬧，在此次實(shí)驗(yàn)中，人工智能幾乎就化身一名經(jīng)驗(yàn)豐富、頭腦靈活且充滿奇思妙想的生物學(xué)家、化學(xué)家和軍事學(xué)家。它僅僅在6小時(shí)之內(nèi)，就開(kāi)發(fā)出了4萬(wàn)種能夠真正用于生化戰(zhàn)爭(zhēng)的生化武器，這個(gè)數(shù)量是相當(dāng)驚人的。

換句話說(shuō)，和平年代，那些制藥廠的高級(jí)人工智能制造的是救人活命的良藥；一旦到了戰(zhàn)爭(zhēng)時(shí)期，這些人工智能可能搖身一變，就會(huì)化作制造致命毒品的邪惡機(jī)器，即將收割成千上萬(wàn)的無(wú)辜生命。

參與此次試驗(yàn)的一名研究人員有些無(wú)奈地吐槽道：

“我們花了幾十年的時(shí)間來(lái)研究人工智能和相關(guān)技術(shù)，是希望利用這些技術(shù)來(lái)改善人類(lèi)的健康水平，而不是摧毀人類(lèi)。”

美國(guó)制藥廠的此次試驗(yàn)詳情

一直以來(lái)，很多生物學(xué)家、醫(yī)學(xué)家進(jìn)行大量的人工智能研究都是為了提升人類(lèi)的健康水平，拯救更多的生命，大概他們都沒(méi)想過(guò)有一天這種技術(shù)會(huì)存在被濫用于制造致命武器的可能。

在一次國(guó)際安全會(huì)議上，美國(guó)某制藥廠的研究小組公開(kāi)了前文提到的這次試驗(yàn)的內(nèi)容，這個(gè)研究團(tuán)隊(duì)采用的AI系統(tǒng)名叫MegaSyn，在最初的工作中，科研人員通過(guò)這個(gè)AI系統(tǒng)來(lái)檢測(cè)機(jī)體中有毒的分子并將其清除，試圖來(lái)為人類(lèi)疾病靶標(biāo)治療提供新的方法。

但是后來(lái)，某一名研究人員突發(fā)奇想，逆轉(zhuǎn)了這一過(guò)程，其他人也對(duì)這個(gè)想法很感興趣，于是他們開(kāi)始逆向訓(xùn)練這個(gè)AI系統(tǒng)，選擇只保留機(jī)體中的毒性物質(zhì)。

在這項(xiàng)看起來(lái)有些瘋狂的實(shí)驗(yàn)中，研究人員不僅將有毒分子保留了下來(lái)，而且還訓(xùn)練這個(gè)AI系統(tǒng)開(kāi)始將這些有毒分子進(jìn)行各種嘗試組合，從而在如此短的時(shí)間內(nèi)發(fā)現(xiàn)了總數(shù)量聳人聽(tīng)聞的生化武器。

其中值得一提的就是一種叫VX強(qiáng)效神經(jīng)毒劑的東西，這種東西只需要區(qū)區(qū)10毫克就能讓一名健康的成年人死亡！

盡管VX神經(jīng)毒素的致死性已經(jīng)很強(qiáng)大了，但是AI系統(tǒng)合成的生化武器中，比VX毒性更強(qiáng)的化合物還要有許多，不過(guò)科研人員選擇對(duì)這些研究細(xì)節(jié)進(jìn)行了保密，日后，這些研究?jī)?nèi)容是否應(yīng)該公諸于世呢？研究小組內(nèi)部展開(kāi)了嚴(yán)肅的辯論，至少在目前，他們最終還是決定將一些駭人聽(tīng)聞的內(nèi)容和那些過(guò)于強(qiáng)大的毒劑先隱藏起來(lái)。

僅僅只是通過(guò)逆向訓(xùn)練這套AI系統(tǒng)，研究人員就將原本用來(lái)救命的醫(yī)學(xué)工具轉(zhuǎn)變成了可以生產(chǎn)知名生化武器的戰(zhàn)爭(zhēng)機(jī)器。

所以說(shuō)，人工智能從做好事轉(zhuǎn)變到做壞事，并不需要“付出很多”。

值得慶幸的是，這些科研人員并沒(méi)有把AI系統(tǒng)“制造”出來(lái)的生化武器在實(shí)驗(yàn)室中進(jìn)行實(shí)際的合成，所以暫時(shí)還不需要擔(dān)心有任何生化武器泄露或者擴(kuò)散。

研究人員也表示他們的實(shí)驗(yàn)是對(duì)于人工智能的危險(xiǎn)性的一個(gè)警告，所有熱愛(ài)和平的人都應(yīng)因此開(kāi)始認(rèn)真審視人工智能潛在的風(fēng)險(xiǎn)。

但是，這只是對(duì)于熱愛(ài)和平的人而言罷了，對(duì)那些別有用心的人——比如有些能夠憑一盒洗衣粉發(fā)動(dòng)戰(zhàn)爭(zhēng)的人而言——這或許是一個(gè)敦促他們借此來(lái)大力研究和開(kāi)發(fā)生化武器的信號(hào)。

至少這個(gè)實(shí)驗(yàn)證明了，即便不需要聰明的人類(lèi)科學(xué)家參與，僅憑機(jī)器自己，就能夠自主創(chuàng)造足夠致命的生化武器。

盡管在短期內(nèi)，上述內(nèi)容可能仍然只是一種假設(shè)的可能性，但這很可能就是未來(lái)戰(zhàn)爭(zhēng)的形態(tài)。所有的尖端技術(shù)最終都會(huì)和軍事技術(shù)、戰(zhàn)略、戰(zhàn)術(shù)融為一體，畢竟，戰(zhàn)爭(zhēng)從未改變。

關(guān)鍵詞： 俄烏沖突啟示AI可在6小時(shí)內(nèi)造出萬(wàn)種生化武器 或?qū)⒂糜?/a>