依賴人工智能的銀行存在巨大風(fēng)險(xiǎn)？

有專家表示，隨著國(guó)際形勢(shì)的日益嚴(yán)峻，使用人工智能技術(shù)的銀行和其他金融機(jī)構(gòu)可能更加容易受到網(wǎng)絡(luò)攻擊。

《華爾街日?qǐng)?bào)》最近的一篇報(bào)道強(qiáng)調(diào)了這些擔(dān)憂，全球金融機(jī)構(gòu)從一開(kāi)始就在某些制裁行動(dòng)中發(fā)揮了重要作用，而這無(wú)疑是將自己牽扯進(jìn)直接爭(zhēng)端當(dāng)中。

專家們擔(dān)心，這些機(jī)構(gòu)以提高效率的名義，越發(fā)依賴人工智能系統(tǒng)，可能會(huì)得不償失。美國(guó)聯(lián)邦調(diào)查局（FBI）前政策顧問(wèn)安德魯·伯特（Andrew Burt）將人工智能漏洞描述為：許多依賴人工智能的金融機(jī)構(gòu)漏洞巨大且被廣泛忽視。

那么，為什么人工智能更容易受到攻擊呢？總的來(lái)說(shuō)，源于人工智能的底層技術(shù)是機(jī)器學(xué)習(xí)，而機(jī)器學(xué)習(xí)需要利用大量數(shù)據(jù)來(lái)持續(xù)升級(jí)計(jì)算能力。這一現(xiàn)實(shí)使他們特別容易受到數(shù)據(jù)操縱攻擊。過(guò)去，研究人員已經(jīng)證明，攻擊者有可能故意“毒害”算法的訓(xùn)練數(shù)據(jù)，以破壞或影響它可能輸出的任何結(jié)果。

雖然人工智能算法中源于有限數(shù)據(jù)的種族、性別和其他偏見(jiàn)問(wèn)題已經(jīng)眾所周知，但一些研究人員擔(dān)心，針對(duì)金融機(jī)構(gòu)的不良行為者可能會(huì)部署大量有偏見(jiàn)的數(shù)據(jù)來(lái)攻擊金融系統(tǒng)算法，以影響市場(chǎng)情緒。

更糟糕的是，根據(jù)2020年喬治城安全與新興技術(shù)中心的報(bào)告，機(jī)器學(xué)習(xí)漏洞不能像其他軟件那樣修補(bǔ)，這意味著任何潛在的攻擊都可能持續(xù)更長(zhǎng)時(shí)間。

"在這些系統(tǒng)中處于休眠狀態(tài)的是漏洞，這些漏洞與我們數(shù)十年經(jīng)驗(yàn)的傳統(tǒng)缺陷不同，"報(bào)告寫道。"這些漏洞是普遍存在的，使用廣泛擴(kuò)散的工具利用起來(lái)很便宜，而且通常幾乎沒(méi)有防御措施。

這些算法也可以在沒(méi)有大量數(shù)據(jù)集的情況下實(shí)時(shí)被欺騙。

例如，騰訊Keen Security Lab的研究人員在2019年展示了幾種相對(duì)簡(jiǎn)單的技術(shù)，用于欺騙特斯拉的機(jī)器學(xué)習(xí)能力，首先欺騙擋風(fēng)玻璃雨刷器在不應(yīng)該接合時(shí)接合，然后在道路上使用明亮的貼紙來(lái)說(shuō)服特斯拉參與自動(dòng)駕駛儀漂移到相反的車道上。

“我還沒(méi)有看到任何能夠抵御虛假信息洪流的真正能力，”蒙特利爾人工智能倫理研究所創(chuàng)始人Abhishek Gupta很是擔(dān)心。

關(guān)鍵詞： 依賴人工智能的銀行存在巨大風(fēng)險(xiǎn) 人工智能