鄔江興院士：動(dòng)態(tài)異構(gòu)冗余構(gòu)造賦能AI應(yīng)用系統(tǒng)內(nèi)生安全實(shí)驗(yàn)

(資料圖片僅供參考)

（CWW）8月9日，在第十一屆互聯(lián)網(wǎng)安全大會(huì)（簡(jiǎn)稱(chēng)“ISC 2023”）上，中國(guó)工程院院士鄔江興發(fā)表了題為“動(dòng)態(tài)異構(gòu)冗余構(gòu)造賦能AI應(yīng)用系統(tǒng)內(nèi)生安全實(shí)驗(yàn)”的演講，引起了廣泛的關(guān)注和討論。

鄔江興教授首先指出，AI應(yīng)用系統(tǒng)在各行各業(yè)都有分布，跟人類(lèi)的社會(huì)生活息息相關(guān)，但是目前很多企業(yè)在使用AI應(yīng)用系統(tǒng)時(shí)，面臨著安全性無(wú)法保障的問(wèn)題。他認(rèn)為，AI應(yīng)用系統(tǒng)的安全問(wèn)題可以分為內(nèi)生安全問(wèn)題和非內(nèi)生安全問(wèn)題，其中內(nèi)生安全問(wèn)題又可以分為個(gè)性問(wèn)題和共性問(wèn)題。個(gè)性問(wèn)題是指AI算法模型本身存在的黑盒特點(diǎn)、數(shù)據(jù)依賴(lài)性、不可逆性等導(dǎo)致的不可解釋性、不可判定性、不可推論性等問(wèn)題。共性問(wèn)題是指AI應(yīng)用系統(tǒng)軟硬件環(huán)境中存在的漏洞、后門(mén)等常見(jiàn)的網(wǎng)絡(luò)安全問(wèn)題。

鄔江興教授進(jìn)一步分析了當(dāng)前網(wǎng)絡(luò)安全理論與方法的天花板問(wèn)題，即在面對(duì)未知的未知或已知的未知的情況下，傳統(tǒng)的網(wǎng)絡(luò)安全范式無(wú)法有效解決AI應(yīng)用系統(tǒng)中存在的內(nèi)生安全個(gè)性問(wèn)題和共性問(wèn)題。他提出了一個(gè)新的思路，即利用內(nèi)生安全理論中的動(dòng)態(tài)異構(gòu)冗余（DHR）構(gòu)造方法，賦能AI應(yīng)用系統(tǒng)內(nèi)生安全實(shí)驗(yàn)。他解釋了DHR構(gòu)造方法的原理和機(jī)制，即通過(guò)功能等價(jià)異構(gòu)冗余環(huán)境發(fā)現(xiàn)差?；蛴懈泄材_動(dòng)，并進(jìn)行評(píng)比或糾錯(cuò)，從而阻斷和控制內(nèi)生安全問(wèn)題發(fā)展成為內(nèi)生安全事件。

鄔江興教授還展示了在理論研究和工程實(shí)踐方面取得的成果，包括對(duì)AI應(yīng)用算法個(gè)性化問(wèn)題的特異性分析、基于DHR構(gòu)造方法的AI應(yīng)用系統(tǒng)內(nèi)生安全實(shí)驗(yàn)原理驗(yàn)證、紫金山實(shí)驗(yàn)室創(chuàng)辦的首個(gè)網(wǎng)絡(luò)安全實(shí)驗(yàn)廠(chǎng)等。他表示，將在今年四季度舉辦第六屆國(guó)際精英挑戰(zhàn)賽，并新設(shè)了AI應(yīng)用系統(tǒng)安全賽道，這是世界上首次針對(duì)AI應(yīng)用系統(tǒng)內(nèi)生安全問(wèn)題進(jìn)行人機(jī)對(duì)抗的比賽。他呼吁更多的專(zhuān)家學(xué)者和企業(yè)界人士參與到AI應(yīng)用系統(tǒng)內(nèi)生安全研究和實(shí)踐中來(lái)，共同推動(dòng)AI時(shí)代的網(wǎng)絡(luò)空間安全發(fā)展。

關(guān)鍵詞：