鄔賀銓院士：數(shù)字安全需要探索新模式

（CWW）8月9日，在ISC 2023第十一屆互聯(lián)網(wǎng)安全大會上，中國工程院院士鄔賀銓表示，人工智能時代，傳統(tǒng)安全防護的手段急需升級，數(shù)字安全需要探索新的模式，以適應(yīng)復(fù)雜的數(shù)字化場景。

數(shù)字經(jīng)濟將驅(qū)動新型基礎(chǔ)設(shè)施建設(shè)，并加速數(shù)字技術(shù)的新一輪創(chuàng)新，以人工智能為代表的數(shù)字技術(shù)將重塑數(shù)字內(nèi)容生產(chǎn)方式和消費模式，通用人工智能將實現(xiàn)知識與數(shù)據(jù)雙輪驅(qū)動，未來單個模型有望通過遷移學(xué)習(xí)支持多種業(yè)務(wù)，并且能夠精準選擇節(jié)點，從而有效降低功耗和成本。數(shù)字化將逐漸走向智能化高峰，開啟人工智能的時代。

(資料圖)

與此同時，AI大模型的應(yīng)用，也將會越來越多的滲透到社會、生產(chǎn)、生活的方方面面，大模型會無形無影相隨。值得注意的是，AI大模型技術(shù)發(fā)展和應(yīng)用過程中存在技術(shù)安全風(fēng)險和人為安全風(fēng)險。

鄔賀銓分析道，一是大模型數(shù)據(jù)安全。大模型訓(xùn)練依托海量數(shù)據(jù)，開源數(shù)據(jù)集、互聯(lián)網(wǎng)數(shù)據(jù)容易得到，但很多數(shù)據(jù)質(zhì)量無法保證，如果拿這些數(shù)據(jù)來訓(xùn)練，內(nèi)容風(fēng)險程度可想而知。此外，很多中小企業(yè)沒有自己的模型，如果模型把它們的數(shù)據(jù)拿到，企業(yè)也會擔心機密數(shù)據(jù)泄露。

二是大模型算法安全。AI大模型的算法推理過程存在不可控制性，輕則得到令人意想不到的回答，數(shù)據(jù)結(jié)果存在不可解釋性，重則可能出現(xiàn)算法失控。

三是大模型被人為操縱后造成的安全風(fēng)險擾亂社會秩序。

鄔賀銓表示，網(wǎng)信辦已就此起草相應(yīng)的管理辦法，對容易引起數(shù)據(jù)泄露安全的大模型應(yīng)用，都應(yīng)該采取比較謹慎的態(tài)度。

對于如何應(yīng)對風(fēng)險，鄔賀銓建議主動迎接IPV6的主導(dǎo)互聯(lián)網(wǎng)時代，通過IPV6提升數(shù)據(jù)的安全能力，支撐跨境數(shù)據(jù)流動的有效管理，護航數(shù)據(jù)安全流動。

同時，要摒棄硬件式碎片化弱協(xié)同的傳統(tǒng)安全防護手段，向云化、服務(wù)化的理念升級。數(shù)字安全企業(yè)需要建立體系化的安全運營服務(wù)框架，面向各行各業(yè)輸出數(shù)字安全能力，幫助企業(yè)構(gòu)建安全防御體系，保護數(shù)據(jù)安全與商業(yè)秘密。

此外，鄔賀銓提出，要完善數(shù)字安全的生態(tài)系統(tǒng)，要覆蓋工業(yè)企業(yè)設(shè)備供應(yīng)商、基礎(chǔ)電信運營商、云服務(wù)商、工業(yè)互聯(lián)網(wǎng)平臺運營商、工業(yè)應(yīng)用提供商、數(shù)字安全提供企業(yè)、第三方檢測機構(gòu)與用戶等，實現(xiàn)危險威脅處置情報共享。

鄔賀銓表示，數(shù)字安全已經(jīng)成為數(shù)字經(jīng)濟發(fā)展的焦點，人工智能等數(shù)字技術(shù)的應(yīng)用本身既是安全防御的重點、手段，也是保障的有力手段，需要將大數(shù)據(jù)、人工智能、互聯(lián)網(wǎng)等這些技術(shù)融合，提升保障能力。

關(guān)鍵詞：