普華永道：ChatGPT和生成式AI的11大安全趨勢(shì)|環(huán)球?qū)崟r(shí)

新智元報(bào)道??

來源：學(xué)術(shù)頭條

作者：庫珀

(相關(guān)資料圖)

【新智元導(dǎo)讀】近期爆火的 AI 聊天機(jī)器人 ChatGPT，以及文生圖模型 Dall·E 2、Stable Diffusion 等，讓生成式人工智能（generative AI）成功出圈。然而，技術(shù)的背后，也暗藏了一些不容忽視的風(fēng)險(xiǎn)。對(duì)安全團(tuán)隊(duì)而言，ChatGPT 和生成式人工智能究竟是福還是禍？

最近，普華永道的分析師們對(duì)國(guó)外科技媒體 VentureBeat 分享了關(guān)于生成式人工智能和 ChatGPT 等工具將如何影響威脅形勢(shì)以及防御者將出現(xiàn)哪些用例的看法。

他們認(rèn)為，雖然人工智能生成惡意代碼和釣魚郵件的能力給企業(yè)帶來了新的挑戰(zhàn)，但也為一系列防御性用例打開了大門，如威脅檢測(cè)、補(bǔ)救指導(dǎo)，以及保護(hù) Kubernetes 和云環(huán)境等。

總的來說，分析師們樂觀地認(rèn)為，從長(zhǎng)遠(yuǎn)來看，防御性用例將上升，以打擊人工智能的惡意使用。

以下是 11 個(gè)關(guān)于生成式人工智能在未來將如何影響網(wǎng)絡(luò)安全的預(yù)測(cè)。

1. 惡意使用人工智能

當(dāng)涉及到我們可以利用人工智能的方式時(shí)，我們正處于一個(gè)拐點(diǎn)，這種范式轉(zhuǎn)變影響著每一個(gè)人和每一件事。當(dāng)人工智能掌握在公民和消費(fèi)者手中時(shí)，偉大的事情可以發(fā)生。

與此同時(shí)，它可以被惡意的威脅者用于邪惡的目的，如惡意軟件和復(fù)雜的網(wǎng)絡(luò)釣魚郵件。

鑒于人工智能的未來能力和潛力的許多未知數(shù)，組織開發(fā)強(qiáng)大的程序來建立抵御網(wǎng)絡(luò)攻擊的彈性是至關(guān)重要的。

還需要有以社會(huì)價(jià)值觀為基礎(chǔ)的監(jiān)管，規(guī)定這種技術(shù)的使用要符合道德。同時(shí)，我們需要成為這一工具的“聰明”用戶，并考慮需要哪些保障措施，以使人工智能在提供最大價(jià)值的同時(shí)將風(fēng)險(xiǎn)降到最低。

2. 需要保護(hù)人工智能的訓(xùn)練和輸出?

現(xiàn)在，生成式人工智能已經(jīng)具備了可以幫助企業(yè)轉(zhuǎn)型的能力，對(duì)于領(lǐng)導(dǎo)者來說，與對(duì)如何駕馭日益增長(zhǎng)的安全和隱私考慮有深刻理解的公司合作，是非常重要的。

有兩方面原因。首先，公司必須保護(hù)人工智能的訓(xùn)練，因?yàn)樗麄儚奈⒄{(diào)模型中獲得的獨(dú)特知識(shí)將對(duì)他們?nèi)绾谓?jīng)營(yíng)業(yè)務(wù)、提供更好的產(chǎn)品和服務(wù)，以及與員工、客戶和生態(tài)系統(tǒng)接觸至關(guān)重要。

其次，公司還必須保護(hù)他們從生成式人工智能解決方案中獲得的提示和反應(yīng)，因?yàn)樗鼈兎从沉斯镜目蛻艉蛦T工正在利用該技術(shù)做什么。

3. 制定生成式人工智能使用政策

當(dāng)你考慮使用你自己的內(nèi)容、文件和資產(chǎn)進(jìn)一步訓(xùn)練（微調(diào)）生成式人工智能模型，以便它可以在你的（行業(yè)/專業(yè)）背景下對(duì)你的業(yè)務(wù)的獨(dú)特能力進(jìn)行操作時(shí)，許多有趣的商業(yè)用例就出現(xiàn)了。通過這種方式，企業(yè)可以用他們獨(dú)特的知識(shí)產(chǎn)權(quán)和知識(shí)來擴(kuò)展生成式人工智能的工作方式。

這就是安全和隱私變得重要的地方。對(duì)于一個(gè)企業(yè)來說，你促使生成式人工智能產(chǎn)生內(nèi)容的方式應(yīng)該是你企業(yè)的隱私。幸運(yùn)的是，大多數(shù)生成式人工智能平臺(tái)從一開始就考慮到了這一點(diǎn)，其設(shè)計(jì)是為了實(shí)現(xiàn)提示、輸出和微調(diào)內(nèi)容的安全和隱私。

然而，現(xiàn)在所有用戶都明白這一點(diǎn)。所以，任何企業(yè)都必須為使用生成式人工智能制定政策，以避免機(jī)密和私人數(shù)據(jù)進(jìn)入公共系統(tǒng)，并在企業(yè)內(nèi)部為生成式人工智能建立安全和可靠的環(huán)境。

4. 現(xiàn)代化的安全審計(jì)

生成式人工智能很可能在審計(jì)工作方面催生創(chuàng)新。復(fù)雜的生成式人工智能有能力創(chuàng)建考慮到某些情況的回應(yīng)，同時(shí)以簡(jiǎn)單、易懂的語言編寫。

這項(xiàng)技術(shù)所提供的是一個(gè)獲取信息和指導(dǎo)的單點(diǎn)，同時(shí)還支持文件自動(dòng)化和分析數(shù)據(jù)以回應(yīng)特定的查詢--而且效率很高。這是一個(gè)雙贏的結(jié)果。

不難看出，這種能力可以為我們的員工提供更好的體驗(yàn)，進(jìn)而也為我們的客戶提供更好的體驗(yàn)。

5. 更加關(guān)注數(shù)據(jù)衛(wèi)生和評(píng)價(jià)偏見

任何輸入人工智能系統(tǒng)的數(shù)據(jù)都有可能被盜或被濫用的風(fēng)險(xiǎn)。首先，確定輸入系統(tǒng)的適當(dāng)數(shù)據(jù)，將有助于減少在攻擊中丟失機(jī)密和私人信息的風(fēng)險(xiǎn)。

此外，重要的是進(jìn)行適當(dāng)?shù)臄?shù)據(jù)收集，以制定詳細(xì)和有針對(duì)性的提示，并將其輸入系統(tǒng)，這樣你就可以獲得更有價(jià)值的輸出。

一旦你有了你的產(chǎn)出，就需要檢查系統(tǒng)內(nèi)是否有任何固有的偏見。在這個(gè)過程中，請(qǐng)一個(gè)多元化的專業(yè)團(tuán)隊(duì)來幫助評(píng)估任何偏見。

與編碼或腳本的解決方案不同，生成式人工智能是基于經(jīng)過訓(xùn)練的模型，因此它們給出的回應(yīng)不是 100% 可預(yù)測(cè)的。要使生成式人工智能給出最值得信賴的輸出，需要其背后的技術(shù)和利用它的人之間的合作。

6. 跟上不斷擴(kuò)大的風(fēng)險(xiǎn)并掌握基礎(chǔ)知識(shí)

既然生成式人工智能正在被廣泛采用，實(shí)施強(qiáng)大的安全措施是防止威脅者的必要條件。這項(xiàng)技術(shù)的能力使網(wǎng)絡(luò)犯罪分子有可能創(chuàng)建深度偽造圖像，更容易執(zhí)行惡意軟件和勒索軟件攻擊，公司需要為這些挑戰(zhàn)做好準(zhǔn)備。

最有效的網(wǎng)絡(luò)措施繼續(xù)受到最少的關(guān)注：通過保持基本的網(wǎng)絡(luò)衛(wèi)生和壓縮龐大的遺留系統(tǒng)，公司可以減少網(wǎng)絡(luò)犯罪分子的攻擊面。

整合運(yùn)營(yíng)環(huán)境可以降低成本，使公司能夠最大限度地提高效率，并專注于改善其網(wǎng)絡(luò)安全措施。

7. 創(chuàng)造新的工作和責(zé)任

總的來說，我建議公司考慮擁抱生成式人工智能，而不是建立防火墻和抵制--但要有適當(dāng)?shù)谋Ｕ洗胧┖惋L(fēng)險(xiǎn)緩解措施。生成式人工智能在如何完成工作方面有一些非常有趣的潛力；它實(shí)際上可以幫助釋放出人類用于分析和創(chuàng)造的時(shí)間。

生成式人工智能的出現(xiàn)有可能導(dǎo)致與技術(shù)本身相關(guān)的新工作和責(zé)任--并產(chǎn)生確保人工智能被道德地和負(fù)責(zé)任地使用的責(zé)任。

它還將要求使用這些信息的員工發(fā)展一種新的技能--評(píng)估和識(shí)別所創(chuàng)建的內(nèi)容是否準(zhǔn)確的能力。

就像計(jì)算器被用于簡(jiǎn)單的數(shù)學(xué)相關(guān)任務(wù)一樣，在日常使用生成式人工智能的過程中，仍有許多人類技能需要應(yīng)用，如批判性思維和有目的的定制--以釋放生成式人工智能的全部力量。

因此，雖然從表面上看，它似乎在自動(dòng)化人工任務(wù)的能力方面構(gòu)成了威脅，但它也可以釋放創(chuàng)造力，幫助人們?cè)诠ぷ髦斜憩F(xiàn)出色。

8. 利用人工智能來優(yōu)化網(wǎng)絡(luò)投資

即使在經(jīng)濟(jì)不確定的情況下，公司也沒有積極尋求在 2023 年減少網(wǎng)絡(luò)安全支出；然而，CISO 必須考慮他們的投資決策是否更具經(jīng)濟(jì)性。

他們正面臨著少花錢多辦事的壓力，導(dǎo)致他們投資于用自動(dòng)化替代方案取代過度手工的風(fēng)險(xiǎn)預(yù)防和緩解過程的技術(shù)。

雖然生成式人工智能并不完美，但它非?？焖佟⒏咝Ш瓦B貫，技能也在迅速提高。通過實(shí)施正確的風(fēng)險(xiǎn)技術(shù)--如為更大的風(fēng)險(xiǎn)覆蓋面和檢測(cè)而設(shè)計(jì)的機(jī)器學(xué)習(xí)機(jī)制--組織可以節(jié)省資金、時(shí)間和人員，并且能夠更好地駕馭和抵御未來的任何不確定性。

9. 加強(qiáng)威脅情報(bào)

雖然釋放生成式人工智能能力的公司專注于保護(hù)，以防止惡意軟件、錯(cuò)誤信息或虛假信息的創(chuàng)建和傳播，但我們需要假設(shè)生成式人工智能將被不良行為者用于這些目的，并提前采取行動(dòng)。

在 2023 年，我們期待看到威脅情報(bào)和其他防御能力的進(jìn)一步增強(qiáng)，以利用生成式人工智能做對(duì)社會(huì)有益的事。生成式人工智能將允許在效率和實(shí)時(shí)信任決策方面取得根本性的進(jìn)步。例如，對(duì)系統(tǒng)和信息的訪問形成實(shí)時(shí)結(jié)論，其置信度比目前部署的訪問和身份模型高很多。

可以肯定的是，生成式人工智能將對(duì)每個(gè)行業(yè)和該行業(yè)中的公司的運(yùn)作方式產(chǎn)生深遠(yuǎn)的影響；普華永道認(rèn)為，這些進(jìn)步將繼續(xù)由人類主導(dǎo)和技術(shù)驅(qū)動(dòng)，2023 年將出現(xiàn)最快速的進(jìn)步，為未來幾十年確定方向。

10. 威脅預(yù)防和管理合規(guī)風(fēng)險(xiǎn)

隨著威脅形勢(shì)的不斷發(fā)展，衛(wèi)生部門--這個(gè)個(gè)人信息泛濫的行業(yè)--繼續(xù)發(fā)現(xiàn)自己處于威脅者的交叉瞄準(zhǔn)區(qū)。

衛(wèi)生行業(yè)的高管們正在增加他們的網(wǎng)絡(luò)預(yù)算，并投資于自動(dòng)化技術(shù)，這些技術(shù)不僅可以幫助防止網(wǎng)絡(luò)攻擊，還可以管理合規(guī)性風(fēng)險(xiǎn)，更好地保護(hù)病人和工作人員的數(shù)據(jù)，降低醫(yī)療成本，減少低效率流程等。

隨著生成式人工智能的不斷發(fā)展，確保醫(yī)療系統(tǒng)安全的相關(guān)風(fēng)險(xiǎn)和機(jī)會(huì)也在不斷增加，這強(qiáng)調(diào)了醫(yī)療行業(yè)在接受這種新技術(shù)時(shí)建立其網(wǎng)絡(luò)防御和復(fù)原力的重要性。

11. 實(shí)施數(shù)字信任戰(zhàn)略

生成式人工智能等技術(shù)的創(chuàng)新速度，加上不斷發(fā)展的“拼湊”監(jiān)管和對(duì)機(jī)構(gòu)信任的侵蝕，需要一個(gè)更具戰(zhàn)略性的方法。

通過追求數(shù)字信任戰(zhàn)略，企業(yè)可以更好地協(xié)調(diào)傳統(tǒng)上孤立的功能，如網(wǎng)絡(luò)安全、隱私和數(shù)據(jù)治理，使他們能夠預(yù)測(cè)風(fēng)險(xiǎn)，同時(shí)也為企業(yè)釋放價(jià)值。

其核心是，數(shù)字信任框架確定了超越合規(guī)性的解決方案--而是優(yōu)先考慮組織和客戶之間的信任和價(jià)值交換。

參考資料：

https://venturebeat.com/security/pwc-highlights-11-chatgpt-and-generative-ai-security-trends-to-watch-in-2023/

關(guān)鍵詞： 普華永道ChatGPT和生成式AI的11大安全趨勢(shì) 普華永道 人工智能