獲評2021人工智能 “創(chuàng)新之星”！騰訊優(yōu)圖人臉安全能力獲權(quán)威認(rèn)可

為推動和引領(lǐng)人工智能領(lǐng)域創(chuàng)新發(fā)展，近日中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟、廈門人工智能安全研究院組織開展了2021人工智能“創(chuàng)新之星”、“創(chuàng)新人物”評選工作。憑借在人臉安全方面的技術(shù)積累和實(shí)踐經(jīng)驗(yàn)，“騰訊可信人臉安全”項(xiàng)目從眾多參選項(xiàng)目中脫穎而出，獲評為2021人工智能“創(chuàng)新之星”。

本次獲評為2021人工智能“創(chuàng)新之星”的騰訊可信人臉安全技術(shù)，著重關(guān)注人臉驗(yàn)證等應(yīng)用中存在的安全問題。騰訊可信人臉安全技術(shù)通過構(gòu)建立體的人臉安全技術(shù)體系，可以對物理介質(zhì)攻擊、數(shù)字內(nèi)容合成攻擊和對抗攻擊實(shí)現(xiàn)全面覆蓋，為人臉信息的應(yīng)用提供安全保障。

騰訊可信人臉安全技術(shù)主要包含人臉活體檢測、人臉內(nèi)容取證和人臉對抗攻防三大關(guān)鍵技術(shù)。

01

人臉活體檢測

針對物理呈現(xiàn)攻擊風(fēng)險(xiǎn)，騰訊優(yōu)圖研發(fā)了完整的活體檢測體系，覆蓋線上和線下各類平臺。其中，在線上交互活體方面，創(chuàng)新性地提出了光線活體技術(shù)，并進(jìn)行大規(guī)模應(yīng)用，該方法通過捕捉人臉在手機(jī)發(fā)射不同顏色光照下的成像差異，利用多任務(wù)網(wǎng)絡(luò)回歸人臉3D信息，無需額外硬件，就可有效防御2D平面攻擊；在分類分支上引入材質(zhì)約束，解耦形狀信息與材質(zhì)信息，從底層紋理上細(xì)粒度區(qū)分不同材質(zhì)，有效防御3D立體攻擊；同時(shí)融合活體技術(shù)與密碼學(xué)策略，將投射光線組合作為驗(yàn)證碼，在檢測過程中進(jìn)行自編解碼，完成實(shí)時(shí)的自動校驗(yàn)，進(jìn)一步提升整體系統(tǒng)的安全性。

光線活體算法框架

針對無交互場景創(chuàng)新地提出特征解耦，自適應(yīng)特征學(xué)習(xí)等方法，有效提升模型精度和泛化能力，相關(guān)方法已發(fā)表于ECCV、AAAI、IJCAI、ACM MM等會議。此外，在線下場景中，基于3D攝像頭設(shè)計(jì)多模態(tài)活體方法，同時(shí)校驗(yàn)各模態(tài)間的一致性，極大壓縮可攻擊的空間，并通過國家銀行卡檢測中心人臉活體檢測-增強(qiáng)級認(rèn)證，達(dá)到金融支付級安全標(biāo)準(zhǔn)，形成了領(lǐng)先的系統(tǒng)性技術(shù)。

02

人臉內(nèi)容取證

針對deepfake等人臉內(nèi)容生成攻擊，騰訊優(yōu)圖研發(fā)了相應(yīng)的內(nèi)容取證技術(shù)框架。在人臉圖像內(nèi)容取證方向，從人臉圖像生成的原理和本質(zhì)出發(fā)，關(guān)注人臉空間特征的不一致性，提出通過局部關(guān)聯(lián)學(xué)習(xí)來進(jìn)行偽造檢測的新方法，基于注意力機(jī)制同時(shí)提取RGB-頻域空間特征，并設(shè)計(jì)多尺度局部相似性建模網(wǎng)絡(luò)來衡量局部區(qū)域特征間的相似性，最終構(gòu)造泛化性強(qiáng)、魯棒性高的相似模式，支持多種圖像偽造方法的有效檢測。

人臉視頻取證算法框架

在人臉視頻內(nèi)容取證方向，騰訊優(yōu)圖關(guān)注人臉時(shí)序運(yùn)動的不一致性，基于相鄰幀間的特征差異，同時(shí)從豎直和水平方向上進(jìn)行細(xì)粒度差異建模，引導(dǎo)模型關(guān)注時(shí)空上的不一致區(qū)域來進(jìn)行真假鑒別。

以上相關(guān)工作已發(fā)表于AAAI、ACM MM等會議，并刷新過FaceForensics Benchmark，同時(shí)在全球偽造人臉檢測比賽DFDC中獲得金牌。

03

人臉對抗攻防

在對抗攻防方向，騰訊優(yōu)圖針對人臉識別深度模型，提出一種高隱蔽性且可物理化的對抗攻擊的方法Adv-Makeup。該方法首先通過生成對抗網(wǎng)絡(luò)生成真實(shí)風(fēng)格的彩妝，并設(shè)計(jì)融合網(wǎng)絡(luò)實(shí)現(xiàn)逼真的上妝過程，最后采用基于元學(xué)習(xí)的對抗攻擊策略實(shí)現(xiàn)遷移性強(qiáng)的對抗彩妝。生成的Adv-Makeup可以支持物理化，實(shí)現(xiàn)真實(shí)場景下的攻擊。針對Adv-Makeup攻擊，騰訊優(yōu)圖已研發(fā)了針對性的防御算法De-Makeup，保證模型安全。

彩妝對抗攻擊算法框架

針對黑盒場景攻擊，騰訊優(yōu)圖提出一種全新的替代模型訓(xùn)練方法，無需真實(shí)場景數(shù)據(jù)，通過數(shù)據(jù)生成網(wǎng)絡(luò)生成具有多樣性的數(shù)據(jù)，并設(shè)計(jì)對抗替代模型訓(xùn)練框架，將分布在決策邊界的對抗樣本引入到替代模型訓(xùn)練過程中，進(jìn)一步提升替代模型和目標(biāo)黑盒模型的相似度，從而提升黑盒攻擊的成功率。為應(yīng)對新型對抗攻擊，騰訊優(yōu)圖提出一種基于可信性的對抗防御方法，并結(jié)合對抗訓(xùn)練和多模態(tài)融合等方面全面提升系統(tǒng)的安全性。以上相關(guān)工作已被CVPR、IJCAI、ACM MM等會議接收。

目前，騰訊可信人臉安全技術(shù)已經(jīng)為多款騰訊產(chǎn)品提供人臉安全能力支撐。同時(shí)，通過騰訊云慧眼、微信開放平臺等平臺，為行業(yè)提供人臉安全服務(wù)。

如今，人臉應(yīng)用安全是智能時(shí)代的重要命題，為防范AI技術(shù)濫用，未來騰訊優(yōu)圖實(shí)驗(yàn)室將在人臉安全領(lǐng)域持續(xù)深耕，精心打磨算法研究和業(yè)務(wù)落地，通過開放和輸出相關(guān)技術(shù)服務(wù)的形式，在為產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型進(jìn)程保駕護(hù)航的同時(shí)，為社會創(chuàng)造更多的正向價(jià)值。

關(guān)鍵詞： ldquo創(chuàng)新之星rdquo騰訊優(yōu)圖人臉安全能力獲