焦點(diǎn)報(bào)道:微軟停用多項(xiàng)面部分析識(shí)別服務(wù)，美國已經(jīng)有幾家企業(yè)這么做？

近日，微軟宣布將停用旨在推斷情緒狀態(tài)和身份屬性（例如性別、年齡、笑容、面部毛發(fā)、頭發(fā)和妝容）的面部分析功能，且不再出售多項(xiàng)基于面部識(shí)別技術(shù)的服務(wù)并限制其使用。

南都·AI前哨站梳理發(fā)現(xiàn)，此前IBM已完全退出面部識(shí)別市場，F(xiàn)acebook也宣布關(guān)閉有十年歷史的面部識(shí)別系統(tǒng)，刪除超10億用戶的面部掃描數(shù)據(jù)。與此同時(shí)，不少大型企業(yè)都因面部識(shí)別功能在歐美面臨大量訴訟。

(相關(guān)資料圖)

微軟將停用大部分面部分析、識(shí)別服務(wù)

微軟關(guān)于停用和限制旗下產(chǎn)品和服務(wù)的決定，是依據(jù)近日發(fā)布的最新版《負(fù)責(zé)任的人工智能標(biāo)準(zhǔn)》（下稱《標(biāo)準(zhǔn)》）而做出的。

經(jīng)過長達(dá)兩年的自我審查，微軟在2019年第一版的基礎(chǔ)上更新了《標(biāo)準(zhǔn)》。新的《標(biāo)準(zhǔn)》由六項(xiàng)基本原則組成，分別是責(zé)任原則、透明原則、公平原則、可靠性和安全原則、隱私和安全原則以及包容原則。

微軟首席負(fù)責(zé)人的人工智能官Natasha Crampton指出，《標(biāo)準(zhǔn)》詳細(xì)說明了開發(fā)人工智能（AI）系統(tǒng)的團(tuán)隊(duì)必須努力實(shí)現(xiàn)的具體目標(biāo)或成果，而每個(gè)目標(biāo)都由一組要求組成，并與可用工具和實(shí)踐相映射。“它超越了迄今為止主導(dǎo)人工智能領(lǐng)域的高級原則?！?/p>

微軟AI標(biāo)準(zhǔn)核心

為了使微軟的AI產(chǎn)品符合這一新標(biāo)準(zhǔn)，微軟Azure AI部門首席團(tuán)隊(duì)產(chǎn)品經(jīng)理Sarah Bird表示，微軟更新了面部識(shí)別的相關(guān)內(nèi)容，包括新增限制訪問政策、停用針對敏感屬性的人工智能分類功能，以及加強(qiáng)在公平性和透明度方面的投資。

具體來說，從6月21日開始，新用戶需要先申請?jiān)L問權(quán)限，才能在Face API等工具中使用面部識(shí)別，老用戶則有一年的時(shí)間去申請并獲得批準(zhǔn)，而且必須證明他們符合微軟的AI倫理標(biāo)準(zhǔn)，并且這些功能能為用戶和社會(huì)帶來益處。

此外，微軟還停用了旨在推斷情緒狀態(tài)和身份屬性（例如性別、年齡、笑容、面部毛發(fā)、頭發(fā)和妝容）的面部分析功能——新用戶將無法使用該功能，老用戶可以使用到明年6月30日。

面部識(shí)別表情

Bird指出，情緒分類功能被發(fā)現(xiàn)“對‘情緒’的定義缺乏共識(shí)”“無法歸納不同案例、不同區(qū)域下面部表情和情緒狀態(tài)之間的聯(lián)系”。而這些用于推斷敏感屬性的服務(wù)極易被濫用——包括使人遭受刻板印象、歧視，或不公平的對待。

事實(shí)上，微軟不是第一個(gè)決定停用這一服務(wù)的巨頭。谷歌云去年也展開了一次類似的評估，最終決定從其用于檢測情緒的工具中屏蔽了13種計(jì)劃推出的情緒，對4種現(xiàn)有情緒進(jìn)行審查。

值得注意的是，微軟仍然保留了部分功能以供特殊情況下使用。比如面部檢測功能（包括檢測模糊、曝光、眼鏡、頭部姿勢、地標(biāo)、噪聲、遮擋和面部邊界框）仍將保持可用，不需要額外申請。Seeing AI也依然可以使用能夠推斷敏感屬性的服務(wù)，為視覺障礙人士提供幫助。

此前IBM已完全退出面部識(shí)別市場，臉書刪除十億數(shù)據(jù)

南都·AI前哨站梳理發(fā)現(xiàn)，無論企業(yè)宣稱自己的面部識(shí)別技術(shù)多么高超，用于識(shí)別和分析人臉的產(chǎn)品和服務(wù)一直飽受爭議。

根據(jù)微軟官網(wǎng)，Uber使用微軟的面部識(shí)別技術(shù)來做司機(jī)的身份認(rèn)證。去年10月，英國網(wǎng)約車司機(jī)工會(huì)對此提起訴訟，理由是面部識(shí)別系統(tǒng)存在種族歧視，導(dǎo)致一些黑人司機(jī)因?yàn)檎`識(shí)別被解雇。

目前已有多個(gè)研究表明，面部識(shí)別系統(tǒng)識(shí)別有色人種的準(zhǔn)確率比白人低。

美國國家標(biāo)準(zhǔn)與技術(shù)研究院 (NIST) 的研究顯示，在 NIST 的數(shù)據(jù)庫中歸類為非裔美國人或亞洲人的面部被錯(cuò)誤識(shí)別的可能性是歸類為白人的10-100倍?！蹲匀弧?020年的一篇論文也指出，微軟、蘋果、谷歌、IBM的面部識(shí)別系統(tǒng)都無法很好地識(shí)別黑人——即使是表現(xiàn)最好的微軟，也對黑人有高達(dá)27%的錯(cuò)誤識(shí)別率，遠(yuǎn)高于白人的15%。

事實(shí)上，企業(yè)對于面部識(shí)別數(shù)據(jù)和技術(shù)的謹(jǐn)慎態(tài)度早就有跡可循。

2020年，IBM首席執(zhí)行官阿里德·克里希納在致美國國會(huì)的一封信中宣布，IBM將不再提供通用的面部識(shí)別或分析軟件。另據(jù)外媒報(bào)道，IBM也不會(huì)再繼續(xù)開發(fā)或者研究相關(guān)技術(shù)。

去年11月，F(xiàn)acebook宣布將關(guān)閉其已有十年歷史的面部識(shí)別系統(tǒng)，刪除超過10億用戶的面部掃描數(shù)據(jù)。在關(guān)閉面部識(shí)別功能后，F(xiàn)acebook將不再能自動(dòng)識(shí)別用戶上傳的照片和視頻里的人。

南都·AI前哨站觀察到，不少企業(yè)都因面部識(shí)別功能面臨大量訴訟，美國和歐盟的立法部門也在積極推動(dòng)針對面部識(shí)別技術(shù)的立法。因此，企業(yè)的決定與日漸收緊的生物識(shí)別數(shù)據(jù)監(jiān)管不無關(guān)系。

2015年，美國伊利諾伊州的多名用戶因Meta未經(jīng)用戶同意存儲(chǔ)生物識(shí)別數(shù)據(jù)提起集體訴訟，歷經(jīng)近7年，Meta最終同意以6.5億美元和解。今年4月，谷歌也就一起類似的集體訴訟達(dá)成和解協(xié)議，和解金額為一億美元。

以面部識(shí)別與檢索知名的面部識(shí)別初創(chuàng)公司Clearview AI面臨的罰款和訴訟也不少。英國、意大利都對其罰過款，法國和加拿大也曾做出制裁，美國伊利諾伊州、佛吉尼亞州均對其提起過訴訟。今年5月，Clearview AI接受了伊利諾伊州法院發(fā)起的和解協(xié)議，將不再向大部分私企和個(gè)人等提供人臉數(shù)據(jù)庫服務(wù)。

采寫：實(shí)習(xí)生韓艷燕 南都記者蔣琳

關(guān)鍵詞： 微軟停用多項(xiàng)面部分析識(shí)別服務(wù) 美國已經(jīng)有幾家企業(yè)這么做