張欣：算法公平不能絕對(duì)化，應(yīng)從技術(shù)、治理、生態(tài)層面突破

中新經(jīng)緯3月24日電 (王玉玲)近日，由中國(guó)人民大學(xué)高瓴人工智能學(xué)院、智能社會(huì)治理跨學(xué)科交叉平臺(tái)和基于大數(shù)據(jù)文科綜合訓(xùn)練國(guó)家級(jí)虛擬仿真實(shí)驗(yàn)教學(xué)中心聯(lián)合主辦的算法公平性與內(nèi)容生態(tài)建設(shè)研討會(huì)在線上舉行。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣表示，公平具有相對(duì)性，我們不能強(qiáng)求算法達(dá)到絕對(duì)公平。當(dāng)我們將算法視作無(wú)形的手，以此進(jìn)行資源分配時(shí)，要求公平是理所應(yīng)當(dāng)?shù)模荒芙^對(duì)化。

張欣提出，算法公平在治理層面具有幾個(gè)特點(diǎn)，第一，發(fā)生算法歧視或者算法偏誤的時(shí)候具有隱秘性，比如各種各樣的智能語(yǔ)言助手，都是設(shè)計(jì)成女性化形象，且呈現(xiàn)出一種聽(tīng)從的形象，在這一過(guò)程中就出現(xiàn)了隱性的由算法設(shè)計(jì)造成的不公現(xiàn)象。

第二，算法不公平很多時(shí)候并非針對(duì)個(gè)體，而是涉及和影響某些少數(shù)群體。因此個(gè)人可能難以發(fā)覺(jué)算法歧視和算法偏誤，只有通過(guò)群體性的觀察才可識(shí)別。因此，在治理層面，我們需要一定程度上提供給用戶(hù)或者處于數(shù)據(jù)結(jié)構(gòu)當(dāng)中比較弱勢(shì)地位的群體達(dá)成聯(lián)合。

第三，算法不公具有結(jié)構(gòu)鎖定特性。很多時(shí)候，算法不公的發(fā)生是因?yàn)闅v史狀態(tài)下現(xiàn)實(shí)社會(huì)中不公現(xiàn)象的嵌入和反映。當(dāng)算法將個(gè)體的過(guò)去、現(xiàn)在和未來(lái)相聯(lián)結(jié)時(shí)，一旦出現(xiàn)算法不公，可能會(huì)呈現(xiàn)出將相關(guān)個(gè)體鎖定在特定結(jié)構(gòu)的現(xiàn)象。

張欣表示，在治理層面要達(dá)到算法公平需要分為三個(gè)層面，第一，技術(shù)層面。比如中國(guó)人民銀行出臺(tái)針對(duì)金融算法的審計(jì)和影響評(píng)估的規(guī)定，針對(duì)算法公平，有一系列的指標(biāo)。只要達(dá)到了指標(biāo)，現(xiàn)階段可認(rèn)為達(dá)到了技術(shù)設(shè)計(jì)層面的公平。

第二，治理層面。3月1日正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，對(duì)于企業(yè)在推薦算法當(dāng)中怎樣做到無(wú)歧視、無(wú)偏，有一系列法律層面的規(guī)定。因此企業(yè)應(yīng)當(dāng)以法律法規(guī)為依據(jù)，構(gòu)建自身的算法影響和算法審計(jì)制度，達(dá)到法律規(guī)定層面的公平。

第三，生態(tài)層面。針對(duì)現(xiàn)實(shí)生活中存在了一些不公平的現(xiàn)象，比如性別歧視或種族歧視，可以以算法向上向善為原則，進(jìn)行改善和扭轉(zhuǎn)，因而為算法運(yùn)行創(chuàng)建一個(gè)更好的良性生態(tài)。

“技術(shù)層面、治理層面、生態(tài)層面，三個(gè)層面的公平可能也意味著和對(duì)應(yīng)著我們?cè)诙唐?、中期和未?lái)長(zhǎng)期三個(gè)階段達(dá)到算法公平這一目標(biāo)的不同層面。”張欣說(shuō)道。

由此，綜合來(lái)看，張欣提出幾項(xiàng)建議，首先，在技術(shù)層面，加強(qiáng)對(duì)于算法公平的認(rèn)證制度的開(kāi)發(fā)；其次，在治理層面，加強(qiáng)對(duì)算法的公平審計(jì)和算法的影響評(píng)估；第三，在生態(tài)層面，通過(guò)協(xié)同治理來(lái)推動(dòng)生態(tài)層面的算法公平。(中新經(jīng)緯APP)

中新經(jīng)緯版權(quán)所有，未經(jīng)書(shū)面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。

關(guān)鍵詞： 張欣算法公平不能絕對(duì)化 應(yīng)從技術(shù)治理生態(tài)層面突破