打開算法“黑箱”

半月談評論員 劉祥龍

隨著大數據、人工智能等信息技術的快速發(fā)展,我們正在進入“算法經濟時代”。以深度學習為代表的人工智能算法在互聯網信息傳播、數字經濟發(fā)展、信息產業(yè)服務等諸多方面發(fā)揮了重要作用，產生了溢出性極強的經濟效益。

然而，當前人工智能算法通常依賴于數據驅動的方式，其行為不可控、決策機理難解釋，帶來了公平性、隱私性等相關安全問題。更嚴重的是，人工智能算法“黑箱”特性導致了算法治理困難，加劇了算法被資本利用的可能，給算法經濟的發(fā)展帶來一定負面影響。事實上，近年來算法“黑箱”特性的負面作用正在凸顯。一些平臺利用算法決策侵犯受眾權益的問題層出不窮，傳統(tǒng)監(jiān)管手段失效，極易引發(fā)監(jiān)管機構信任危機。

監(jiān)管信任危機的根源在于企業(yè)在數據和算法上的非對稱優(yōu)勢。當前，基礎數據的所有權和控制權主要集中在互聯網平臺企業(yè)，這些企業(yè)全程操縱算法設計、運行、測試和分析，由此占據著優(yōu)勢地位。監(jiān)管部門在“算法社會”中已經呈現出被邊緣化的趨勢，極易失去對關鍵數據和關鍵算法的監(jiān)督權和控制權。這意味著，算法“黑箱”的存在勢必導致私人利益主觀上俘獲公共利益，以及資本主觀上規(guī)避公權力約束等風險的產生。同時，算法“黑箱”客觀上隱藏了算法自身存在的缺陷，并可能觸發(fā)安全風險，讓監(jiān)管機構難以審查算法信息。監(jiān)管機構規(guī)制算法的內容與手段均受到限制，難以及時針對算法問題進行問責和糾偏。

例如，一些平臺基于用戶信息，對用戶進行“大數據殺熟”，即對于同樣的商品或服務，新用戶的價格比老用戶便宜許多，暗中形成市場歧視，踐踏市場公平，侵害消費者權益和政府公信力。而互聯網平臺企業(yè)使用的動態(tài)定價算法存在的潛在缺陷，則可能造成算法共謀，即在多個動態(tài)定價算法同時被使用時，在人們不知情的情況下通過算法對市場進行壟斷，從而提高市場價格，產生寡頭。除了商業(yè)領域，“黑箱”讓諸多算法流程處于不透明的狀態(tài)，公民的知情權在相當程度上失去保障。

我國“十四五”國家信息化規(guī)劃提出，應建立健全規(guī)范有序的數字化發(fā)展治理體系。2022年1月份發(fā)布的《互聯網信息服務算法推薦管理規(guī)定》，明確反對算法歧視、大數據殺熟、誘導沉迷等算法的不合理應用。而算法治理法律法規(guī)、監(jiān)管標準規(guī)范、監(jiān)管技術及平臺的缺失缺位，是建立健全算法治理體系中的三大挑戰(zhàn)。

應對挑戰(zhàn)，尤其需要從法律責任、行政責任、道德責任三方面構建算法治理法律法規(guī)體系，推動社會各方之間的合作互信。在法律責任層面，國家應制定、完善相關法律法規(guī)，在多元主體之間建立起監(jiān)管算法“黑箱”的共同準則。在行政責任層面，著眼于行政審查、行政監(jiān)管與行政問責，制定技術標準和操作守則，要求平臺企業(yè)使用的算法符合法律法規(guī)要求、符合公共利益，削弱或消除算法“黑箱”造成的負面影響；在道德責任層面，著眼于算法倫理的嵌入，監(jiān)管部門應該要求平臺在算法設計上符合社會一般道德觀念、價值與規(guī)范。

針對算法設計、應用、監(jiān)管等全流程治理問題，需要構建算法基礎標準、風險評估標準、安全等級標準以及監(jiān)管標準等完整的標準規(guī)范體系，分級分類，設立全面、清晰、可操作的技術指標體系，做到實時可控可監(jiān)管。算法企業(yè)應積極主動配合國家算法治理過程，依據相關標準要求，制定和公開算法相關信息，提升算法透明度。與此同時，發(fā)揮社會組織監(jiān)督作用，加強第三方監(jiān)督，平衡算法信息的不對稱。

針對算法“黑箱”風險難定義、難監(jiān)管、難預防、難取證、難追責等問題，需要推動研究院所、企業(yè)、高校和政府的技術合作，突破度量評估、行為監(jiān)測、風險防護、博弈演化、突變溯因等原創(chuàng)理論與核心技術，創(chuàng)建并豐富監(jiān)管技術手段，確保算法在各個階段中的安全風險可控。為實現算法治理自動化、標準化，還應當開展算法全周期、立體化智能評測和監(jiān)測技術的研發(fā)，構建可解釋性、隱私保護、公平性、魯棒性兼顧的安全可信的算法監(jiān)管平臺。（作者系北京航空航天大學軟件開發(fā)環(huán)境國家重點實驗室副主任，計算機學院教授、博士生導師）

來源：《半月談內部版》第3期

編輯：尤立

責編：郭艷慧

校對：黃琛茜(實習生）

關鍵詞： 打開算法黑箱 人工智能 互聯網信息 大數據殺熟