我竟“變成”失信人？法院查明：企業(yè)信用信息錯誤關(guān)聯(lián)，平臺需擔(dān)責(zé)！

近日，廣州互聯(lián)網(wǎng)法院審理了一起網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案件，一起來看看吧～

基 本 案 情

張某（化名）是紅彤彤公司（化名）的法定代表人。叮叮咚咚平臺（化名）是叮叮咚咚公司（化名）運(yùn)營的企業(yè)信用信息查詢平臺。紅彤彤公司、張某發(fā)現(xiàn)叮叮咚咚平臺將與張某無關(guān)的大量信息錯誤關(guān)聯(lián)至其名下，上述錯誤關(guān)聯(lián)信息包括失信被執(zhí)行人信息、限制高消費(fèi)信息以及終本執(zhí)行案件信息等。同時，紅彤彤公司在叮叮咚咚平臺主頁的法定代表人任職信息一欄也被錯誤關(guān)聯(lián)了上述信息。

張某、紅彤彤公司認(rèn)為，叮叮咚咚公司的上述行為侵害了其名譽(yù)權(quán)、個人信息權(quán)益，故提起訴訟，請求判令叮叮咚咚公司依法承擔(dān)賠禮道歉、賠償經(jīng)濟(jì)損失等民事責(zé)任。

叮叮咚咚公司辯稱，案涉關(guān)聯(lián)行為是由于平臺算法對與本案原告張某同名同姓但不同身份證號的另一主體識別錯誤造成，并非人為導(dǎo)致，要求駁回原告的全部訴訟請求。

爭 議 焦 點(diǎn)

一、叮叮咚咚公司是否侵害張某、紅彤彤公司的名譽(yù)權(quán)；

二、叮叮咚咚公司是否侵害張某的個人信息權(quán)益；

三、如存在前述侵權(quán)，叮叮咚咚公司應(yīng)如何承擔(dān)民事責(zé)任。

裁 判 結(jié) 果

廣州互聯(lián)網(wǎng)法院判決：

一、叮叮咚咚公司在其平臺官方網(wǎng)址、APP、微信公眾號以及張某、紅彤彤公司在該平臺的主頁內(nèi)分別刊登對張某、紅彤彤公司的致歉聲明，聲明內(nèi)容需經(jīng)法院審查，聲明保留時間不少于十五日；如叮叮咚咚公司逾期未履行上述判決義務(wù)，法院將采取在報刊、網(wǎng)絡(luò)等媒體上發(fā)布公告或者公布生效裁判文書等方式執(zhí)行，產(chǎn)生的費(fèi)用由叮叮咚咚公司負(fù)擔(dān)；

二、叮叮咚咚公司向張某賠償經(jīng)濟(jì)損失30000元；

三、叮叮咚咚公司向紅彤彤公司賠償經(jīng)濟(jì)損失30000元；

四、叮叮咚咚公司向張某、紅彤彤公司賠償律師費(fèi)、公證費(fèi)損失共計31200元；

五、駁回張某、紅彤彤公司的其他訴訟請求。

廣州市中級人民法院判決：

駁回上訴，維持原判。

上述判決已發(fā)生法律效力。

裁 判 理 由

法院認(rèn)為，叮叮咚咚公司作為有資質(zhì)的企業(yè)征信機(jī)構(gòu)，其運(yùn)用算法進(jìn)行大數(shù)據(jù)利用，應(yīng)對利用結(jié)果承擔(dān)相應(yīng)責(zé)任。本案中，叮叮咚咚公司對案涉錯誤關(guān)聯(lián)未盡到與其能力、義務(wù)相匹配的注意義務(wù)。案涉有關(guān)張某、紅彤彤公司的信用報告，因同名同姓主體的身份識別問題而出現(xiàn)錯誤，該錯誤類型非常典型、明顯，是開展征信業(yè)務(wù)所必須解決的基礎(chǔ)問題。不論是叮叮咚咚公司明知相關(guān)技術(shù)不能避免此類錯誤而不予解決，抑或是因疏忽大意未注意到該類典型錯誤問題，均應(yīng)認(rèn)為叮叮咚咚公司對案涉錯誤關(guān)聯(lián)未盡到合理注意義務(wù)，主觀上具有過錯。綜合考量促進(jìn)征信類平臺發(fā)展及信息主體信用權(quán)利、公眾信賴?yán)嫒邇r值判斷，法院認(rèn)定叮叮咚咚公司對案涉錯誤關(guān)聯(lián)未盡到相應(yīng)注意義務(wù)，主觀上存在過錯。案涉錯誤關(guān)聯(lián)已造成對張某、紅彤彤公司名譽(yù)權(quán)的損害，依法應(yīng)當(dāng)承擔(dān)相應(yīng)民事責(zé)任。

叮叮咚咚公司作為個人信息的處理者，其從公開渠道抓取張某的各類個人信息進(jìn)行加工，形成案涉信用報告并以此獲利，其對個人信息的處理應(yīng)負(fù)審慎注意義務(wù)，避免因其處理行為造成個人信息的不完整、不準(zhǔn)確?，F(xiàn)叮叮咚咚公司提供的案涉信用報告將與張某無關(guān)的信息錯誤關(guān)聯(lián)至張某名下，損害了張某的個人信息權(quán)益?，F(xiàn)其提供的證據(jù)不足以證明其對案涉?zhèn)€人信息的處理沒有過錯，故應(yīng)由其承擔(dān)舉證不能的不利后果，故法院認(rèn)定叮叮咚咚公司對案涉?zhèn)€人信息的處理行為存在過錯，應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。

法 官 說 法

法官 張春和

1

大數(shù)據(jù)時代的算法司法規(guī)制困境

大數(shù)據(jù)與人工智能時代，算法處理海量數(shù)據(jù)相較于人工方式更為高效、優(yōu)越，已成為數(shù)據(jù)處理不可或缺的工具。隨著算法運(yùn)用的普及，涉算法侵權(quán)糾紛頻發(fā)。該類糾紛通常表現(xiàn)為因算法模型漏洞、算法運(yùn)行錯誤、算法歧視、算法自動化推薦不當(dāng)?shù)犬a(chǎn)生的侵權(quán)糾紛，所涉主體包括數(shù)據(jù)主體、數(shù)據(jù)處理者、社會公眾等。本案中，叮叮咚咚公司作為算法運(yùn)用者，對案涉錯誤關(guān)聯(lián)結(jié)果提出“技術(shù)中立”的抗辯意見，力圖否認(rèn)其責(zé)任主體地位。該抗辯意見具有代表性，反映出大數(shù)據(jù)時代的算法司法規(guī)制困境。

算法作為自動化工具的一種，最大的特征是去人為化。算法的輸出目標(biāo)一旦被設(shè)定，就會自動通過深度學(xué)習(xí)無限趨近。算法深度學(xué)習(xí)的結(jié)果，可能與設(shè)計之初大相徑庭，其運(yùn)行規(guī)則、運(yùn)作方式，連設(shè)計者本身可能都難以理解?；诖耍惴ㄟ\(yùn)用者往往以算法錯誤結(jié)果系由機(jī)器自動化決策造成進(jìn)行抗辯。另外，算法的原理和互動機(jī)制具有一定隱秘性，外界難以得知。從外觀來看，社會公眾只能看到算法的輸出結(jié)果，無從得知其設(shè)計模型、機(jī)制機(jī)理等，在此情況下，主張權(quán)利受損的一方難以證明算法運(yùn)用者主觀上具有過錯，司法對此也難以審查。這就是算法黑箱帶來的法律規(guī)制挑戰(zhàn)。

即使算法運(yùn)用者披露了算法模型、機(jī)制機(jī)理，司法審查也依然面臨困難。首先，算法具有一定的復(fù)雜性和專業(yè)性。算法本身在不斷學(xué)習(xí)、不斷變化，難以從算法模型、機(jī)制機(jī)理本身評判其優(yōu)劣。其次，算法的結(jié)果錯誤，可能源于算法模型本身的漏洞，算法部署和運(yùn)行的錯誤，數(shù)據(jù)收集清洗的瑕疵以及機(jī)器深度學(xué)習(xí)的偏差等。對算法模型、機(jī)制機(jī)理進(jìn)行司法審查，成本高、效率低，缺乏可操作性。最后，某些算法運(yùn)用者并沒有惡意利用算法歧視、算法黑箱侵權(quán)的主觀故意，其算法模型、機(jī)制機(jī)理本身不一定有明顯問題，但僅此也并不意味著算法運(yùn)用者對錯誤結(jié)果不存在主觀過錯。故此，對算法模型、機(jī)制機(jī)理進(jìn)行審查，并不能有效解決主觀過錯的認(rèn)定問題。

2

確立算法運(yùn)用者的責(zé)任主體地位——否定“技術(shù)中立”

法律規(guī)制的對象只能是人的行為。算法運(yùn)用者有關(guān)“技術(shù)中立”的抗辯，實(shí)質(zhì)是對算法受法律規(guī)制的否認(rèn)。因此，涉算法侵權(quán)糾紛所要解決的第一個問題，就是算法的可規(guī)制性問題。算法運(yùn)用者應(yīng)對算法運(yùn)用造成的錯誤結(jié)果承擔(dān)相應(yīng)責(zé)任，理由如下：

一、算法輸出結(jié)果是人類意志的體現(xiàn)

算法是人機(jī)交互的結(jié)果，是人類通過代碼設(shè)置、數(shù)據(jù)運(yùn)算與機(jī)器自動化判斷進(jìn)行決策的一套機(jī)制。就算法的單個輸出結(jié)果來看，算法運(yùn)用者主觀上可能并不希望發(fā)生錯誤，但從算法運(yùn)用的整體來看，算法輸出的結(jié)果，歸根結(jié)底是人類意志的體現(xiàn)。算法通過深度學(xué)習(xí)獲得的“自我決策權(quán)”，是在人類設(shè)定的目標(biāo)范圍內(nèi)所取得。算法錯誤造成的損害，最終亦應(yīng)由算法運(yùn)用者承擔(dān)。如以“技術(shù)中立”否認(rèn)算法運(yùn)用者的責(zé)任主體地位，將陷入算法錯誤無人承責(zé)、算法損害無從主張的境地，不符合公平原則和誠信原則。

二、算法運(yùn)用者對算法具有控制能力

算法的設(shè)計、部署、運(yùn)行到算法的調(diào)整、補(bǔ)漏，均是人為實(shí)施的結(jié)果，算法的自我學(xué)習(xí)能力亦是算法設(shè)計者所賦予。平臺作為算法設(shè)計者，其對算法基于外部實(shí)時網(wǎng)絡(luò)環(huán)境作出的反應(yīng)并非完全不可預(yù)測。簡言之，算法對不良數(shù)據(jù)的反應(yīng)能力仍在算法設(shè)計者的控制范圍內(nèi)。

再者，縱使算法基于自我學(xué)習(xí)發(fā)生運(yùn)行偏差，算法運(yùn)用者也完全有能力對算法的機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等進(jìn)行審核、評估、驗(yàn)證，并及時糾正。

三、算法運(yùn)用者對算法的運(yùn)用創(chuàng)設(shè)了危險后果

從危險后果創(chuàng)設(shè)的角度，算法運(yùn)用者對算法這一工具的利用包含了對該利用可能帶來的結(jié)果的容許，正是算法運(yùn)用者對算法這一技術(shù)的利用本身創(chuàng)設(shè)了危險發(fā)生的可能性，故而由其對算法運(yùn)用產(chǎn)生的損害后果承責(zé)，具有合理性。由此，也可以迫使算法運(yùn)用者通過增加投資、加強(qiáng)管理、優(yōu)化機(jī)制等方式，提升算法安全性，減少算法錯誤率。

四、符合經(jīng)濟(jì)學(xué)上的風(fēng)險-收益理論

利益之所在，風(fēng)險之所歸。算法運(yùn)用者因算法的運(yùn)用結(jié)果而獲益，便應(yīng)對算法運(yùn)用造成的錯誤結(jié)果承責(zé)。如前所述，算法個別的錯誤結(jié)果也許是運(yùn)用者主觀所否定的，但就算法運(yùn)用存在的風(fēng)險而言，仍在運(yùn)用者的主觀預(yù)測范圍內(nèi)。況且，對個別錯誤結(jié)果的承責(zé)，與算法運(yùn)用帶來的獲利是相匹配的。對個別錯誤結(jié)果的承責(zé)，也不足以影響以算法運(yùn)用為根基的大數(shù)據(jù)行業(yè)的整體發(fā)展。

3

審查算法運(yùn)用者主觀過錯的“外觀主義”規(guī)則

算法透明規(guī)則要求算法設(shè)計者或運(yùn)用者公開和披露包括源代碼在內(nèi)的算法要素?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也要求算法服務(wù)提供者披露算法模型、運(yùn)行機(jī)制機(jī)理等，但該規(guī)則為行政監(jiān)管規(guī)則，如前所述，在司法審查中，該規(guī)則并未能實(shí)際解決主觀過錯的認(rèn)定問題。基于此，司法審查應(yīng)將關(guān)注視角從技術(shù)本身轉(zhuǎn)移到技術(shù)帶來的權(quán)利、義務(wù)、責(zé)任關(guān)系變動，不拘泥于從算法本身審查主體過錯，而是從外部動態(tài)要素綜合考量算法運(yùn)用者的主觀過錯，以此應(yīng)對算法黑箱、算法復(fù)雜性專業(yè)性、機(jī)器自動學(xué)習(xí)等帶來的審查干擾。進(jìn)一步而言，認(rèn)定算法運(yùn)用者的主觀過錯，應(yīng)結(jié)合平臺的法律主體地位、算法錯誤的明顯程度、數(shù)據(jù)所涉權(quán)益的重要程度、平臺規(guī)模、平臺營利模式及獲利情況等動態(tài)因素，在個性化的場景中綜合判斷。

首先，平臺的法律主體地位直接影響到平臺所應(yīng)承擔(dān)的注意義務(wù)程度。

具體而言，應(yīng)判斷平臺系屬于網(wǎng)絡(luò)技術(shù)服務(wù)提供者還是網(wǎng)絡(luò)內(nèi)容服務(wù)提供者。如平臺是網(wǎng)絡(luò)技術(shù)服務(wù)提供者，僅是通過算法對用戶發(fā)布的內(nèi)容提供自動化推薦、排序等技術(shù)性服務(wù)，不對信息內(nèi)容進(jìn)行實(shí)際的管理與控制，則其僅在知道或者應(yīng)當(dāng)知道侵權(quán)行為存在或者接到被侵權(quán)人的通知后未采取有效措施時，承擔(dān)相應(yīng)法律責(zé)任；如平臺是網(wǎng)絡(luò)內(nèi)容服務(wù)提供者，則其應(yīng)對算法運(yùn)行的錯誤結(jié)果直接負(fù)責(zé)，承擔(dān)更高的注意義務(wù)。

其次，應(yīng)結(jié)合算法錯誤的明顯程度認(rèn)定算法運(yùn)用者的主觀過錯。

算法錯誤越常規(guī)、越明顯，與業(yè)務(wù)的基礎(chǔ)架構(gòu)、底層建筑、功能發(fā)揮越相關(guān)，算法運(yùn)用者對該類錯誤應(yīng)承擔(dān)的注意義務(wù)就越高，未盡到相應(yīng)注意義務(wù)，被認(rèn)定為侵權(quán)的可能性就越大。相反，如錯誤結(jié)果是算法運(yùn)行過程中出現(xiàn)的不能被合理預(yù)料的偏差，或是僅僅由于數(shù)據(jù)來源不準(zhǔn)確、技術(shù)發(fā)展瓶頸等導(dǎo)致的非常規(guī)錯誤，則應(yīng)盡量從保護(hù)大數(shù)據(jù)產(chǎn)業(yè)發(fā)展的角度對侵權(quán)與否作出認(rèn)定。

再次，應(yīng)結(jié)合數(shù)據(jù)所涉權(quán)益的重要程度認(rèn)定算法運(yùn)用者的主觀過錯。

對數(shù)據(jù)進(jìn)行分級分類管理，是《數(shù)據(jù)安全法》《個人信息保護(hù)法》的要義，也是平衡保護(hù)數(shù)據(jù)主體權(quán)益、社會公共利益，保障數(shù)據(jù)有效利用的必然要求。一方面，針對非敏感數(shù)據(jù)，在發(fā)生錯誤結(jié)果時原則上應(yīng)當(dāng)允許算法運(yùn)用者通過事后救濟(jì)的方式予以糾正。另一方面，針對敏感數(shù)據(jù)，如案涉負(fù)面信用信息等與數(shù)據(jù)主體權(quán)益關(guān)涉較大的數(shù)據(jù)，應(yīng)當(dāng)要求算法運(yùn)用者秉持更加審慎、嚴(yán)謹(jǐn)?shù)膽B(tài)度，采取更為有效的核查手段。對有效核查手段的判斷，可結(jié)合算法運(yùn)用者在事前、事中、事后的處理方式綜合考量。如考察其在事前是否建立了健全的數(shù)據(jù)安全管理制度、是否進(jìn)行了個人信息保護(hù)影響評估，在事中是否設(shè)置了技術(shù)過濾機(jī)制、是否引入人工輔助審查等交叉機(jī)制，在事后是否主動復(fù)核并及時糾正等。

最后，應(yīng)結(jié)合平臺規(guī)模、平臺營利模式及獲利情況綜合認(rèn)定算法運(yùn)用者的主觀過錯。

對提供重要互聯(lián)網(wǎng)平臺服務(wù)、用戶數(shù)量巨大、業(yè)務(wù)類型復(fù)雜的算法運(yùn)用者，因其提供平臺服務(wù)的獲利較大，社會影響力較大，控制力較強(qiáng)，其對數(shù)據(jù)管理所承擔(dān)的“守門人”責(zé)任較高，其應(yīng)承擔(dān)的注意義務(wù)也相應(yīng)較高。

4

算法責(zé)任的分配應(yīng)考慮多方主體利益平衡

大數(shù)據(jù)時代，數(shù)據(jù)處理者往往不是具有生物情感意志的自然人個體，而是法人或非法人組織。數(shù)據(jù)處理活動往往發(fā)生在企業(yè)的商業(yè)活動或政府機(jī)關(guān)履行職責(zé)的公務(wù)活動中。

對數(shù)據(jù)處理者的過錯判斷，不能僅僅停留在道德非難層面。過錯判斷應(yīng)側(cè)重客觀化，成為一種用于協(xié)調(diào)各種法律價值的技術(shù)手段。對于過錯的認(rèn)定應(yīng)基于價值的考量、利益的權(quán)衡，從被告防范損害發(fā)生的成本與受害人損害的大小和發(fā)生概率的關(guān)系角度出發(fā)，確認(rèn)被告有無過錯，進(jìn)而建立一種刺激經(jīng)濟(jì)上更有效率的行為機(jī)制。算法規(guī)制的最終目的，是在盡可能不犧牲社會總體福祉的基礎(chǔ)上，利用規(guī)則引導(dǎo)算法運(yùn)用者、技術(shù)開發(fā)者自行消化算法不當(dāng)結(jié)果導(dǎo)致的社會成本。

在考慮算法侵權(quán)責(zé)任的成立及責(zé)任承擔(dān)具體方式時，應(yīng)根據(jù)不同的場景，在個案中通過判斷不同變量的強(qiáng)弱效果，作出最終的認(rèn)定。一方面，要著重考慮數(shù)據(jù)主體的權(quán)益保護(hù)，充分救濟(jì)其因遭受算法錯誤結(jié)果侵害帶來的損失。另一方面，應(yīng)使個案裁判發(fā)揮促進(jìn)算法運(yùn)用者優(yōu)化算法模型機(jī)制機(jī)理、引導(dǎo)大數(shù)據(jù)產(chǎn)業(yè)良性健康發(fā)展的正面效應(yīng)。同時，還應(yīng)保障社會公眾從算法運(yùn)用、大數(shù)據(jù)產(chǎn)業(yè)發(fā)展中獲得的福祉利益，保障其知情權(quán)及信賴?yán)?。因此，對算法?zé)任的最終審核，應(yīng)在平衡數(shù)據(jù)主體、數(shù)據(jù)處理者、社會公眾三方主體利益的基礎(chǔ)上作出。

來源：廣州互聯(lián)網(wǎng)法院

通訊員：麥應(yīng)華

編輯：田璇

關(guān)鍵詞： 我竟變成失信人法院查明企業(yè)信用信息錯誤關(guān)聯(lián)