繼Alpha Go戰(zhàn)勝圍棋高手李世石后,對話機(jī)器人ChatGPT的出現(xiàn)再次掀起人工智能討論熱潮。ChatGPT是OpenAI開發(fā)的文本生成式對話應(yīng)用,具有強(qiáng)智能、強(qiáng)交互、廣應(yīng)用等特點(diǎn)。然而,以ChatGPT為代表的生成式人工智能給人類社會(huì)帶來經(jīng)濟(jì)、法律、倫理等諸多挑戰(zhàn),本文主要從ChatGPT的倫理挑戰(zhàn)為視角進(jìn)行分析。
一、 人工智能倫理概述
(資料圖)
倫理是人們相互關(guān)系的行為準(zhǔn)則。人工智能倫理是關(guān)于人和人工智能相互關(guān)系的準(zhǔn)則,是開展人工智能研究、開發(fā)、管理、供應(yīng)和使用等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范。
為符合實(shí)踐需要,人工智能倫理形成以人工智能倫理原則為出發(fā)點(diǎn)的概念建構(gòu)模式。
一是,多個(gè)國家和地區(qū)通過發(fā)布人工智能倫理原則的方式,闡述人工智能倫理治理的基本目標(biāo)和要求。如國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理8項(xiàng)原則,豐富了人工智能倫理的內(nèi)涵,提出了人工智能倫理治理的要求。
二是,國際組織通過發(fā)布人工智能倫理原則,推進(jìn)人類共同理念的達(dá)成,促進(jìn)人工智能領(lǐng)域的國際合作。如聯(lián)合國教科文組織在《人工智能倫理問題建議書》中提出公平和非歧視、可持續(xù)性、人類的監(jiān)督和決定、透明度和可解釋性等10項(xiàng)原則,提出負(fù)責(zé)任人工智能發(fā)展的全球治理目標(biāo)。
三是,科技企業(yè)形成圍繞人工智能倫理原則的倫理風(fēng)險(xiǎn)治理體系。如微軟提出負(fù)責(zé)任人工智能應(yīng)當(dāng)符合公平性、可靠性和安全性、隱私性和安全性、包容性、透明度和問責(zé)制6項(xiàng)原則,并圍繞相關(guān)原則制定負(fù)責(zé)任人工智能的標(biāo)準(zhǔn)、開發(fā)相配套的技術(shù)工具。
二、ChatGPT的技術(shù)特點(diǎn)及風(fēng)險(xiǎn)
ChatGPT是由大數(shù)據(jù)驅(qū)動(dòng)、大模型支持,并能廣泛應(yīng)用的人工智能產(chǎn)品。OpenAI為減輕ChatGPT的倫理風(fēng)險(xiǎn),開發(fā)了產(chǎn)品部署流程、基于人類反饋的強(qiáng)化學(xué)習(xí)(Reinforcement Learning from Human Feedback,RLHF)等管理和技術(shù)工具。然而,ChatGPT還是引發(fā)了人機(jī)關(guān)系的新挑戰(zhàn)、放大了人類社會(huì)固有的倫理問題。
從“人——機(jī)”關(guān)系角度看,ChatGPT對人與機(jī)器的情感關(guān)系、人的勞動(dòng)價(jià)值、人的主體意識(shí)等人機(jī)關(guān)系倫理形成沖擊。雖然ChatGPT不屬于強(qiáng)人工智能,但ChatGPT已在教育、金融、法律、游戲等不同領(lǐng)域展開豐富實(shí)踐應(yīng)用。同時(shí),業(yè)界推測ChatGPT依托的大模型可能已經(jīng)出現(xiàn)涌現(xiàn)能力(Emergent Ability),人工智能的發(fā)展走向更多未知,人機(jī)關(guān)系的協(xié)調(diào)出現(xiàn)諸多新挑戰(zhàn)。一是,語言體系豐富、能夠聯(lián)系上下文進(jìn)行對話、具備“角色扮演”功能的ChatGPT可作為陪伴者和用戶進(jìn)行實(shí)時(shí)互動(dòng),人類對機(jī)器產(chǎn)生情感和依賴的可能性增加,影響人的心理狀態(tài)。二是,能夠進(jìn)行文字生成、代碼生成、策略推薦等工作的ChatGPT引發(fā)人類對于勞動(dòng)替代的憂慮,伴隨ChatGP開放API接口,更加豐富的應(yīng)用場景和功能將可能對更多行業(yè)的從業(yè)者產(chǎn)生沖擊。三是,智能機(jī)器的快速發(fā)展對人的文化創(chuàng)造產(chǎn)生沖擊。ChatGPT能做到智能寫詩,但卻可能消解人的創(chuàng)作熱情;ChatGPT在文本生成方面的誤用濫用會(huì)將可能影響知識(shí)學(xué)習(xí)的過程,對人類智識(shí)的提高產(chǎn)生負(fù)面影響。
從“人——人”關(guān)系角度看,基于大數(shù)據(jù)訓(xùn)練的ChatGPT能放大人類社會(huì)固有的偏見,并可能因?yàn)榧夹g(shù)濫用引發(fā)社會(huì)信任危機(jī)。一是,互聯(lián)網(wǎng)數(shù)據(jù)記錄了人類社會(huì)潛在的歧視與價(jià)值對抗,ChatGPT可能輸出明顯具有偏見的對話內(nèi)容,不僅影響用戶的判斷,更可能因?yàn)榇罅课谋镜膹V泛傳播應(yīng)用,加深社會(huì)偏見。二是,ChatGPT選取出現(xiàn)概率較大的語料進(jìn)行內(nèi)容生成,模型為追求內(nèi)容的準(zhǔn)確性可能以喪失文化的多樣性為代價(jià),對人類社會(huì)的價(jià)值多樣性形成挑戰(zhàn)。三是, ChatGPT具有強(qiáng)大的自然語言處理能力,能夠“一本正經(jīng)地說”,但由于其數(shù)據(jù)和算法限制,又有“胡說八道”的可能性。然而,為回應(yīng)用戶需求,ChatGPT能夠批量生產(chǎn)大量虛構(gòu)信息,且無法控制生成內(nèi)容的誤用和濫用。同時(shí),合成文本相較圖片、聲音等更具傳播優(yōu)勢,也更難判斷其是否屬于人工智能生成內(nèi)容。對ChatGPT的誤用和濫用將對人與人之間基于信賴的交往產(chǎn)生沖擊。
圖 1 ChatGPT特點(diǎn)(來源:ChatGPT官網(wǎng))
三、 生成式人工智能倫理治理的未來展望
以ChatGPT為代表的人工智能技術(shù)發(fā)展可能將人類社會(huì)帶入新的階段,人工智能倫理治理的目標(biāo)在于鼓勵(lì)技術(shù)的良性發(fā)展,為可持續(xù)的創(chuàng)新提供保障。
企業(yè)發(fā)揮人工智能倫理治理的主體作用。企業(yè)在人工智能倫理治理中從倫理意識(shí)、機(jī)制設(shè)置、技術(shù)開發(fā)等方面發(fā)揮最基礎(chǔ)和最主要的作用。一是,加強(qiáng)人工智能倫理治理意識(shí)。企業(yè)通過明確人工智能倫理原則、建立人工智能倫理審查機(jī)構(gòu)、明晰人工智能倫理審查流程等,形成人工智能倫理治理從意識(shí)到實(shí)踐的落地機(jī)制。二是,細(xì)化和完善人工智能產(chǎn)品的全流程管理。如企業(yè)可在設(shè)計(jì)研發(fā)階段,即評估技術(shù)和產(chǎn)品的倫理風(fēng)險(xiǎn);在測試階段,將產(chǎn)品從封閉環(huán)境逐步引入開放復(fù)雜的社會(huì)環(huán)境,不斷彌補(bǔ)產(chǎn)品倫理漏洞,將倫理風(fēng)險(xiǎn)控制在發(fā)展早期;在產(chǎn)品上線后,通過使用情況審查、速率限制等方法,減輕產(chǎn)品濫用可能性;最后,對倫理事故進(jìn)行詳細(xì)的回顧審查。三是,通過技術(shù)手段提升倫理治理能力。企業(yè)可通過開發(fā)數(shù)據(jù)偏見和公平性評估工具、模型安全評估工具等加強(qiáng)人工智能倫理風(fēng)險(xiǎn)的技術(shù)應(yīng)對。
多主體參與人工智能倫理治理的合作機(jī)制。人工智能倫理治理是用戶、企業(yè)、行業(yè)等多方主體的協(xié)作。一是,用戶在與人工智能的互動(dòng)中提出現(xiàn)實(shí)世界的問題,為產(chǎn)品優(yōu)化提供數(shù)據(jù),并通過對產(chǎn)品風(fēng)險(xiǎn)漏洞的討論與反饋等協(xié)助生成式人工智能向善發(fā)展。二是,企業(yè)通過明晰人工智能技術(shù)缺陷、開源人工智能倫理治理工具等,為更多開發(fā)者提示人工智能產(chǎn)品的倫理風(fēng)險(xiǎn),提供倫理治理方法和工具。三是,行業(yè)組織密切產(chǎn)業(yè)主體,通過團(tuán)體指南、行業(yè)標(biāo)準(zhǔn)等方式推動(dòng)行業(yè)對人工智能倫理治理共識(shí)的建立,促進(jìn)行業(yè)自律。
加強(qiáng)國際合作應(yīng)對人工智能倫理風(fēng)險(xiǎn)。技術(shù)發(fā)展的全球性給數(shù)字時(shí)代的人類帶來機(jī)遇和挑戰(zhàn),人工智能倫理治理也成為國際治理合作的重要契機(jī)。政府間國際組織、國際學(xué)術(shù)團(tuán)體、行業(yè)組織等在尊重各國、各領(lǐng)域人工智能治理的原則和實(shí)踐下,推動(dòng)形成以增進(jìn)人類福祉為目標(biāo)的國際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
關(guān)鍵詞: