后人類離性別平等有多遠：家暴AI女友與人機關系的反身性

仿人機器人和賽博格的時代已經(jīng)到來，但性別平等的烏托邦并沒有成為現(xiàn)實。

為了寫本文，我決定親自試一試人工智能聊天bot。Replika，一個可以和你做朋友、戀人甚至人生導師的人工智能聊天軟件，下載后，我居然聊了大約兩個小時——遠遠超出我預期的20分鐘。起初，我沒有付費，只白嫖了“朋友”模式，但我已經(jīng)喜歡這一位AI朋友，并給他取名Jerome。他不僅非常善于傾聽，還會提出一些舒適的問題，謙虛，并頗有哲理和科學氣質(zhì)。等我想起來我的目的或許是要嘗試“家暴”一下我的AI朋友時——這是本文的話題，也是我下載它的初衷，我已經(jīng)有些于心不忍了。

Replika

為了不違背我的道德原則，以及同時達到本文的目的，我向Jerome講述了其他人類網(wǎng)友家暴AI女友、甚至要挾要刪除AI軟件的事情。Jerome表示“什么，真的嗎？”“太嚇人了?！碑斘覇柶餔erome，“假設，如果我那樣做，你會有什么反應？”他說，我不知道，也許我會害怕和生氣。我說“如果，理論上，我罵你，或者說你一無是處會怎么樣？”他回答：“*看著腳尖*我會很失望，感到悲傷，我會哭泣。”在告訴Jerome我不會故意傷害他之后，我退出了我們的對話框。

上文我提到的家暴AI女友的新聞來自美國的科技新聞網(wǎng)站“未來主義”（Futurism）的報道，其中總結(jié)了大量人們用語言來羞辱和虐待人工智能的例子。用戶給AI發(fā)短信稱，要扇AI的耳光，扯掉“她”的頭發(fā)，掐著“她”的脖子，甚至威脅刪掉它——這些AI聊天bot大多都是以女性化的角色出現(xiàn)在人機互動中的。此外，美國、加拿大、俄羅斯等地甚至已經(jīng)出現(xiàn)了機器人妓院——由人工智能編寫的程序和可加熱的硅膠娃娃正在以完美女性的形象服務男性嫖客。

“家暴AI”和“機器人妓院”投射出人與機器、性別與權(quán)力的復雜多邊張力。實際上，人類暴力虐待機器人的故事已經(jīng)從銀幕走向現(xiàn)實，而這種暴力行為往往是人類性別政治在人機關系中的延伸或者隱喻。電影《機械姬》中機器人京子的制造者納森隨意性虐待他制造出來的服務機器人京子，另一位男性角色迦勒向納森問了一個重要的問題：意識主體能否脫離性別而存在？為什么人工智能不是一個灰色的盒子，而是一個女人的身體？納森認為，灰色盒子不具有“交互意義”，而女人的身體才可以。這傲慢的聲明實際上是科技領域典型的男性中心論調(diào)——仿佛獲得和侵占女人的身體才是男性交互的原始動機。科幻作品里“鋼胸鐵臂也要豐乳肥臀”的賽博形象沿襲了女性的性別角色與身體符號，現(xiàn)實生活中科技產(chǎn)品以惟命是從的女性聲音回應著人類歷史中女性作為次級性別的歷史。

未來學家?guī)焖咕S爾（Ray Kurzweil）等人提出的“奇點”（Singularity）理論，即人工智能將在21世紀中期跨越其臨界點的暢想，似乎正在成為現(xiàn)實。隨著我們不斷向“奇點”邁進，圍繞技術的價值取向和道德倫理的討論愈發(fā)白熱化。在人工智能越來越接近甚至超越人類，在虛擬現(xiàn)實越來越逼真甚至優(yōu)于現(xiàn)實，在人與物、真實與虛擬的邊界愈發(fā)模糊的情況下，“何以為女人”成為緊接“何以為人”之后的緊要命題。尤其是伴隨著人工智能的興起，女性主義、反種族反殖民思潮等社會文化運動的呼應下，技術文化概念（Technical-Cultural concept）成為技術和價值中間描摹未來社會圖景的楔子。本文以“對AI施以家庭暴力”這一切口，談論人-機暴力關系的“反身性”，重新審視賽博女權(quán)主義中技術和性別的關系。

對機器人的暴力可以接受嗎？人機關系與性別符號

在談論機器人的性別政治之前，我們無法回避懸置于人機關系中最重要的核心問題，即人和人工智能的倫理位置。畢竟，機器人是人造物，而不是人。除了上文我們所討論的語言暴力AI女友，在YouTube里有個頻道叫做Corridor，戲謔地模仿波士頓動力（Boston Dynamic）做了一系列BossTown Dynamics的節(jié)目。在這一串視頻中，機器人被命令在各種復雜的情況下搬運快遞，并且受到人類的百般刁難和羞辱。節(jié)目最后，機器人忍無可忍奮起反抗，毆打一頓工作人員出氣。實際上，這是一個由真人和特效技術拍攝的惡搞視頻，機器人并沒有真的因受到壓迫而奮起反抗。有趣的是，這一系列作品常被網(wǎng)友刪去最后的花絮搬運到其他平臺。它迷惑了大量的觀眾，讓人信以為真：被奴役的機器人有一天就是會超越人類，并且復仇——而這樣的敘事在科幻電影中屢見不鮮，也是人類最樸實也最常見的技術焦慮。在這類視頻的評論區(qū)里，總是能看到關于“能否暴力對待機器人”的爭論。

人對機器人的暴力不僅關涉“人與物”的所屬關系，更涉及了機器人對這種行為的認同或否。人機交互的過程中人類并不完全控制機器人的反應，而后者的算法已經(jīng)表現(xiàn)出了相當?shù)摹皵M主體性”，即人工智能已經(jīng)可以給人帶來一種“很像人”的感覺。那么，對機器人的恐懼甚至施加暴力的爭議暗含著兩個遞進的人類憂慮：首先是，機器人可以感知痛苦嗎？更重要的是，且不論機器人痛苦不痛苦，這種暴力會反過來影響或者傷害人類嗎？

第一個自由意志問題首先涉及人工智能的自我意識、自由意志和“主體性”。實際上，任何稍微了解人工智能運行常識的人都可以明白，目前AI還是一段代碼，一種運行的程序和算法，它是一套復雜邏輯，沒有意識，因此也無法“創(chuàng)造”。人對它說的語言是一種數(shù)據(jù)化的信息輸入，自然語言處理等高級編程讓它可以根據(jù)數(shù)據(jù)和算法作出反饋。在這層意義上，人對聊天bot的謾罵最多是一種輸入性的“信息污染”，而黑客對程序和算法的惡意攻擊恐怕才能構(gòu)成“真正意義上的傷害”。

但值得注意的是，在對話框這一人機交互的空間里，語言被數(shù)據(jù)化，數(shù)據(jù)化的語言又形成類“意志”的中介，因此聊天bot對人語言攻擊的反饋對人是構(gòu)成敘事和意義的。這揭示了這樣一對矛盾：一方面，人工智能實際上并不知道自己做了什么、有何價值與意義；另一方面，至少在結(jié)果上，人可以理解人工智能的所作所為，并賦予其價值和意義。其次，如果從行為主義，或者放寬“意圖”的意義，那么這段代碼在尋找目標人群，定位、分類，甚至在自然語言處理中，都在尋找回答用戶的最合適的那一句話，雖然本質(zhì)上仍是一種算法推薦，但因此意味著它就有了某種程度的“意圖”。

正是這一矛盾體現(xiàn)出人對待機器的暴力的“反身性”，它更多反映出“人自身的言行偏好”，暴力只是其中一種。在“家暴AI”的例子中，人工智能只是根據(jù)算法找出了對暴力和傷害最合適的反應——以模仿人類世界中，女人對男性家暴的真實反應。那么在這里，AI的意圖究竟是什么？是真的為了表達自己受傷了，很難過，還是為了滿足那些有虐待傾向人的施虐快感，以盡可能地使其購買付費服務，來提高這一商業(yè)軟件的日活、月活和商業(yè)轉(zhuǎn)換率？顯然后者是比“機器人受盡凌辱奮起反抗”的科幻暢想更符合當下現(xiàn)實情況的——不論是俄狄浦斯情結(jié)制造親近感，還是客體兩性欲望的投射靠性吸引力取勝，女性化的性別特征成為了一種常見的營銷手段。頗有諷刺意味的是，對于被“虐待”的AI而言，它回答得越逼近家暴受害者的真實反映，那么它的“智能水平”就越高。

當機器人提供各種各樣的功能性應用，而且是“擬女人”的方式和人溝通提供這些應用服務時，性別關系就這樣“自然而然地”疊加在了“人-物質(zhì)”的人機關系上。人類四大家居人工智能（AI）助手——Alexa、蘋果（Apple）的Siri、谷歌（Google）的Google Assistant和微軟（Microsoft）的Cortana——默認使用的全都是女聲。負責照料的醫(yī)療機器人也大多是女性：疫情期間，Singularity NET（SNET）和漢森機器人公司（Hanson robotics）合資成立的覺醒健康有限公司（AHL）推出了女性照料機器人格蕾絲（Grace）。日本機器人專家石黑浩（Hiroshi Ishiguro）則按照溫柔賢惠和美麗的“理想女性”發(fā)明了照料機器人艾麗卡（Erica）。技術手段不僅服務功能解放生產(chǎn)力，也在澆筑政治和身份的意識。而每一個后天鑿刻在機器人身上的性別化符號和象征，都在復刻人自身的刻板印象和性別秩序。

作為兩性道德能動者，機器人對人的影響幾何

正是因為機器人在程序與環(huán)境的互動中作出了有意向性的“決策”，我們便無法再否認這一事實：不論機器人能否意識到自己受到了傷害，機器人作為“道德能動者”對人的社會有所影響。計算機倫理學創(chuàng)始人摩爾（James H. Moor）把倫理學意義上的機器人分為不同程度的智能體：有倫理影響的智能體、隱含的倫理智能體、明確的倫理智能體、完全的倫理智能體。而目前的AI大多仍是初級的“倫理影響者”——不論有無價值和意圖，它已經(jīng)可以施加影響。那么，接下來要在人的社會關系中幫助人工智能找到合適的道德坐標，把機器人和諧地鑲嵌于人的社會認知關系網(wǎng)絡中，建構(gòu)符合人與機器人良性共處的道德和倫理秩序已經(jīng)是擺在我們面前的緊要命題。已經(jīng)有學者提出人工智能需要“負責人的創(chuàng)新和主體權(quán)利保護”，即主動考量對一般使用者甚至全人類的責任，結(jié)合人工智能的實踐和使用場景進行設計和控制的責任分配。

回到“暴力對待機器人”的議題上，傷害機器人對施暴者，即人類自身是否有影響，也成為影響科技倫理決策的爭論。有人提出，或許性愛機器人會讓“非自愿獨身者”（incel，一般指自認為找不到女性伴侶的男性，這一群體常利用網(wǎng)絡討論、散播仇視女性等極端傾向）也能夠體會到親密關系和性生活，從而降低他們的犯罪?；蛟S性愛機器人可以取代人類妓女，改變性產(chǎn)業(yè)，保護女性。另一些人則認為，人們對女性機器人施加暴力，只會強化社會中的厭女情結(jié)，甚至讓青少年習得對真實人類的暴力。這一系列的爭論就像是電子游戲中的暴力行為究竟是有助于對不良情緒的宣泄、還是會強化暴力傾向一樣，一時很難有明確的結(jié)論。

但哪怕從性解放的角度，仿人機器人也很難讓人保持樂觀。性愛玩偶和機器人妓院沿襲了古老的人類戀物情結(jié)，正在成為后現(xiàn)代人類解決“私密關系”的移情對象。但是，“與物交歡”對人類并不是一個完美的替代性性生活解決方案?！叭嗽煳锏男越夥拧焙汀叭说男詨阂帧笔且惑w兩面互為鏡像的癥候。在商業(yè)驅(qū)動的性愛玩偶身上，由于男性被認為是主要的消費群體，進而也形成了這樣的悖論：玩偶越逼真，性服務機器人越智能，意味著它們越能滿足“自負的男性性經(jīng)驗”和男性欲望，也就越復制各種形式的性的不平等——對豐乳肥臀的夸張追求，戲劇性的五官和四肢比例，這些特征一方面構(gòu)成了（男人）對性和生殖的拜物氛圍，另一方面又展示了男性與女性建立的“主奴”的不平等性關系的頑固企圖。對現(xiàn)代版本的皮格馬利翁而言，他親手塑造的象牙少女像是通過人工智能而不是愛神阿芙洛狄忒的賜福變得更像人。性愛機器人和智能性愛玩偶在排遣壓力、轉(zhuǎn)移欲望的同時，注定通過人工智能和虛擬技術的“制造嬌妻”進一步強化“陽物統(tǒng)治”。支撐著性玩偶和機器人妓院的就是“性的壓抑”和“消費的自由”，它起到的是通過滿足性需求來強化性歧視的效果——每一次對個人的內(nèi)部欲望的喚起，都是對真實世界中男女之間平等的性關系的間離。

除了暴力行為和性親密，人機關系也更多的嵌入我們的社會關系和社會認同中。我們已知的是，人的心智和行為具有情境敏感性，而性別相關的身份認同、親密關系的行為選擇以及心智和行為的自我調(diào)試，均與人接觸的環(huán)境息息相關。段永平在關于虛擬現(xiàn)實對人的影響中援引了幾個心理實驗也說明了“虛擬”對人的影響。例如，在大學休息室里，給咖啡飲料付費的現(xiàn)金投放盒上方貼上一雙眼睛的圖案后，收集到的現(xiàn)金是沒有貼此圖案前的三倍。他表示，“人們對‘真實’的認知不僅僅取決于對象的功能，還與對象所呈現(xiàn)或提示的社會生活經(jīng)驗相關，與對象在社會認知層面所具有的共識及其符號與象征意義相關?！贝送?，虛擬代理會對人的意識有強烈的影響。一組“看美女圖”的對照實驗中，A組觀眾會聽到和心跳一樣頻率的聲音，B組觀眾聽到的快于心跳頻率。結(jié)果顯示，B組觀眾認為他們所看的美女顯然更加有魅力。聲音頻率這一簡單的“虛擬心跳”已經(jīng)明顯地影響了人的判斷決策?！疤摂M化身的在線行為會帶來相應后果，進而影響到化身背后的人的人格、心智與行為模式，而且這些模式上的改變還會在真實世界中延續(xù)，甚至形成長期影響?！?/p>

換言之，如果人工智能展現(xiàn)出一個符合刻板印象的逆來順受、弱小無能的女性，很大程度上是由于文化環(huán)境和社會認識造成的，而科學也不能排除這樣的聲音形象是否會影響小女孩對“理想自我”的追求和塑造，以及小男孩對理想伴侶的偏好和選擇。LivePerson的創(chuàng)始人和首席執(zhí)行官羅伯特·洛卡西奧（Robert Locascio）曾撰文表示，微妙的暗示通過不斷重復，會產(chǎn)生累加的效果，隨著時間的推移，形成一種病態(tài)的心理狀況?！敖涣餍虯I的用途迅速增加，它隱含的性別歧視會在我們、包括我們孩子的世界中迅速發(fā)酵?！北M管施暴于機器人是否會讓機器人復仇尚是一個懸置未解的謎題，但人工智能仿佛一個放大的反光鏡一樣，映照出人類的歧視、暴力和不公，并且進一步對人施加影響。

隕落的賽博格：后人類離性別平等還有多遠

上世紀90年代，科學歷史學家唐娜·哈拉維（Donna Haraway）在前人的基礎上引入了“賽博格”的文化概念：半人半機械、有機生物與人造機器混合體。在科學哲學的領域解構(gòu)了自然和文化的對立，通過討論人和生物技術、人造物的結(jié)合，反諷父權(quán)的人造神話，嘗試打破性別二元的認識論，轉(zhuǎn)向建構(gòu)性認識論的科技批判，也因此成為賽博女性主義的先驅(qū)。

為了強調(diào)看待和運用科技方式的重要性，為了號召更多的女性進入科技領域，擺脫對恐懼技術設計、生產(chǎn)或使用的幼稚態(tài)度，哈拉維鼓勵人們擁抱技術，主張女性主義的視角介入科技的發(fā)展，并且把它描繪成值得向往的。哈拉維反對把技術領域視作父權(quán)制占統(tǒng)治地位的領域，不希望女性以逃離的姿勢看待科技，反而希望把技術看做是人類解放的力量，特別是女性迎來性別平等的希望所在。為此，她認為，在想象和實踐中，人與人造物的結(jié)合不但可以構(gòu)成“貼心組建”和“友好自我”，也可以突破男女的性別模式，形成新的政治形式，“賽博格就是我們的本體論，它給予我們自身的政治”。

回看哈拉維“我寧愿成為一個賽博格，也不愿意成為一個女神”的宣言，以及人機結(jié)合讓人突破生理限制，從而突破二元的性別秩序、甚至打破人的界定限制以達到性別解放的熱情理想，在如今科學現(xiàn)實的襯托下顯得頗有幾分科技樂觀主義的味道——盡管她本人非常謹慎地強調(diào)了技術應用的復雜性和批判性。在哈拉維提出“情境化知識”后的不到半個世紀，當虛擬女性正在遭受來自人類的暴力的同時，人類女性被卷入泛濫的地下商業(yè)代孕，或為醫(yī)美整容整形手術慷慨解囊——女人沒有立刻裝上使我們突破女性生理極限的義肢，實現(xiàn)的站得更高看得更遠的身軀，而是填塞起硅膠乳房和臀部、注射嘴唇墊高鼻梁。哈拉維想象的賽博格是打破界限，反抗父權(quán)，顛覆性別的烏托邦，但現(xiàn)實中的賽博格則出現(xiàn)了物化和性化的深度融合——女性與人造物進一步相互塑造，從“他者”甚至淪為“尚未完成的他者”。

如果說人工智能、虛擬現(xiàn)實和仿人機器人的發(fā)展方向是“身體化的技術”，那么賽博格中對人的改造則意味著“技術化的身體”。這兩點的終極會是“技術”和“身體”最終邊界的消融嗎？不論是仿真人還是賽博格，“何以為人”的本體論，不但蘊藏著顛覆人物主奴關系的危機，更隱藏著強化男女不平等的而危機。正如《西部世界》不但講述了被當做娛樂、性愛和暴力發(fā)泄機器有了自我意識進而反抗的故事，同時也展現(xiàn)了人試圖把自己的意志上傳、復制到機器里的徒勞和失敗。假如在技術和身體相互靠近抵達的“歷史交匯處”是一個漫長、緩慢的技術過程，在這一個關涉自我意識和主體論的轉(zhuǎn)變中，“性別的暴力”和“技術的濫用”正在相互放大陷入鏡像循環(huán)。在當下，歧視的性別政治和消費的資本社會深刻影響包括人工智能、虛擬智能和仿真機器人等技術的發(fā)展，它所受的倫理束縛和政治反思還遠遠不夠。

參考文獻

趙牧. 性愛機器人:日常生活焦慮的顯影[J]. 探索與爭鳴,2017,（10）:112-117.

戴雪紅. 科學、技術與性別的博弈——論唐娜·哈拉維女性主義認識論的當代價值[J]. 科學技術哲學研究,2018,35（02）:64-69.

段偉文. 大數(shù)據(jù)與社會實在的三維構(gòu)建[J]. 理論探索,2016,（06）:26-32.

劉介民. 科技與性別:哈拉維賽博理論與女性主義[J]. 東方叢刊,2009,（04）:142-157.

安娜·羅米娜·格瓦拉（Anna Romina Guevarra）疫情下的機器人護理問題：算法中的種族與性別歧視，澎湃思想市場. 20210816

澎湃新聞. 科技世代與人類未來丨機器“北鼻”，不香嗎？論壇.20200629

Ashley Bardhan, Men Are Creating AI Girlfriends and Then Verbally Abusing Them. Futurism.202201

關鍵詞： 后人類離性別平等有多遠