智能時(shí)代，便利和隱私二選一

編譯：原子核

在Alexa變得潮流之前，我就開(kāi)始使用它了。在我瀏覽亞馬遜購(gòu)物網(wǎng)站準(zhǔn)備購(gòu)買(mǎi)新?lián)P聲器的時(shí)候，一個(gè)橫幅廣告儼然展示在我面前，于是我在第一代Echo發(fā)布的幾個(gè)月后就購(gòu)買(mǎi)了。在它到貨后，我當(dāng)時(shí)的室友，谷歌的一名軟件工程師，急切地將Alexa的功能與她的Google Assistant進(jìn)行了比較。Alexa并不是真的天衣無(wú)縫的。但就我而言，它實(shí)現(xiàn)了我想做的一切：它播放著我最喜歡的歌曲，在早晨成為叫醒我的鬧鐘，時(shí)不時(shí)地告訴我天氣和新聞。

五年后，亞馬遜的雄心壯志使我樸素的欲望黯然失色。Alexa現(xiàn)在遍布各地，能夠控制超過(guò)8.5萬(wàn)種智能家居產(chǎn)品，從電視到門(mén)鈴再到耳機(jī)。它可以執(zhí)行超過(guò)10萬(wàn)個(gè)“功能”和計(jì)數(shù)。它每周處理數(shù)十億的互動(dòng)，形成關(guān)于你的大量數(shù)據(jù)，包括你的日程安排、你的偏好以及你的行蹤數(shù)據(jù)。Alexa已經(jīng)變成了一個(gè)帝國(guó)，但亞馬遜才剛剛開(kāi)始。

在接受采訪時(shí)，Alexa的首席科學(xué)家Rohit Prasad現(xiàn)在透露了Alexa下一步走向的更多細(xì)節(jié)。該計(jì)劃的關(guān)鍵在于將語(yǔ)音助理從被動(dòng)交互模式轉(zhuǎn)變?yōu)橹鲃?dòng)交互模式。Alexa不是等待并響應(yīng)請(qǐng)求，而是預(yù)測(cè)用戶(hù)可能想要什么。這個(gè)想法是把Alexa變成一個(gè)無(wú)處不在的伴侶，積極地塑造并安排你的生活。這要求Alexa需要比以前更好地了解你。

事實(shí)上，Prasad已經(jīng)向世界展示了這種轉(zhuǎn)變可能會(huì)是什么樣子的，并且在晚些時(shí)候，Prasad將在葡萄牙里斯本的WebSummit會(huì)議上概述他對(duì)Alexa未來(lái)的展望。在6月份的re:Mars大會(huì)上，他演示了一項(xiàng)名為Alexa Conversations的功能，并展示了如何使用該功能來(lái)幫助您計(jì)劃晚上外出。您只需要開(kāi)始對(duì)話(huà)，而不是手動(dòng)操作，就可以為晚上的每個(gè)部分發(fā)起一個(gè)新的請(qǐng)求——例如，預(yù)訂電影票。Alexa隨后會(huì)跟進(jìn)詢(xún)問(wèn)你是否也想預(yù)訂餐廳或叫一輛Uber。

為了推動(dòng)這種轉(zhuǎn)變，亞馬遜需要硬件和軟件的支持。今年9月，亞馬遜推出了一套“on the go”Alexa產(chǎn)品，包括Echo Buds(無(wú)線耳機(jī))和Echo Loop(一種智能戒指)。所有這些新產(chǎn)品都可以讓Alexa記錄你生活中大量的數(shù)據(jù)，從而更好地根據(jù)你的行蹤、行動(dòng)和偏好為你提供幫助。

從軟件的角度來(lái)看，為了實(shí)現(xiàn)這些能力，Alexa需要使用新的方法來(lái)處理和理解所有不同的信息源。在過(guò)去的五年中，Prasad的團(tuán)隊(duì)致力于培養(yǎng)它對(duì)人工智能基礎(chǔ)知識(shí)的掌握，如基本的語(yǔ)音和視頻識(shí)別，并擴(kuò)展其自然語(yǔ)言理解。在此基礎(chǔ)上，他們現(xiàn)在已經(jīng)開(kāi)始發(fā)展Alexa的智能預(yù)測(cè)和決策能力，以及越來(lái)越多的更高層次推理的能力。換句話(huà)說(shuō)，我們的目標(biāo)是讓Alexa的AI能力在幾年內(nèi)變得更加復(fù)雜。

一個(gè)更聰明的Alexa

下面的一個(gè)場(chǎng)景是Alexa的軟件更新組合在一起來(lái)執(zhí)行夜間計(jì)劃。為了滿(mǎn)足電影票的請(qǐng)求，并給出晚餐和Uber車(chē)輛服務(wù)的提示，一個(gè)神經(jīng)網(wǎng)絡(luò)通過(guò)一周數(shù)十億的用戶(hù)互動(dòng)來(lái)進(jìn)行學(xué)習(xí)，以識(shí)別彼此之間常用的功能。這就是智能預(yù)測(cè)發(fā)揮作用的方式。當(dāng)有足夠多的用戶(hù)在看完電影后預(yù)訂晚餐時(shí)，Alexa會(huì)將這些技能打包在一起，并聯(lián)合推薦給客戶(hù)。

但是，要知道何時(shí)預(yù)訂Uber，需要進(jìn)行推理?？紤]到你和電影院的位置、電影開(kāi)始時(shí)間和預(yù)期的交通，Alexa計(jì)算出什么時(shí)候汽車(chē)應(yīng)該來(lái)接你，才會(huì)讓汽車(chē)準(zhǔn)時(shí)到達(dá)那里。

Prasad設(shè)想了許多其他可能需要更復(fù)雜推理的場(chǎng)景。你可以想象一種功能，例如，當(dāng)你站在Whole Foods超市時(shí)，你可以問(wèn)你的Echo Buds哪里有西紅柿。Echo Buds需要登記一下你現(xiàn)在在Whole Foods超市里，訪問(wèn)它的平面圖，然后告訴你西紅柿在第七個(gè)過(guò)道。

再說(shuō)說(shuō)另一種情況，如果你的航班遭到延誤，你可以通過(guò)公共家庭Echo要求Alexa向你發(fā)送一條通知。但可能要發(fā)送通知時(shí)，也許你已經(jīng)在開(kāi)車(chē)了。Alexa需要意識(shí)到你，而不是室友或家庭成員，需要這一則通知——并且根據(jù)你啟動(dòng)的最后一個(gè)Echo設(shè)備，明白你現(xiàn)在在你的車(chē)?yán)?。因此，這則通知應(yīng)該送到你的車(chē)?yán)?，而不是你家?/p>

這一級(jí)別的預(yù)測(cè)和推理還需要考慮到視頻數(shù)據(jù)，因?yàn)樵絹?lái)越多的Alexa兼容產(chǎn)品包含攝像頭。比方說(shuō)你不在家，一個(gè)女童子軍敲你家的門(mén)賣(mài)餅干。Amazon Ring上的Alexa是一個(gè)配備攝像頭的門(mén)鈴，它應(yīng)該通過(guò)視頻和音頻輸入記錄誰(shuí)在你家門(mén)口，以及為什么在你家門(mén)口，知道你不在家，在附近的Alexa設(shè)備上給你發(fā)一個(gè)留言，詢(xún)問(wèn)你想要多少餅干，并代表你去訂購(gòu)餅干。

為了實(shí)現(xiàn)這一點(diǎn)，Prasad的團(tuán)隊(duì)現(xiàn)在正在測(cè)試一種用于處理用戶(hù)命令的新軟件體系結(jié)構(gòu)。它涉及到通過(guò)更多層過(guò)濾音頻和視頻信息。首先，Alexa需要登記用戶(hù)在大約10萬(wàn)個(gè)可用功能中選擇嘗試哪個(gè)功能。接下來(lái)，它必須在用戶(hù)是誰(shuí)、這個(gè)用戶(hù)正在使用什么設(shè)備以及在哪種情境下理解該命令。最后，它將需要根據(jù)用戶(hù)先前表達(dá)的偏好來(lái)細(xì)化最后的響應(yīng)。

Prasad說(shuō)：“這就是我認(rèn)為未來(lái)幾年將會(huì)變成的：推理并使之更個(gè)人化，更依據(jù)相應(yīng)的背景。這就像是把所有東西放在一起，做出這些重大決定。”

觸不可及的技術(shù)

從技術(shù)角度來(lái)看，所有這一切都將是一項(xiàng)令人難以置信的成就。Prasad所說(shuō)的——將各種數(shù)據(jù)源和機(jī)器學(xué)習(xí)方法結(jié)合起來(lái)進(jìn)行高級(jí)推理——幾十年來(lái)一直是人工智能研究人員的研究目標(biāo)。

然而，從消費(fèi)者的角度來(lái)看，這些變化也具有關(guān)鍵的隱私影響。Prasad的愿景實(shí)際上是假設(shè)Alexa可以隨時(shí)隨地跟隨你，在任何時(shí)刻對(duì)你都有很多的了解，并成為幫助你協(xié)調(diào)生活的主要工具。在底線上來(lái)說(shuō)，這需要收集大量關(guān)于你生活的私密細(xì)節(jié)。有些人擔(dān)心亞馬遜最終會(huì)通過(guò)你的數(shù)據(jù)，向你推銷(xiāo)和推送廣告，從而遠(yuǎn)遠(yuǎn)超出這一底線。“這最終是關(guān)于將個(gè)人和群體的日常生活貨幣化的事情，”位于華盛頓特區(qū)的消費(fèi)者隱私倡導(dǎo)組織數(shù)字民主中心的執(zhí)行主任Jeffrey Chester說(shuō)。

當(dāng)被追問(wèn)到這一點(diǎn)時(shí)，Prasad強(qiáng)調(diào)他的團(tuán)隊(duì)已經(jīng)讓用戶(hù)更容易定期自動(dòng)刪除他們的數(shù)據(jù)，并選擇退出人工審查。然而，這兩個(gè)選項(xiàng)都沒(méi)有阻止這些數(shù)據(jù)在Alexa的機(jī)器學(xué)習(xí)模型上被使用。事實(shí)上，Prasad提到了正在進(jìn)行的研究，Alexa的訓(xùn)練過(guò)程轉(zhuǎn)變?yōu)橹灰行碌挠脩?hù)數(shù)據(jù)，模型就可以快速更新的過(guò)程，或多或少保證了這些數(shù)據(jù)的價(jià)值在被處理之前就會(huì)被捕捉到。換句話(huà)說(shuō)，自動(dòng)刪除您的數(shù)據(jù)只意味著一旦更新了訓(xùn)練算法，它就不會(huì)再用于訓(xùn)練未來(lái)的模型;對(duì)于當(dāng)前的模型，您的數(shù)據(jù)將以大致相同的方式使用。(在后續(xù)請(qǐng)求中，亞馬遜發(fā)言人表示，該公司不會(huì)將Alexa收集的數(shù)據(jù)出售給第三方廣告商或定向廣告，除非用戶(hù)通過(guò)Alexa訪問(wèn)服務(wù)。)

斯坦福大學(xué)法學(xué)院互聯(lián)網(wǎng)與社會(huì)中心的隱私主管Jen King說(shuō)，這些數(shù)據(jù)控制方式太膚淺了。“如果你想給人們有意義的控制，那么你必須尊重他們完全退出的決定，或者在如何使用他們的數(shù)據(jù)方面給他們更多的選擇，”她說(shuō)。“在特定位置向某人提供功能性幫助可以用一種極其隱私保護(hù)的方式完成。我不認(rèn)為這種情況本身就有問(wèn)題。“

在實(shí)踐中，King設(shè)想這意味著幾件事。首先，亞馬遜至少應(yīng)該讓用戶(hù)選擇加入，而不是選擇退出數(shù)據(jù)的使用。其次，亞馬遜應(yīng)該更加透明地說(shuō)明它的用途。目前，當(dāng)你刪除你的數(shù)據(jù)時(shí)，公司可能已經(jīng)對(duì)它做了什么還不清楚。她說(shuō)：“想象一下，你家里有一臺(tái)人工智能監(jiān)控?cái)z像頭，但你忘了它是開(kāi)著的，而你卻光著身子在房子里走來(lái)走去。作為消費(fèi)者，當(dāng)你刪除這些文件時(shí)，如果系統(tǒng)已經(jīng)使用它們來(lái)訓(xùn)練正在使用的任何算法，那么了解這些就變得非常有用。”

最后，亞馬遜應(yīng)該為用戶(hù)提供更多關(guān)于何時(shí)何地可以使用他們數(shù)據(jù)的靈活性信息。例如，用戶(hù)可能樂(lè)意放棄自己的數(shù)據(jù)，但同時(shí)希望自己的孩子不受限制。“科技公司傾向于設(shè)計(jì)這些產(chǎn)品，認(rèn)為要么全有要么全無(wú)，”她說(shuō)。“我認(rèn)為這是一種非常有誤導(dǎo)性的做法。人們可能想要這些東西的一些便利，但這并不意味著他們想要它們出現(xiàn)在生活的每一個(gè)方面。“

Prasad的終極愿景是希望Alexa對(duì)每個(gè)人都有用。即使在發(fā)展中國(guó)家，他也設(shè)想了人們可以在智能手機(jī)上訪問(wèn)到的更便宜版本。“對(duì)我來(lái)說(shuō)，我們正在將認(rèn)知的重?fù)?dān)轉(zhuǎn)移到日常任務(wù)上，”他說(shuō)。“我想讓Alexa成為一個(gè)生產(chǎn)力的增強(qiáng)者。真正無(wú)處不在，對(duì)每個(gè)人都有用。”

關(guān)鍵詞： 智能助手 隱私 亞馬遜