和飛機(jī)類似，機(jī)器人事故也需要黑匣子解密

機(jī)器人越來越多地出現(xiàn)在我們的日常生活中。它們可能在很多場(chǎng)合都有用武之地，如仿生肢體、機(jī)器人割草機(jī)或?yàn)楦綦x人員送餐的機(jī)器人；或者僅僅是為了娛樂，機(jī)器狗、跳舞玩具和雜技無人機(jī)。可能只有你想不到，沒有機(jī)器人做不到。

然而，當(dāng)機(jī)器人不按照我們的希望做事——或者以一種會(huì)造成損失的方式做事時(shí)，會(huì)發(fā)生什么？例如，如果仿生手臂參與了一場(chǎng)駕駛事故，會(huì)發(fā)生什么？

機(jī)器人事故正在成為一個(gè)令人擔(dān)憂的問題，原因有兩個(gè)：第一，機(jī)器人數(shù)量的增加自然會(huì)導(dǎo)致它們所涉及的事故數(shù)量增加。第二，我們開始越來越擅長制造更復(fù)雜的機(jī)器人。當(dāng)機(jī)器人越復(fù)雜時(shí)，就越難發(fā)現(xiàn)出錯(cuò)的原因。

大多數(shù)機(jī)器人的運(yùn)行基于各種形式的人工智能。人工智能能夠做出類似人類的決定。這些決定可以有無限可能性，從識(shí)別對(duì)象到解釋語音。

人工智能經(jīng)過訓(xùn)練，可以根據(jù)來自大量數(shù)據(jù)集的信息為機(jī)器人做出這些決定。然后在設(shè)置任務(wù)之前測(cè)試AI的準(zhǔn)確性。

人工智能設(shè)計(jì)出不同形式。以機(jī)器人吸塵器為例，它可以被設(shè)計(jì)成當(dāng)它撞到一個(gè)表面時(shí)，它會(huì)在一個(gè)隨機(jī)的方向上重新定向。相反，它也可以設(shè)計(jì)成繪制周圍環(huán)境以尋找障礙物，覆蓋所有表面區(qū)域，然后返回充電基地。第一種方式是從其傳感器接收信息，而第二種方式是跟蹤該信息到一個(gè)內(nèi)部映射系統(tǒng)。在這兩種情況下，人工智能都在獲取信息并圍繞它做出決定。

機(jī)器人能夠做的事情越復(fù)雜，它需要解釋的信息類型就越多。它還可以評(píng)估一種類型數(shù)據(jù)的多個(gè)來源，例如在聽覺數(shù)據(jù)就可以來自實(shí)時(shí)語音、無線電和風(fēng)。

隨著機(jī)器人變得越來越復(fù)雜并且能夠根據(jù)各種信息采取行動(dòng)，確定機(jī)器人根據(jù)哪些信息采取行動(dòng)變得更加重要，尤其是在造成傷害時(shí)。

意外發(fā)生

與任何產(chǎn)品一樣，機(jī)器人可能而且確實(shí)會(huì)出錯(cuò)。有時(shí)這是一個(gè)內(nèi)部問題，例如機(jī)器人無法識(shí)別語音命令。有時(shí)它是外部的，例如機(jī)器人的傳感器損壞了。有時(shí)它可能兩者兼而有之，例如機(jī)器人并非設(shè)計(jì)用于在地毯上工作和“絆倒”。機(jī)器人事故調(diào)查必須考慮所有潛在原因。

機(jī)器人在出現(xiàn)問題時(shí)，發(fā)生損壞可能會(huì)帶來不便。但當(dāng)機(jī)器人對(duì)人造成傷害或未能減輕對(duì)人的傷害時(shí)，我們會(huì)更加擔(dān)心。例如，如果仿生手臂未能抓住熱飲，將其倒在主人身上；或者當(dāng)體弱的用戶跌倒時(shí)，護(hù)理機(jī)器人未能及時(shí)求救呼叫。

為什么機(jī)器人事故調(diào)查與人類事故調(diào)查不同？值得注意的是，機(jī)器人沒有動(dòng)機(jī)。我們需要知道機(jī)器人根據(jù)已有特定輸入集而做出該決定的原因。

在仿生手臂的例子中，是不是用戶和手之間的溝通不暢？機(jī)器人是否混淆了多個(gè)信號(hào)？意外鎖定？在人摔倒的例子中，機(jī)器人難道不能“聽到”大聲風(fēng)扇下發(fā)出的求救聲嗎？或者它在解析用戶的語音時(shí)有困難嗎？

黑匣子

機(jī)器人事故調(diào)查與人類事故調(diào)查相比有一個(gè)關(guān)鍵優(yōu)勢(shì)：內(nèi)置證人的潛力。商用飛機(jī)也有類似的見證：黑匣子，旨在抵御飛機(jī)墜毀并提供墜機(jī)原因的信息。這些信息不僅在理解事件方面非常有價(jià)值，而且在防止事件再次發(fā)生方面也非常有價(jià)值。

作為RoboTIPS項(xiàng)目的一部分，該項(xiàng)目專注于社交機(jī)器人（與人互動(dòng)的機(jī)器人）的負(fù)責(zé)任創(chuàng)新，我們創(chuàng)建了我們所謂的道德黑匣子：機(jī)器人輸入和相應(yīng)動(dòng)作的內(nèi)部記錄。道德黑匣子專為它所在的機(jī)器人類型而設(shè)計(jì)，旨在記錄機(jī)器人所作用的所有信息，其中包括語音、視覺，甚至是腦電波活動(dòng)。

我們正在實(shí)驗(yàn)室和模擬事故條件下測(cè)試各種機(jī)器人的道德黑匣子。目標(biāo)是道德黑匣子將成為所有制造和應(yīng)用機(jī)器人的標(biāo)準(zhǔn)。

雖然在發(fā)生事故時(shí)，道德黑匣子記錄的數(shù)據(jù)仍然需要后期解密，但首先擁有這些數(shù)據(jù)對(duì)于我們進(jìn)行調(diào)查至關(guān)重要。

調(diào)查過程提供了確保相同錯(cuò)誤不會(huì)發(fā)生兩次的機(jī)會(huì)。道德黑匣子不僅是制造更好機(jī)器人的一種方式，而且是在充滿活力的機(jī)器人領(lǐng)域負(fù)責(zé)任創(chuàng)新的一種方式。

本文由升哲科技編譯，轉(zhuǎn)載請(qǐng)注明。

關(guān)鍵詞： 和飛機(jī)類似 機(jī)器人事故也需要黑匣子解密