歐盟AI監(jiān)管太嚴 麻省理工學院科學家稱將會影響Duolingo技術(shù)創(chuàng)新

發(fā)布時間:2021-08-25 11:42:19  |  來源:智東西  

麻省理工學院的科學家表示,歐盟對人工智能的監(jiān)管提案( EU proposal to regulate AI)將會影響 Duolingo 的技術(shù)創(chuàng)新。

Duolingo 是可供免費下載的學習外語的應(yīng)用程序,目前已成為世界上學習第二語言最流行的方式。該公司在上周的 IPO 中高達 34 億美元。

歐盟在今年四月祭出了史上最嚴的人工智能監(jiān)管提案,按照風險的高低,將人工智能應(yīng)用場景分為“不可接受、高、有限、極小”四個風險等級,以保護歐盟民眾的安全和正當權(quán)利不受侵害。此次的 Duolingo 被評為了高風險等級(high-risk),原文作者認為這會影響企業(yè)對類似的教育行業(yè)(機構(gòu)/技術(shù))的投入。

一、歐盟認為該程序存在高風險

Duolingo 中有一個功能是英語測試,使用該功能需要使用到人工智能系統(tǒng)??忌恍枰裕瑑H需要一個帶有攝像頭的聯(lián)網(wǎng)設(shè)備,在經(jīng)過一個小時的考試之后就能完成測試。測試可以防止欺詐行為(攝像頭的作用),并評估(考生的)讀寫能力、會話和理解能力。該英語測試會在 2 天內(nèi)出結(jié)果,而且成本不到 50 美元。

歐盟的一項提案將使用人工智能“評估參加教育機構(gòu)一般測試的考生”的系統(tǒng)歸入高風險的類別。這個標簽適用于在測試中使用人工智能的情況,例如個性化測試(即時生成適合考生技能水平的問題)和評分。這意味著 Duolingo 將會受到該提案的影響,有可能募資減少。

二、高風險標簽阻礙了市場投資

在歐盟的人工智能監(jiān)管提案通過后,高風險人工智能系統(tǒng)的供應(yīng)商(如果想進入市場)將必須根據(jù)歐盟提案中的規(guī)則,采取一系列的步驟:數(shù)據(jù)和數(shù)據(jù)治理、透明度、監(jiān)督、穩(wěn)健性、準確性和安全性等。該提案涵蓋了對高風險人工智能系統(tǒng)的 10 頁要求及其供應(yīng)商應(yīng)盡的義務(wù)。

原作者認為,在高風險應(yīng)用領(lǐng)域,基本上所有的科技企業(yè)家和投資者都會抵制(反感)這些昂貴且耗時的要求,并將他們的精力投入到其他的應(yīng)用領(lǐng)域中。在此情況下,歐盟將在重要活動等方面的技術(shù)創(chuàng)新減少。但歐洲民眾也都知道,人工智能需要長久的研究時間(人工智能的研究不是一蹴而就的)。這將會影響歐洲部分企業(yè)的競爭力。

三、讓門外漢也能創(chuàng)新

越來越強大的科技創(chuàng)新影響了民眾的生活,甚至有些可能已經(jīng)“越界”。一所學校認為,某些技術(shù)可能過于強大(影響了歐盟民眾的安全),因此需要大量的預(yù)先規(guī)劃(討論)和持續(xù)監(jiān)督。這是“上游治理(upstream governance)”方法,歐盟提議的人工智能提案就是一個典型的例子。

另一種方法通常被稱為“未授權(quán)的創(chuàng)新(unauthorized innovation)”。該方法允許即使是小型的創(chuàng)業(yè)團隊或者預(yù)算有限的門外漢(outsider)都可以進行嘗試創(chuàng)新并改進產(chǎn)品(比如一開始的 Duolingo)。

原作者認為這是推動創(chuàng)新的最佳方式,讓創(chuàng)新者的發(fā)揮空間受限或者要求他們承擔前期的高昂成本并不是個好主意,這將導致(創(chuàng)新)的步伐放緩,成功的案例也有可能變少。

結(jié)語:嚴管不利于科技創(chuàng)新

隨著歐盟的《通用數(shù)據(jù)保護條例(General Data Protection Regulation)》于 2018 年 5 月生效,谷歌的市場份額有所增加,企業(yè)在歐洲的投資有所減少。原作者分析該現(xiàn)象后認為,歐盟對人工智能進行監(jiān)管提議將會阻礙歐盟的科技創(chuàng)新。

科技是在不斷發(fā)展的,有些時候過于強大導致了民眾對于科技的抗拒心理。但科技創(chuàng)新發(fā)展和民眾的安全不應(yīng)該是二分法,如何取得兩邊的平衡點將是未來治理的關(guān)鍵。

關(guān)鍵詞: 歐盟AI 監(jiān)管 麻省理工 科學家

 

網(wǎng)站介紹  |  版權(quán)說明  |  聯(lián)系我們  |  網(wǎng)站地圖 

星際派備案號:京ICP備2022016840號-16 營業(yè)執(zhí)照公示信息版權(quán)所有 郵箱聯(lián)系:920 891 263@qq.com