麻省理工學院的科學家表示，歐盟對人工智能的監(jiān)管提案( EU proposal to regulate AI)將會影響 Duolingo 的技術(shù)創(chuàng)新。
Duolingo 是可供免費下載的學習外語的應(yīng)用程序，目前已成為世界上學習第二語言最流行的方式。該公司在上周的 IPO 中高達 34 億美元。
歐盟在今年四月祭出了史上最嚴的人工智能監(jiān)管提案，按照風險的高低，將人工智能應(yīng)用場景分為“不可接受、高、有限、極小”四個風險等級，以保護歐盟民眾的安全和正當權(quán)利不受侵害。此次的 Duolingo 被評為了高風險等級(high-risk)，原文作者認為這會影響企業(yè)對類似的教育行業(yè)(機構(gòu)/技術(shù))的投入。
一、歐盟認為該程序存在高風險
Duolingo 中有一個功能是英語測試，使用該功能需要使用到人工智能系統(tǒng)?？忌恍枰裕瑑H需要一個帶有攝像頭的聯(lián)網(wǎng)設(shè)備，在經(jīng)過一個小時的考試之后就能完成測試。測試可以防止欺詐行為(攝像頭的作用)，并評估(考生的)讀寫能力、會話和理解能力。該英語測試會在 2 天內(nèi)出結(jié)果，而且成本不到 50 美元。
歐盟的一項提案將使用人工智能“評估參加教育機構(gòu)一般測試的考生”的系統(tǒng)歸入高風險的類別。這個標簽適用于在測試中使用人工智能的情況，例如個性化測試(即時生成適合考生技能水平的問題)和評分。這意味著 Duolingo 將會受到該提案的影響，有可能募資減少。
二、高風險標簽阻礙了市場投資
在歐盟的人工智能監(jiān)管提案通過后，高風險人工智能系統(tǒng)的供應(yīng)商(如果想進入市場)將必須根據(jù)歐盟提案中的規(guī)則，采取一系列的步驟：數(shù)據(jù)和數(shù)據(jù)治理、透明度、監(jiān)督、穩(wěn)健性、準確性和安全性等。該提案涵蓋了對高風險人工智能系統(tǒng)的 10 頁要求及其供應(yīng)商應(yīng)盡的義務(wù)。
原作者認為，在高風險應(yīng)用領(lǐng)域，基本上所有的科技企業(yè)家和投資者都會抵制(反感)這些昂貴且耗時的要求，并將他們的精力投入到其他的應(yīng)用領(lǐng)域中。在此情況下，歐盟將在重要活動等方面的技術(shù)創(chuàng)新減少。但歐洲民眾也都知道，人工智能需要長久的研究時間(人工智能的研究不是一蹴而就的)。這將會影響歐洲部分企業(yè)的競爭力。
三、讓門外漢也能創(chuàng)新
越來越強大的科技創(chuàng)新影響了民眾的生活，甚至有些可能已經(jīng)“越界”。一所學校認為，某些技術(shù)可能過于強大(影響了歐盟民眾的安全)，因此需要大量的預(yù)先規(guī)劃(討論)和持續(xù)監(jiān)督。這是“上游治理(upstream governance)”方法，歐盟提議的人工智能提案就是一個典型的例子。
另一種方法通常被稱為“未授權(quán)的創(chuàng)新(unauthorized innovation)”。該方法允許即使是小型的創(chuàng)業(yè)團隊或者預(yù)算有限的門外漢(outsider)都可以進行嘗試創(chuàng)新并改進產(chǎn)品(比如一開始的 Duolingo)。
原作者認為這是推動創(chuàng)新的最佳方式，讓創(chuàng)新者的發(fā)揮空間受限或者要求他們承擔前期的高昂成本并不是個好主意，這將導致(創(chuàng)新)的步伐放緩，成功的案例也有可能變少。
結(jié)語：嚴管不利于科技創(chuàng)新
隨著歐盟的《通用數(shù)據(jù)保護條例(General Data Protection Regulation)》于 2018 年 5 月生效，谷歌的市場份額有所增加，企業(yè)在歐洲的投資有所減少。原作者分析該現(xiàn)象后認為，歐盟對人工智能進行監(jiān)管提議將會阻礙歐盟的科技創(chuàng)新。
科技是在不斷發(fā)展的，有些時候過于強大導致了民眾對于科技的抗拒心理。但科技創(chuàng)新發(fā)展和民眾的安全不應(yīng)該是二分法，如何取得兩邊的平衡點將是未來治理的關(guān)鍵。
營業(yè)執(zhí)照公示信息