全球快訊:科技日報專訪｜梁正：如何監(jiān)管“出圈”的ChatGPT？

點擊藍字

關注我們

梁正

(資料圖片)

清華大學人工智能國際治理研究院副院長、人工智能治理研究中心主任、中國科技政策研究中心副主任、公共管理學院教授

# 專家金句 #

1、對于這項新興技術來講，跟過去不一樣的地方就是不能一下子就把標準定死，或者法律就已經(jīng)非常明確。可能要給它留有一定的空間，根據(jù)發(fā)展變化來進行調整，這就是我們講的敏捷治理。

2、我們從源頭上控制，比如說它的語料，它的數(shù)據(jù)的質量。你可能要有一個標簽，然后來提示大家，這個內容可能不是人工的，可能是機器生成的。

3、我們要重新考慮人和技術的關系，可以更多地從如何與技術共處、合作的角度去考慮，而不要一上來就考慮人工智能對我們的替代。

4、我覺得從人的角度來講，起碼現(xiàn)在你不用太擔心人工智能好像完全失控了，在你不知情的情況下就已經(jīng)接管（人類）了，其實還遠遠沒有到這個程度。

如何監(jiān)管新興技術？

ChatGPT它其實是一個比較典型的，我們所說的一種新興的技術。現(xiàn)在對于新興技術來講，其實跟過去不一樣的地方就是不能一下子就把標準定死，或者法律就已經(jīng)非常明確?？赡芤o它留有一定的空間，根據(jù)發(fā)展變化來進行調整，這是我們講的叫靈活的敏捷的治理（敏捷治理）。

除了這個以外，可能大家也知道我們在人工智能治理里，現(xiàn)在也有一些叫做沙箱監(jiān)管，這個概念實際上是說我們限定它的使用范圍，在某個范圍內是可以使用的，或者叫限定人群，限定目的。一些比較敏感的領域，我們暫時可能先不去大規(guī)模地應用，當條件成熟了以后再進行推廣。

還有一些是說我們從源頭上控制，比如說它的語料，它的數(shù)據(jù)的質量。你可能要有一個標簽，然后來提示大家，這個內容可能不是人工的，可能是機器生成的。

比如說歐洲在人工智能法案里邊，它對于一些高風險場景也是這么去界定，有些紅線是不能碰的。具體是哪個技術最后去實現(xiàn)了應用，可能用什么樣的方式去解決，我覺得更大程度上是行業(yè)去探索的一個結果。行業(yè)的自我規(guī)范是非常重要的。

人和技術之間的關系需重新考慮

特別是生成式AI，現(xiàn)在可能我們關注的監(jiān)管這個問題，都是所謂叫做“近憂”了，“憂”可能就是我們現(xiàn)在眼前就能夠看到包括工作的替代，然后造假的問題，但是我們也應該考慮一下，可能是叫做“遠慮”，我們叫做人際關系的重新處理，我覺得現(xiàn)在可能在很多AI這個領域都面臨這個問題。

我們要重新考慮人和技術的關系，可以更多地從如何與技術共處、合作的角度去考慮，而不要一上來就考慮說它（人工智能）對我們的替代，某種程度上我們要接受，但是我們要找到合作的方式。

人工智能還遠不會無序擴張

那么關于AI會不會在很大范圍內無序、自我地擴張，可能失控，我覺得主要取決于人，其實還是在于我們會去選擇它能夠發(fā)揮什么樣的作用，它一定是說可以做得更好，會把我們從一些復雜的重復的工作當中解放出來，這樣我們才會給它，等于賦予它這樣的權利。所以我覺得從人的角度來講，起碼現(xiàn)在你不用太擔心人工智能好像完全失控了，在你不知情的情況下就已經(jīng)接管（人類）了，其實還遠遠沒有到這個程度。

關鍵詞： 科技日報專訪｜梁正如何監(jiān)管出圈的ChatGPT 人工智能