(相關(guān)資料圖)
7月6日消息,ChatGPT的開發(fā)商OpenAI最近表示,該公司計(jì)劃投入大量資源,創(chuàng)建一個(gè)新的研究團(tuán)隊(duì),以確保其人工智能對(duì)人類來說是安全的。
OpenAI聯(lián)合創(chuàng)始人表示,超級(jí)智能的巨大力量可能導(dǎo)致人類被剝奪權(quán)力,甚至人類滅絕。目前,我們還沒有一個(gè)解決方案來操縱或控制一個(gè)潛在的超智能人工智能,并防止它失控。
他預(yù)測(cè),比人類更聰明的超智能人工智能可能在這個(gè)十年到來。人類需要研究比目前更好的技術(shù)來控制超級(jí)人工智能,即所謂的“對(duì)齊研究”(alignment research),該研究的重點(diǎn)是確保人工智能對(duì)人類有益。
研究團(tuán)隊(duì)將會(huì)創(chuàng)建一個(gè)“人類水平”的AI對(duì)齊研究者,OpenAI將使用20%的計(jì)算能力來解決這個(gè)問題,并且通過大量的計(jì)算能力進(jìn)行擴(kuò)展。這意味著他們將使用人類反饋來訓(xùn)練AI系統(tǒng),訓(xùn)練AI系統(tǒng)輔助人類評(píng)估,然后最終訓(xùn)練AI系統(tǒng)進(jìn)行實(shí)際的對(duì)齊研究。
關(guān)鍵詞: