(相關資料圖)
7月6日消息，ChatGPT的開發(fā)商OpenAI最近表示，該公司計劃投入大量資源，創(chuàng)建一個新的研究團隊，以確保其人工智能對人類來說是安全的。
OpenAI聯(lián)合創(chuàng)始人表示，超級智能的巨大力量可能導致人類被剝奪權力，甚至人類滅絕。目前，我們還沒有一個解決方案來操縱或控制一個潛在的超智能人工智能，并防止它失控。
他預測，比人類更聰明的超智能人工智能可能在這個十年到來。人類需要研究比目前更好的技術來控制超級人工智能，即所謂的“對齊研究”（alignment research），該研究的重點是確保人工智能對人類有益。
研究團隊將會創(chuàng)建一個“人類水平”的AI對齊研究者，OpenAI將使用20%的計算能力來解決這個問題，并且通過大量的計算能力進行擴展。這意味著他們將使用人類反饋來訓練AI系統(tǒng)，訓練AI系統(tǒng)輔助人類評估，然后最終訓練AI系統(tǒng)進行實際的對齊研究。
關鍵詞：
![]("http://images.jumeinet.com/uploads/d-2023-06/docx_2795e1f5594d4e88b96780a21cefc3da_0.jpeg)
營業(yè)執(zhí)照公示信息