學(xué)生們得自己寫作業(yè)了 ChatGPT新功能將能夠識別創(chuàng)作者

(相關(guān)資料圖)

ChatGPT

北京時(shí)間2月1日消息，聊天機(jī)器人ChatGPT在爆紅的同時(shí)也遭到了濫用。一些學(xué)生偷懶利用它寫作業(yè)或論文，這讓老師們頭疼不已。不過，ChatGPT開發(fā)商OpenAI在周二發(fā)布了一款工具，旨在協(xié)助顯示文本是否由人工智能(AI)程序編寫并偽裝成人類。

這項(xiàng)工具名為“分類器”(classifier)，它能標(biāo)記出OpenAI產(chǎn)品以及其他AI創(chuàng)作軟件編寫的內(nèi)容。不過，OpenAI表示，“它仍有許多局限性，因此應(yīng)該作為其他確定文本來源方法的補(bǔ)充，而不是作為主要確定工具”。根據(jù)OpenAI的評估，只有26%的AI編寫的文本被“分類器”正確識別。它還錯(cuò)誤標(biāo)記了9%的人類寫作文本是由AI編寫的。

OpenAI在周二的一份聲明中稱，新工具將作為網(wǎng)絡(luò)應(yīng)用和其他一些資源提供給教師。ChatGPT的流行引發(fā)了人們對作者身份的擔(dān)憂，因?yàn)閷W(xué)生和員工使用機(jī)器人來創(chuàng)建報(bào)告和內(nèi)容，并將其偽裝成自己的。這也引發(fā)了人們對自動(dòng)生成錯(cuò)誤信息活動(dòng)便利性的擔(dān)憂。

OpenAI在一篇博客文章中表示：“雖然無法可靠地檢測出所有AI編寫的文本，但我們相信，好的分類器可以幫助緩解AI生成的文本是由人類編寫的虛假聲明：例如，發(fā)動(dòng)自動(dòng)錯(cuò)誤信息運(yùn)動(dòng)，使用AI工具進(jìn)行學(xué)術(shù)欺詐，以及將AI聊天機(jī)器人定位為人類?！?/p>

自去年11月ChatGPT發(fā)布以來，教師們尤其在疲于應(yīng)對它的流行。學(xué)生們很快意識到，這個(gè)工具可以生成學(xué)期論文和總結(jié)材料，盡管偶爾會插入明顯的錯(cuò)誤。

本月早些時(shí)候，普林斯頓大學(xué)的學(xué)生愛德華·田(Edward Tian)發(fā)布了一款名為GPTZero的應(yīng)用。他說，他在新年期間編寫了這款程序來檢測AI寫作。賓夕法尼亞大學(xué)沃頓商學(xué)院教授伊?！つ锟?Ethan Mollick)為他的課程制定了一項(xiàng)AI政策，允許學(xué)生使用ChatGPT，只要他們描述他們使用該程序的目的和使用方式。

與此同時(shí)，紐約市的公立學(xué)校已經(jīng)禁止使用ChatGPT，國際機(jī)器學(xué)習(xí)大會(ICML)也采取了同樣措施，除非在特定情況下。ICML在其倫理聲明中指出，“禁止包含由大型語言模型(LLM)生成的文本的論文，例如ChatGPT，除非這些生成的文本是作為論文實(shí)驗(yàn)分析的一部分呈現(xiàn)”。

【來源：鳳凰網(wǎng)科技】

關(guān)鍵詞： 學(xué)生們得自己寫作業(yè)了 ChatGPT新功能將能夠識別創(chuàng)作者