华侨网 科技教育 ChatGPT「剋星」來了 可辨識AI代筆

ChatGPT「剋星」來了 可辨識AI代筆

圖:部分學校為防止學生作弊,宣布禁止使用ChatGPT。\網絡圖片

綜合路透社、《衛報》報道:人工智能(AI)聊天機器人模型ChatGPT在去年11月份問世後,憑藉強大的文本處理能力一鳴驚人,但引發學生使用該工具作弊的討論,部分地區學校直接宣布禁止使用該工具。1月31日,ChatGPT的母公司OpenAI發布了可檢測區分「人類作品」和「AI」生成文本的「ChatGPT檢測器」,號稱為ChatGPT「剋星」,但目前成功率僅為26%。

  OpenAI在1月31日發布了「ChatGPT檢測器」,可用於檢測「人類作品」和「AI」生成文本。據報道,「ChatGPT檢測器」旨在識別自家的ChatGPT、GPT-3等模型生成的內容,以處理「自動生成的假消息以及學術抄襲」等問題。

  OpenAI首席CEO阿特曼表示,OpenAI打算協助開發幫助學校分辨「AI作弊」的方法,但是並不保證100%都能抓出來。同時,OpenAI也表示,正在與教育工作者合作,討論ChatGPT的局限性,並將繼續致力於檢測「AI」生成文本。

  錯把莎士比亞作品當AI

  據報道,該檢測器1秒便可以針對輸入的文本給出結果。同時,還會將是否由AI生成文字的評估結果分成5類:非常不可能、不太可能、不清楚、可能、很可能。不過,知名AI研究人員拉施卡用莎士比亞作品做測試,結果卻被判為「很可能是AI生成的」。

  OpenAI也坦言,AI文本分類器還有很多局限性。「ChatGPT檢測器」目前並「不完全可靠」,尤其在低於1000個字符的文本上。據官方公布數據表明,其成功識別「AI」生成內容的可能性僅為26%,還有9%的可能性會將「人類」創作的文本當成「AI」生成內容。

  這並不是首個「AI」生成文本檢測器。美國普林斯頓大學學生愛德華.田此前也推出了「GPTZero」,能夠有效地檢查文章是否為AI程式ChatGPT撰寫。同樣,而美國史丹福大學亦研究出可檢測「AI」生成文本的「DetectGPT」。

  近九成學生曾使用ChatGPT作弊

  隨着AI生成文字技術發展,學界對其用於作弊或者論文造假表示擔憂。美國和歐洲部分學校已明確禁止學生使用ChatGPT。紐約市教育局1月便宣布,禁止在所有的設備和網絡上使用ChatGPT。

  根據Study.com向100多名教師和1000多名學生進行的調查中,發現超過89%的學生都曾使用過ChatGPT幫助他們完成作業。但也有72%的大學生和34%的教師認為,應該在學校內禁止使用ChatGPT,以防出現作弊與抄襲等學術不端事件。

  雖然ChatGPT的出現掀起了有關作弊的爭議,但它的出現或會加速AI世代的發展速度。據悉,為了應對ChatGPT的出現,Google內部傳出正在測試一款聊天機器人「Apprentice Bard」,被認為是ChatGPT的未來競爭對手。

免责声明:本文仅代表作者个人观点,与华侨网无关联。其原创性及文中陈诉内容未经本网证实,对本文内容、文字的完整、真实性,以及时效性本网部作任何承诺,请读者自行核实相关内容。如发现稿件侵权,或作者无意愿在华侨网发布文章,请版权拥有者通知华侨网处理。

「末日鐘」被撥快10秒 歷來最接近末日午夜

全球最受歡迎網站20年變遷


联系我们

联系我们

514-3979969

邮箱: cpress@chinesepress.com

工作时间:周一至周五 10:00-16:00,节假日休息
关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部