OpenAI推出ChatGPT“剋星”:可識別文章是否人工智能代筆
據報導,美國人工智能公司OpenAI過去曾經推出大受歡迎的聊天或撰稿機器人產品ChatGPT。今日,該公司在官方博文中宣布,已經推出一款新工具,能夠識別一些文字是不是人工智能軟件撰寫的。
ChatGPT這一工具是在去年11月份推出的,之後立刻在網絡上火爆一時,受到使用者稱讚歡迎。用戶可以輸入一些提示性命題文字,這一工具能夠撰寫各種文章、散文、笑話,甚至是詩歌。不過這一人工智能撰稿軟件也引發了版權和抄襲方面的質疑。
OpenAI公司新推出的產品名叫“AI分類器”(AI classifier),這一軟件使用的語言模型,經過了大量針對同一話題的人類文稿和人工智能文稿的數據訓練,能夠識別某一文稿到底是人類撰寫還是人工智能軟件生成。
OpenAI公司介紹說,這一產品背後整合了來自多家供應商的技術,能夠用於解決各種現實問題,比如軟件機器人瘋狂在社交媒體上傳播虛假信息、以及學術論文撰寫的不端行為。
這款產品目前還處在測試版階段,OpenAI公司表示,對於小於1000個字符的文章,工具的識別表現還不是太穩定。另外,人工智能撰寫的文章經過人類編輯之後,可以欺騙AI分類器。
該公司表示,將讓社會公眾使用這款新產品,希望能夠從使用者那裡獲得一些反饋信息,即這樣一款還不夠完美的人工智能產品是否能夠產生某些實際用途。
該公司表示,在學校教育行業,開發團隊意識到,要識別出學生利用人工智能軟件代筆的文章是一個十分重要的課題,同樣重要的是,需要弄清楚AI分類器對於學生文章識別判斷存在哪些不足、將產生怎樣的影響。
自從ChatGPT在網絡上受到熱捧,並獲得數百萬用戶點贊後,這引發了美國一些學區的警覺。包括紐約市在內的學區宣布,禁止學生使用這一人工智能撰稿工具,他們擔心學生會使用這一工具撰寫文章欺騙老師,或是進行抄襲剽竊。
為了幫助老師和學校識別學生的文章是否是人工智能所撰寫,行業內已經出現了第三方開發的識別工具,其中包括“GPTZeroX”。
OpenAI表示,他們正在和教育行業積極溝通,討論ChatGPT的用途或者局限性,並且將會繼續開發完善識別人工智能所撰寫文章的工具。