網絡安全公司SlashNext發現的一系列證據顯示，網絡上出現不少出於非法目的開發的人工智能聊天機器人。它們正在讓網絡犯罪變得更容易、更頻繁。人工智能聊天機器人ChatGPT帶來的負面影響或許就是文章抄襲，但一些非法聊天機器人的做法要壞得多。

網絡上開始出現不少出於不法目的開發的聊天機器人。就像ChatGPT一樣，人們只需支付少量的月費或一次性費用就可以獲得訪問權限。

從技術層面講，這些語言學習模型實際上是為網絡騙子提供的工具箱。網絡安全公司SlashNext表示，一些聊天機器人都有可能通過非常有可信度的圖像製造網絡釣魚騙局和虛假短消息。SlashNext發現的一系列證據表明，有聊天機器人以每個3美元的價格向冒充學術機構的騙子非法出售“.edu”後綴的電子郵件地址。網絡騙子常常用這些電子郵件地址非法獲取亞馬遜等電商平台上的學生交易和折扣服務。另一種通過非法聊天機器人實施的詐騙方式是，騙子通過偽裝成銀行等受信任實體來索取用戶的銀行信息。市場諮詢公司AI Leaders人工智能策略師麗莎·帕爾默（Lisa Palmer）警告稱，這類騙局並不是什麼新鮮事。但因為人工智能的存在，讓騙子搞詐騙比以往任何時候都更方便了。帕爾默，“這成了可以大規模個性化的犯罪活動。騙子可以為成千上萬的目標受害者創建高度個性化的活動，而不再是一次創建一個。”她補充說，現在很容易製作深度偽造的欺詐性音視頻內容。此外，這些攻擊不只是給老年人和不太懂技術的人構成威脅。帕爾默說：“由於這類模型都是通過大量公開數據進行訓練的，它們可以用來尋找有關特定組織的模式和信息。”“它可能會收集有關特定企業的信息，後續要求贖金或攻擊企業名聲。”帕爾默還表示：“想想身份盜用之類的事情。這些人工智能還能夠出於身份盜用的目的發動網絡攻擊。”“它們在很大程度上是高度個性化的，可能會讓犯罪手段更專業。”對那些非法使用人工智能的不法分子伸張正義也並非易事。帕爾默說：“對於那些複雜的組織來說，要抓住他們是非常困難的。”“另一方面，也有一些新的不法分子會因為語言模型的出現從事犯罪活動，因為這種技術使沒有高科技技能的人更容易進入非法行業。”