生成式人工智慧服務在網路使用者和網路犯罪分子中都大受歡迎。 據美國聯邦調查局（FBI）稱，”合成”內容正越來越多地被用於實施各種欺詐行為。 不過，只要採取正確的預防措施，個人仍然可以有效地保護自己的網路安全。

美國聯邦調查局（FBI）已就濫用人工智慧生成技術的犯罪行為發出警告。 在最近發布的公共服務公告中，該局警告美國人，詐欺者正在利用人工智慧產生的內容來使他們的非法計劃更有說服力和更有效。

據聯邦調查局稱，生成式人工智慧使犯罪分子能夠減少欺騙目標所需的時間和精力。 這些人工智慧工具根據使用者輸入的提示”合成”全新的內容。 它們甚至可以幫助糾正可能會引起懷疑的人為錯誤，尤其是在人工智慧生成的文本中。

用人工智慧創建內容本質上並不違法，但當這些內容被用於欺詐或勒索企圖時，就變成了犯罪。 聯邦調查局的警報概述了生成式人工智慧如何被濫用的幾個例子，並提供了實用建議，以幫助用戶保護自己的網路安全。

在社交工程或魚叉式網路釣魚活動中，人工智慧生成的文字看起來極具說服力。 詐欺者正在利用人工智慧生成技術製作大量虛假內容、創建虛假社交媒體資料、發送訊息，並以更高的準確性和更少的語法錯誤翻譯語言。 現在，整個詐騙網站可以在創紀錄的時間內建立，聊天機器人也被用來誘騙受害者點擊惡意連結。

毫無疑問，人工智慧生成的圖像是當前趨勢的前沿，網路犯罪分子正在充分利用它們。 詐欺者正在使用人工智慧生成的視覺效果來增強虛假社交媒體資料和偽造身分證件，從而支援詐欺活動。 據聯邦調查局稱，人工智慧演算法可以產生”逼真”的圖像，這些圖像正被用於社交工程活動、魚叉式網路釣魚、詐騙甚至”殺豬盤」。

人工智慧產生的音訊和視訊內容也會帶來類似的風險。 現在，犯罪分子可以冒充公眾人物甚至目標人物本人，要求提供經濟援助或取得銀行帳戶等敏感資訊。

聯邦調查局建議用戶與可信賴的家人和朋友建立一個”密語”或短語，作為驗證身份的快速方法。 防範生成式人工智慧犯罪的其他提示包括仔細檢查影像和影片是否有異常或不一致之處，以及盡量減少個人影像或錄音在網路上的可近性。

在處理金融請求時，聯邦調查局強調透過直接電話而不是依賴文字或電子郵件來驗證其合法性的重要性。 切勿與只在網路上認識的人分享敏感資訊。 雖然這似乎顯而易見，但聯邦調查局也重申，在網路上向陌生人發送金錢、禮品卡或加密貨幣具有很高的風險，往往會遭遇詐騙。