為了防止人工智能（AI）生成的錯誤信息的傳播和濫用，也為了履行自己的承諾和義務。在周二的谷歌年度雲會議上，該公司發布了一個名為SynthID的新工具：嵌入不可見的永久性水印，以表明圖像是由人工智能創建的。

據悉，這項名為SynthID的技術將水印直接嵌入到Imagen生成的圖像中，Imagen是谷歌最新的人工智能圖像生成器之一。之後，無論裁剪、添加過濾器或改變顏色以及使用各種有損壓縮方案，被添加到圖像中的水印都將無法去除，以便於人們區分真實和虛假的內容。

當然，SynthID工具也可以掃描傳入的圖像，從而評估圖像是由Imagen生成的可能性。這項功能由人工智能實驗室Google DeepMind的技術提供支持。

不過，SynthID並不能保證水印可以萬無一失地抵禦極端圖像處理，但它提供了一種有用的技術方法，使人們能夠負責任地使用人工智能生成的內容。研究團隊表示之後可能還會面向音頻、視頻和文本等模態推出類似的工具。

谷歌聲明稱：“雖然這項技術並不完美，但我們的內部測試表明，它對許多常見的圖像處理都是準確的。”該公司表示，目前SynthID只能在谷歌云平台上使用，主要針對使用Vertex AI平台和Imagen圖像生成器的客戶，但SynthID技術將繼續發展下去，並可能擴展到谷歌其他產品或第三方產品。

谷歌DeepMind首席執行官Demis Hassabis表示，SynthID是為了解決深度偽造等問題而開發的，在2024年美國即將舉行大選的背景下，建立人工智能圖像識別系統是非常重要的。

隨著深度偽造和編輯過的圖像、視頻變得越來越逼真，科技公司正在爭先恐後地尋找一種可靠的方式來識別和標記被操縱的內容。

在上個月底，美國白宮發佈公告稱，已與大型科技公司達成協議，為人工智能的開發設置更多防護措施，包括開發水印系統等，來控制誤導信息的傳播和其他風險。白宮表示，亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI七家主要人工智能公司做出自願承諾，以公眾安全、系統網絡安全和獲取社會信任作為人工智能開發的三大原則。

在SynthID發布之前，Truepic和Reality Defender等公司也在試圖尋找解決方案，這也說明了這項工作的潛在風險和必要性。

OpenAI公司今年早些時候推出了一個工具，旨在弄清文本是人類還是計算機寫的。但該公司表示，他們檢測人工智能生成的文字的能力是“不完美”，需要繼續進行優化。