最近，包含露骨內容的流行歌手泰勒絲（Taylor Swift）的深度偽造圖片充斥網路。一些報導稱，這些圖片是有人使用微軟Designer 製作的。微軟官方表示沒有看到這方面的證據，但補充說已經對產品設計進行了修改，”以加強我們的文本過濾提示，並解決濫用我們服務的問題”。

今天，微軟總裁布拉德史密斯（Brad Smith）在公司官方部落格上發表了一篇文章。雖然他沒有提到泰勒絲（Taylor Swift）的深度偽造圖片，也沒有提到據稱在創建這些圖片時使用了微軟Designer，但史密斯表示，公司看到”壞人濫用這些新人工智慧工具的現象正在迅速擴大”。

史密斯概述了微軟將重點關注的六個具體領域，以打擊這類”濫用人工智慧生成的內容”。首先是透過阻止特定文字提示、測試和快速禁止濫用這些工具的使用者等活動，幫助提高這些工具的安全使用。

微軟正在研究的另一個領域是幫助識別人工智慧產生的內容。史密斯表示：我們已經在必應和Copilot 的Microsoft Designer 圖像創建工具中使用了出處技術，我們正在將媒體出處擴展到我們所有創建或處理圖像的工具中。公司正在研究未來的”浮水印和指紋技術”，並努力從LinkedIn 等服務和Xbox 等遊戲服務中刪除濫用人工智慧的內容。

史密斯說，微軟還希望與科技業的其他企業以及執法部門合作，共同打擊基於人工智慧的深度偽造行為，希望與世界各國政府合作制定新的法律來禁止此類內容。

同時，微軟希望幫助教育大眾識別為欺騙人們而製作的深度偽造內容，這”需要新的公眾教育工具和計劃”，向他們展示哪些內容是真實的，哪些是虛假的。

部落格全文翻譯如下：

每天，數以百萬計的人使用強大的人工智慧產生工具來提升他們的創造力。在許多方面，人工智慧將為我們所有人創造令人興奮的機會，讓新創意煥發生機。但是，隨著這些新工具從微軟和整個科技領域推向市場，我們必須採取新的措施，確保這些新技術不會被濫用。

科技發展史早已證明，創造力並不限於懷有良好願望的人。不幸的是，工具也會變成武器，而這種模式正在重演。目前，我們正目睹壞人濫用這些新的人工智慧工具，包括透過人工智慧生成的視訊、音訊和影像進行深度偽造的行為迅速擴張。這一趨勢對選舉、金融詐欺、非自願色情騷擾以及新一代網路霸凌構成了新的威脅。

我們需要緊急行動起來，解決所有這些問題。

令人鼓舞的是，作為一個行業，我們可以從鄰近領域的經驗中學到很多東西——在推進網路安全、促進選舉安全、打擊暴力極端主義內容和保護兒童方面。作為一家科技公司，我們致力於在六個重點領域採取強有力的綜合方法，保護人民和我們的社區：

1. 強大的安全架構。我們致力於採用以設計安全為基礎的綜合技術方法。根據不同的場景，需要在人工智慧平台、模型和應用層面應用強大的安全架構。它包括持續的紅隊分析、先發製人的分類器、阻止濫用提示、自動測試以及快速禁止濫用系統的用戶等方面。它需要以強大而廣泛的數據分析為基礎。微軟已經建立了完善的架構，並透過我們的《負責任的人工智慧和數位安全標準》分享了我們的學習成果，但隨著技術的發展，我們顯然需要在這些領域繼續創新。
2. 持久的媒體來源和浮水印。這對於打擊影片、影像或音訊中的深度偽造至關重要。去年，我們在Build 2023 大會上發布了媒體來源功能，該功能使用加密方法對人工智慧生成的內容進行標記和簽名，並附帶有關其來源和歷史的元資料。微軟與其他領先公司一起，一直是驗證出處方法研發領域的領導者，包括作為原產地專案（Project Origin）和內容來源與真實性聯盟（Coalition for Content Provenance and Authenticity，C2PA）標準機構的共同創始人。就在上週，Google和Meta 在支持C2PA 方面邁出了重要的一步，我們對此表示讚賞和稱讚。我們已經在必應和Copilot 中的Microsoft Designer圖像創建工具中使用了出處技術，我們正在將媒體來源擴展到我們所有創建或處理圖像的工具中。我們也正在積極探索有助於加強來源技術的浮水印和指紋技術。我們致力於不斷創新，幫助用戶快速確定圖像或影片是否由人工智慧產生或處理。
3. 保護我們的服務免受辱罵內容和行為的侵害。我們致力於保障言論自由。但這不應該保護那些試圖偽造他人聲音以詐騙老年人錢財的個人。這不應延伸至篡改政治候選人的行為或言論以欺騙公眾的深度偽造行為。它也不應庇護網路惡霸或未經同意的色情製品的傳播者。我們致力於識別並刪除我們託管的消費者服務（如LinkedIn、我們的遊戲網路和其他相關服務）中的此類欺騙性和濫用性內容。
4. 跨產業以及與政府和民間社會的緊密合作。雖然每家公司都要對自己的產品和服務負責，但經驗表明，當我們共同努力建立一個更安全的數位生態系統時，我們的工作往往會做得最好。我們致力於與科技領域的其他公司合作，包括在生成式人工智慧和社交媒體領域。我們也致力於與民間團體積極合作，並與政府進行適當的合作。在前進的道路上，我們將借鑒我們在《克賴斯特徹奇呼籲》中打擊暴力極端主義的經驗，透過數位犯罪部門與執法部門合作，以及透過「我們保護全球聯盟」和更廣泛的方式更好地保護兒童。我們致力於在整個技術部門並與其他利益相關團體一起採取新的措施。
5. 推動立法，保護人們免受技術濫用之害。顯然，其中一些新威脅需要製定新的法律和執法部門做出新的努力。我們期待獻計獻策，支持世界各國政府的新舉措，從而更好地保護人們的網路安全，同時尊重保護言論自由和個人隱私等永恆的價值。
6. 公眾意識和教育。最後，強大的國防需要公眾的充分知情。隨著²¹世紀第二季度的到來，大多數人都已認識到，不能相信在網路（或其他任何地方）上讀到的一切。好奇心和懷疑精神的完美結合是每個人的重要生活技能。

同樣，我們需要幫助人們認識到，不能輕易相信你看到的每一個影片或聽到的每一個音訊。我們需要幫助人們學習如何辨別合法內容和虛假內容的區別，包括水印。這將需要新的公眾教育工具和計劃，包括與民間社會和全社會的領導人密切合作。

歸根結底，這一切都不容易。這需要我們每天付出艱苦但不可或缺的努力。但是，只要我們共同致力於創新與合作，我們相信，我們一定能夠齊心協力，確保科技在保護公眾的能力方面保持領先。這或許比以往任何時候都更應該成為我們的集體目標。