白宮要求AI技術公司承諾打擊基於圖像的性虐待行為
白宮宣布,它已獲得人工智慧模型開發者和數據提供者的”自願承諾”,以努力減少人工智慧生成的性虐待圖像數量。白宮從OpenAI 和微軟等幾家大型人工智慧公司獲得了這些承諾。白宮表示,Adobe、Anthropic、Cohere、Common Crawl、微軟和OpenAI 已承諾負責任地購買其資料集,並保護其用戶免受圖像性侵犯。
Adobe、Anthropic、Cohere、微軟和OpenAI 也承諾使用反饋循環和迭代壓力測試來防止其模型輸出基於圖像的性虐待。除Cohere 外,所有這些公司還承諾從人工智慧訓練資料集中刪除裸體圖像。
拜登-哈里斯政府也宣布,其他大型科技公司正在實施以下措施:
- Cash App 和Square 正在遏制為製作、唆使或發布圖像性虐待的公司提供支付服務,包括透過對資源、系統和合作夥伴關係的額外投資來偵測和減少對影像性虐待的支付。
- Cash App 和Square 承諾擴大對行業團體和倡議的參與,這些團體和倡議支持信號共享,以偵測色情勒索和其他已知的基於圖像的性虐待形式,從而幫助偵測和限制支付服務。
- Google繼續在其平台上採取行動,解決基於圖像的性虐待問題,包括在7 月對其搜尋引擎進行更新,以進一步打擊未經同意的親密圖像。
- 微軟旗下公司GitHub 已更新其政策,禁止分享以任何方式設計、鼓勵、促進、支持或暗示使用合成或操縱媒體來創建未經同意的親密圖像的軟體工具。
- 微軟正在與StopNCII.org合作進行試點工作,以檢測必應搜尋結果中與倖存者報告的未經同意的親密圖像的重複內容並將其從清單中刪除;開發新的公共服務公告,為受害者和倖存者推廣有關基於圖像的性虐待的可信、權威資源;並繼續在其搜尋引擎中降級低品質內容。
- Meta 繼續禁止在其平台上推廣產生基於圖像的性虐待的應用程式或服務,並已將StopNCII 和TakeItDown 等解決方案直接納入其報告系統,也宣布已在7 月刪除了約63000 個試圖從事性勒索的Instagram 帳戶。 Meta 最近也擴大了與Tech Coalition 的現有合作關係,包括透過Lantern 計畫分享有關色情資訊勒索活動的訊號,幫助在更廣泛的網路範圍內破壞這種犯罪活動。
- Snap Inc. 承諾透過應用程式內工具和網站加強報告流程,並為基於圖像的性虐待倖存者提供更多資源。
白宮表示,為確保公司繼續關注這一問題,包括民主與技術中心在內的民間社會組織正計劃成立一個多方利益相關者工作小組,幫助確定預防和減輕圖像性虐待傷害的干預措施。
此外,一些公司還承諾遵守Thorn 和All Tech is Human 提出的”設計安全”準則,該準則旨在打擊濫用基因人工智慧傳播兒童性虐待材料的行為。 Thorn 將於今年稍晚發布第一輪透明度報告,如果立法者需要對科技公司施加更大壓力,可以參考這些報告。