隨著AI技術快步邁入大規模應用的階段，科技遭惡意濫用的問題再度浮上水面。前陣子一度引發微博熱議的“一鍵修圖變成一鍵去衣”，正在美國以更惡意的形式上演。

根據美國科技媒體404 Media週五報導，在該媒體的推動下，蘋果、谷歌分別從應用商店內下架了多款標榜能夠進行「一鍵去衣」的應用。真正的問題在於，包括收廣告費推廣這些應用程式的Meta在內，這些網路巨頭似乎並不能自行找到這些違反其政策的應用程式。

惡意AI應用“登堂入室”

報導稱，透過比對Meta平台的廣告資料庫，404 Media找到一系列推廣「一鍵去衣」軟體的廣告，投放記錄顯示宣傳這些惡意AI軟體的廣告曾在3、4月間，在Meta旗下的多款社群媒體平台上投放。

這類軟體標榜的功能，正是可以上傳真人照片，並且可以“一鍵擦除任意衣服”，開發者透過收費來牟利。

更令人震驚的是，這類軟體並不是存活在網路的陰暗角落中，而是正大光明地出現在蘋果應用商店裡。當用戶點擊社群媒體上的廣告後，會直接跳到蘋果應用程式商店。在商店裡的應用被偽裝成了AI藝術生成器，並沒有透露應用背後的實際用處（因為這肯定違反應用商店政策）。

在本週這件事情被曝光前，這些廣告仍一直在Meta的社群平台上掛著，非法應用程式也一直混跡在蘋果、谷歌的應用程式商店裡。

接到舉報後，Meta找到爆料的媒體，請他們“將所有看到的廣告連結發給他們”，並迅速下架刪除。該公司發言人Daniel Roberts隨後表示，Meta不允許有成人內容的廣告，一旦發現會迅速刪除。公司接下來將加強審查力度，並對違反政策的帳戶採取行動。

週五的最新消息顯示，蘋果在收到舉報後，也把媒體發現的3款應用程式做了下架處理。谷歌則在近期下架了一款AI「換臉」程式。

事實上，這類具有「深度偽造」（DeepFake）功能的app至少在2022年就已經出現在應用程式商店裡，但當時蘋果、谷歌接到舉報後，僅是要求開發者停止投放廣告宣傳不法用途，而不是將其下架。

已有美國學生因此被逮捕

雖然網路平台對這類app處理的方式頗為被動，但這些應用已經產生了惡劣的社會後果。

根據《連線》雜誌報道，去年12月有兩名佛羅裡達州的中學生，因為使用AI生成同學的裸照遭到警方逮捕和重罪控訴。

警方提供的報告稱，兩名男孩的年齡分別是13和14歲，所製作照片的對像是12至13歲之間的學生。根據佛羅裡達州法律，他們的行為與重大汽車竊盜、非法拘禁同屬三級重罪。

雖然該案被美國媒體稱為“首個引發逮捕和起訴的案例”，但在公開報道中，加州、華盛頓州、新澤西州的中學都有過類似的事件，只不過沒有提到是否引發刑事指控。

目前在美國祇有十個州將此類行為入罪，並沒有聯邦層級的法律進行規管。轉機出現在今年1月底，由於在馬斯克的X平台上爆發使用AI製作泰勒·斯威夫特露骨照片的事件。在事態最嚴重的狀態下，X平台不得不禁止使用「泰勒·斯威夫特」作為關鍵字進行搜尋。

在這一事件後，美國參議院兩黨議員聯合提起了一項名為《2024打擊非法偽造圖像和未經同意編輯法案》的立法。

聯名提出這項法案的共和黨參議員喬許·霍利當時對媒體表示，無論是明星還是普通人，都不應該發現自己出現在AI色情製品中。無辜者有權捍衛自己的名譽，並在法庭上追究加害者的責任。