GitHub正在封殺deepfakes和DeepNude等色情應用的副本
在AI換臉應用deepfakes被別一些人用於色情目的後,近期曝出的DeepNude項目又濫用了AI來創建女性的假裸照。為了整治平台上的亂象,GitHub在近日接受Motherboard採訪時稱,該平台將封殺DeepNude項目,因其違反了社區內不得創建“性淫穢內容”的規則。為此,他們已經刪除了多個存儲庫,包括由最初的DeepNude創建者正式運行的存儲庫。
(題圖via TheVerge)
據悉,DeepNude 最初是一款付費應用程序,宣稱可通過類似deepfakes 的人工智能換臉技術,來創建女性的裸照版本,然而這把利器很容易別別有用心者用於色情報復的目的。
在引發了巨大的爭議後,DeepNude 開發團隊已經關閉了該項目,聲稱高估了人們對該項目的濫用程度。遺憾的是,截止上週,我們仍可在線上訪問到DeepNude 的諸多可用副本,其中就包括GitHub 平台。
上週晚些時候,DeepNude 團隊將核心算法(而不是實際的應用程序界面)上傳到了該平台。理由是針對這款應用程序的逆向工程已經得逞,隱藏源碼已經沒有任何意義。
團隊在一個現已刪除的頁面上寫到:“DeepNude 使用一種有趣的方法來解決典型的AI 問題,因此其對於在時尚、電影、視覺效果等領域的工作和研究開發人員來說非常實用” 。
然而根據GitHub的社區準則,除非用於教育或藝術目的,該平台是嚴厲禁止“色情”或“淫穢”內容的。實際上,假裸照並非DeepNude的首創,某些PS高手早就掀起過類似的運動。
問題在於,DeepNude 將假裸照的製造難度,降低到了人人可及的程度。對此,政治家和評論員們對該項目的潛在影響,提出了相當嚴厲的警告。遺憾的是,這些都無法阻止DeepNude 的副本在網絡上亂竄。