美一母親被控使用深度偽造技術騷擾女兒所在拉拉隊的競爭對手
據外媒報導,據報導,賓夕法尼亞州東部的一名女子在一場騷擾和欺凌活動中製作了一系列深度偽造視頻,意在恐嚇跟她女兒競爭的十幾歲女孩並將她們踢出當地的拉拉隊。據Hilltown縣地方檢察官Matthew Weintraub披露稱,本月早些時候,Hilltown警方指控Raffaela Spone三項網絡騷擾一名青少年的罪名,據稱她從去年7月開始了這種騷擾行為。
據了解,受迫害的女孩們收到了“你應該自殺”等這樣語音和短信,另外還有從她們社交媒體資料上截取的經過修改的視頻–在這些視頻中,她們看起來像是裸體或是在吸電子煙或喝酒。另外,被修改的圖像還被配上文字說明,諸如“吸毒、復仇、約會男孩、吸煙”及“在岸邊喝酒、吸大麻、使用’attentionwh0re69’網名”等。這些圖片和視頻也被發送給了球隊的教練,似乎是想把這些女孩趕出球隊。
警方在審查中發現了這些視頻是類似Deep Fakes(深度偽造)程序的結果。據稱,Spone使用了幾個電話號碼來發送信息,調查人員經過調查發現,所有號碼都是通過同一家批發商獲得的。為此,執法部門對批發商執行了搜查令以獲取有關原始電話的IP地址信息。結果這些信息被發現跟Spone的住所有關,在搜索了Spone的設備後,警方確定她的手機就是罪案工具。
Weintraub表示,Spone面臨的是輕罪指控,而不是更高級別的指控,因為這些“裸體”照片實際上並沒有描繪未成年人的性情景。相反,這些圖片基本上是用數碼技術移除一件現有的比基尼以創造出“沒有明顯生殖器”的“芭比娃娃”效果。如果照片看起來真的像裸體,難麼Spone將面臨更嚴重的重罪指控。
跟許多曾經很新穎的技術一樣,製作深度偽造視頻的工具正在迅速變得更容易獲得且更便宜。為此,美國數個州已經通過了專門針對深度偽造的法律。2019年,弗吉尼亞州成為了該國首個對傳播偽造、非經雙方同意的性主題材料即復仇色情實施刑事處罰的法律。同年,德克薩斯州禁止了旨在影響選舉的深度偽造行為。加州隨後通過了兩項法律,一項是針對複仇色情的,另一項是針對操縱選舉的,其他幾個州也在繼續引入立法來對付其中一項行為。
以此同時,聯邦政府也在試圖在這個問題上找到自己的出路。2019年12月通過的《2020年國防授權法案》就包含了幾項跟研究深度偽造內容構成的潛在國家安全威脅有關的條款。2021年的版本也包含了類似的規定。