AI換臉只是小兒科這家公司用AI造了4個工程師
商業社會,弄虛作假屢見不鮮。而近日一家西班牙創業公司身上發生的一次利用AI 造假事件,讓那些融資、業績、財務數據造假在創新性上都黯然失色。互聯網國際象棋棋盤製造商REGIUM 疑似使用GAN 合成了四個虛擬工程師,以下六人圖中,只有 Delgado 和Balcells 兩人確有其人。
除了製造“人造人”,這家公司的主打產品——自動國際象棋棋盤,也被多個網絡知名國際象棋社區產品扒出產品、視頻造假,目前公司在眾籌網站Kickstarter 的項目已被暫停。
REGIUM 是一個騙局嗎?
REGIUM 是一家位於西班牙的互聯網國際象棋棋盤製造商,2019 年12 月,他們在YouTube 上發布了一款叫作REGIUM 的棋盤演示視頻,開始獲得像棋圈子的關注。
按照同類硬件創業公司的套路,REGIUM 一邊上眾籌網站Kickstarter 眾籌,另一邊也在網絡知名國際象棋社區 Chess.com、Chess24.com 打廣告,宣傳產品。
不少論壇用戶對此表示期待,從它2 月底在Kickstarter 開展眾籌,截至3 月2 日被叫停,不到10 天,獲得58 位支持者,33111 美元籌款。
但也就是上月開始,該團隊逐漸被產品造假、視頻造假等議論包圍。YouTube 上播放量超4 萬的產品介紹視頻,率先引發了象棋玩家對這家公司的質疑。
REGIUM 稱,他們的自動棋盤是高科技棋盤,用到了AI、自動跟踪技術等,用戶移動棋子是快速、無聲的,可以將棋盤狀態與各種在線象棋APP 同步,與人遠程下棋,還能實時載入更多棋類游戲。
它的原理是棋盤每個坐標點裝上固定電磁鐵,連接著APP,用戶可以通過手機操縱對應的棋子。事實上,這也不是第一個電子棋盤。在此之前還有過一款名叫Square Off的類似產品。
在線象棋平台Lichess 的開發者率先對視頻提出質疑:棋子在棋盤上自動移動的鏡頭很可能是使用定格動畫製作軟件stop motion 做的。破綻出在騎士這個棋子在視頻不同處總是發生變化,其實就是背景在騎士被挪動後出現的空缺。另外,整個視頻中完全沒有真人玩家入鏡,對方分析是一旦有人入鏡,那麼下一幀很難與上一幀保持一致。
REGIUM 對此的回應是,公司根本不擅長製作視頻,拍攝視頻時出現了一些問題,於是才後期編輯處理了下。據稱,他們給一些質疑者用手機錄了一段完整的未經處理的視頻。
而隨後,Chess.com 表示,可能不僅是視頻,產品也是虛假的。商業發展部主任Nick Barton 調查後表示,展示視頻中的棋盤是由西班牙一家有50 多年曆史的棋盤製造商Rechapados Ferrer 製作的,該公司一位負責人表示,視頻中的棋盤看得出並未再加工,而當前的組件並不支持視頻所展示的技術。
目前 Chess.com 和Chess24.com 都已發帖宣布終止與REGIUM 的商務合作。
人造工程師
視頻、產品存疑,還趕上眾籌,象棋網友繼續挖,然後發現這個公司的開發團隊成員的臉都是假的!
官網“About US”菜單列出了6 位工程師的照片、名字和頭像,Chess.com、Chess24.com、Lichess.org 三家考證表示,其中大概只有兩個是真人,其餘4 位很有可能是用GAN 生成的人造人,用的就是this person does not exist.com 這個網站的功能。一個側面印證是,圖片信息都是1024×1024,96dpi,24 位,jif 格式,缺少任何標題信息。
this person does not exist.com
Chess.com 採訪了網站的創始人 Phil Wang,他認為那四個人的照片存在失真,具有GAN 生成的人造人照片的特點。“根據我的經驗,眼鏡周圍扭曲失真,背景也有點假,我還看出來他們似乎用了英偉達的模型。”另外,他還指出,這些人的照片在互聯網其它任何地方都搜索不到。
在被曝光後,REGIUM 官網已刪除6 位工程師照片( 查看存檔的副本https://web.archive.org/web/20200223191142/https://regiumchess.com/about.html),似乎更印證了他們的心虛。
而REGIUM 在發給外媒Motherboard 的電子郵件中否認了這些說法,他們辯解稱是因為受到各種非議,成員擔心職業生涯受到影響才撤下照片。但除此之外,並未提供任何證據能證明其開發人員是真實存在的人。
this person does not exist.com 是海內外小有名氣的造臉網站,使用也非常簡單,點擊進入,每次刷新都會生成一張可能路人甲也可能漂亮的臉蛋,但是他/她根本不存在於世界上。
有網友形容該網站是,“很有趣,但沒有什麼用”。大多數人打開它確實也就是圖個新鮮,但沒想到有公司竟然想出如此“創意”的想法。
現在,我們一起從互聯網的記憶中檢索一下。2015 年,教皇方濟各訪美期間,一個絕妙的“抽桌布”戲法視頻迅速火遍全美乃至全球,只見他在向聖壇禮拜後,抬手將桌布一抽,桌上物品一點沒亂。這應該是網上第一例引發廣泛關注的AI 合成“人造人”事件。沒錯,這個視頻就是假造的,據說教皇本人後來看後並不是很高興。
教皇視頻和this person does not exist.com 背後的技術就是基於生成對抗網絡(GAN),這是機器學習中相對較新的概念,第一次出現是在2014 年,Ian Goodfellow 等人發表了論文《對抗式生成網絡》。GAN 通過收集名人面部數據集,學習生成人造面部圖像。
2017 年,“潘多拉的盒子”打開。Reddit 一位用戶Deepfakes 把《神奇女俠》女主角Cal Gadot 的臉嫁接到一個成人電影女星身上,Reddit 官方將其封號。作為報復,Deepfakes 將換臉代碼開源。2019 年初,“楊冪換臉朱茵黃蓉”的視頻火爆中文網絡,同年陌陌推出了一款“ZAO”換臉視頻,一時之間,刷屏與質疑齊飛。
技術本是無知無覺的工具,有人陷入色情視頻AI 換臉黑產狂歡,也有人拿AI 應用於醫療診斷、公益救助,是造福還是造假,全賴使用者的本心。