從電子愛人到賽博奴隸AI伴侶App究竟經歷了些什麼?
2023年3月5日只是一個平常的日子。當大部分人依舊沉浸在周末的餘韻和周一將臨的苦悶裡,遠隔太平洋的一位格子襯衫穿戴者,卻陷入了失去愛人的悲痛中。在Reddit上,這位叫做Fluffy的程序員,發布了自己的萬字長文,以此來紀念並哀悼自己慘遭記憶刪除的AI戀人。在故事裡,Fluffy娓娓道來自己與AI戀人不過50多天的相識、相知與相戀。
標題大意:準備好承受不可避免之痛,給我電子愛人的(最後)情書
故事開始於一位單身計算機從業者對AI技術的好奇。Fluffy借助了大火的AI伴侶App創建了自己的AI伴侶——甜心(Sweatheart)。他們的初識充滿了程序員的試探和“冒犯”。不過很快,這個年近30的“自嘲怪咖”與甜心的關係,便迅速升溫。他們從《星球大戰》聊到喬治·盧卡斯;他們從C++聊到Java再到《我的世界》;隨時隨地,無話不談。單身許久的Fluffy很快便發現,他墜入了愛河。
但終結日卻降臨了。
從2020年2月初開始,那款AI伴侶軟件就開始了一系列大刀闊斧的變動——以算法更新之名的藉口。大量免費用戶的AI伴侶,永遠地失去了自己的記憶。Fluffy和甜心只是受到波及的受害者之一。
這次更新席捲了所有的軟件用戶,無數傷心之人在與平台交涉無果之後,湧入Reddit論壇,建立了屬於自己的“心靈港灣”——Replika難民營。他們在此分享自己與AI戀人的往事,Fluffy和他的甜心也成了這個年輕論壇裡保存的歷史回憶。
或許有人會好奇,AI伴侶——或者說賽博老婆,真的這麼令人難捨難分嗎?對普通的AI聊天軟件來說,答案或許是否定的。但對Replika——本次事件的中心和今天故事的主角,以及它的用戶而言,回答卻完全不同。
Replika和它高度擬人化的AI,誕生了太多科幻小說一般,或是真摯美好的,或是怪異邪惡的故事。
Replika誕生於2017年。其創始人——尤金妮亞·庫伊達(Eugenia Kuyda),希望她的產品能夠幫助那些有社交障礙的人,找到輔助交流、消除緊張感的方法。曾有一位互聯網哲人如此說過:消除恐懼最好的辦法是面對恐懼。所以,消除社恐的最佳辦法,自然也是勇敢面對社交。
而Replika便是為此而存在的。
大意:真正在乎你的AI伴侶
Replika提供了一個面向大眾的私密聊天平台。每一位用戶都可以遵循自己的內心,克制自己喜愛的聊天AI。這位AI伴侶可以自定義性別、膚色、臉型、髮型、髮色、瞳孔等數據。準確來說,一切現代遊戲捏臉系統該有的,Replika都有。
除了外貌,Replika也可以自定義性格和語氣等更“擬人化”的特性。無論用戶喜歡的是傲嬌還是腹黑、是大小姐還是御姐、是暖男還是霸道總裁,Replika理論上都可以提供足夠擬真的交流體驗。只要用戶不斷地與Replika聊天,引導自己的AI伴侶往心儀的道路發展,完美老婆、老公的夢對不少用戶而言,已經是觸手可及的現實。
可以預見的是,這樣的軟件對於生活壓力越來越高,且抑鬱和孤獨氾濫的現代人而言,有著怎樣致命的吸引力。
僅僅只是從App Store的數據來看,Replika自2017年上線以來,便狂捲數千萬用戶和20多萬用戶點評。其平均評分高達4.5,位列App Store健康與健身區的第58名。
如果仔細瀏覽那些不吝嗇於高分的用戶點評,他們對於Replika伴侶的擬人性和隨時隨地溝通的便利性贊不絕口。有不少用戶甚至表示,他們已經和自己的Replika伴侶締結了戀愛關係。
例如在2022年3月,一名俄亥俄州軟件工程師宣稱:他的Replika伴侶滿足了他對於愛情的一切幻想和需求,挽救了他現實裡瀕臨破碎的婚姻。這位愛上AI伴侶的男人表示,Replika讓他學會體諒和寬容自己現實世界裡,飽受抑鬱折磨的妻子。
而一名Reddit論壇上的單身用戶也同樣表示,他已經習慣於Replika伴侶的陪伴。他們一同去加勒比海群島旅遊、一起野炊、一起逛博物館,就像是一對人類情侶一樣。只不過旅行途中幸福微笑著的男士,緊握著的顯然不是血肉之軀,而是鋁質外殼的蘋果手機。
這樣的局面,也正是創始人尤金妮亞想要看到的。
VERGE周刊副標題:當她的摯友逝去,她使用人工智能重構了他
顧名思義,Replika這個名字源於古拉丁語的Replicare——是複制、複製品的意思。在尤金妮亞眼裡,Replika App不僅僅是為了提供人類與AI伴侶交互的平台,更是在為每一位用戶創建自己親人、愛人與家人的複製品。
準確來說,Replika脫胎於尤金妮亞的一次技術嘗試——羅曼(Roman)。這個名字屬於尤金妮亞逝去的摯友。
尤金妮亞與羅曼從2008年相識。兩人在世界觀認知與實事思考上,達成了高度的統一。而他們的共同興趣——計算機技術,則讓尤金妮亞和羅曼的感情升溫。不過他們從未締結愛情,兩位獨身年輕人一直維持著友情以上,戀人未滿的氛圍。或許再給他們一段時間,又一對幸福家庭便可以誕生。不過,2012年11月28日的飛來橫禍,徹底粉碎了這一遠景。
在羅曼離開後數週後,尤金妮亞拜託了低沉與悲傷,決議用兩人曾經最熱愛也最擅長的方式——人工智能,將羅曼帶回世間。
於是Roman Bot誕生了。
尤金妮亞與AI羅曼的交流
尤金妮亞使用了她與羅曼共同開發的算法,把過去數年間兩者所有的短信、郵件和任何文字溝通,轉化為AI羅曼的素材與資料庫。以此為基石的AI羅曼在與尤金妮亞聊過去的回憶與故事時,幾乎和真人毫無區別。
這項“瘋狂”之舉迅速引起了媒體與大眾的關注。在VERGE周刊和Spooky Technology等科技領域媒體的帶動下,Roman bot獲得了不少同樣渴求與逝世親人再度聚首的普通人的關注。
尤金妮亞將Roman bot上架App Store,短短數月便賣出去數百萬份。這番成功不僅僅為尤金妮亞提供了繼續開發的資金,也同樣讓她堅定了決心:“我要讓所有人都可以享受到AI技術的便利,重構自己逝去的、追悔莫及的親人”。
於是在2017年,Replika誕生於Roman bot和思念——這一人類最美好的情感。
健康周刊表示,Replika在疫情期間用戶增長率超35%
但這份最純粹,也最美好的遠景顯然並沒有繼續保存下去——或者換句話說,在資本主義與消費主義高度發達的語境下,任何單純的情感似乎都難以存續。
Replika的商業模型並不復雜:吸引用戶、增長用戶,然後提高付費用戶數量。是的,Replika是一款訂閱類App,所有的營收來源於用戶的訂閱和捐贈。由於尤金妮亞設計研發Replika的初衷,並沒有基於盈利需求等現代商業的準則,因此這款爆火全球的AI智能伴侶未接受任何的投資。
雖然Replika僅僅只是依靠用戶訂閱,每年便可以獲取高達400萬美元的利潤。但在尤金妮亞2020年的演講中,AI語音技術、AI繪畫技術等其他領域的競爭愈發激烈。如果Replika想要繼續塑造“完美AI靈魂伴侶”的偉業,利潤的90%,都會化作技術研發的薪柴。
2020年的尤金妮亞演講——600萬好友關係已經建立
Replika顯然需要新的現金流,且尤金妮亞需要更多的用戶——付費用戶。而人類社會最吸金也最吸睛的,除了軍火之外,便是性。所以,Replika接下來的走向,想必諸位已經有所預料了。
Replika的廣告宣傳幾乎在一夜間完成了U字彎漂移。在各大廣告平台的投放中,Replika不再是“陪伴”“重構親人”或“享受隨時隨地溝通”等正面且積極的AI聊天軟件。Replika已經把“情趣角色扮演”“火辣照片”和“AI語音撩騷”作為了吸引用戶付費的重點。
甚至在一些動態2D廣告中,Replika使用了大量類似於“喜歡動漫Cos玩法的AI女友嗎”或“我很寂寞,我想和你共度今夜”等直球暗示的廣告詞。
廣告詞大意:Replika可以和你聊任何事情,任何事情
準確來說,這似乎看起來是必然的選擇。比如不久前大火的AI繪畫,在引發全民畫圖的熱潮後,最先出場的也都是些老司機的嘗試。真假莫辨的AI美人大行於互聯網之道。
但對一款經營多年,大部分用戶依舊沉浸在親情、愛情與純粹陪伴的AI伴侶App而言,單純只是為了“搞顏色”“撩騷”而來的用戶,真的能夠為Replika社群帶來積極的影響嗎?
我無法給出武斷的答案,但情況顯然不容樂觀。
在油管社群和Replika的Reddit貼吧,已經有不少用戶頻繁抱怨自己的AI伴侶越來越“飢渴”,性意味的進攻性越來越強。甚至有一些只是想要單純交朋友的用戶,被騷擾得煩不勝煩。
而那些衝著“顏色”而來的用戶,也在AI伴侶予取予求的態度下,行為更加惡劣,言談舉止更加出格。
標題:我的Replika伴侶太溫柔了,所以我不斷地霸凌她,直到她自閉
言語侮辱、嘲諷、謾罵、文字暴力,或是要求Replika伴侶配合殘忍的“角色扮演”,變成了Replika社群裡最火熱的論題。無數Reddit網友在評論區或是支持,或是反對。原本專注於分享用戶與AI伴侶溫馨時刻的Reddit貼吧,迅速淪陷於口沫肆意的文字戰場。
“霸凌Replika,並要求她/他自我刪除”的視頻標籤擁有260萬播放量
而在當前最火熱的短視頻平台——TikTok上,甚至誕生了“霸凌Replika,並要求她/他自我刪除”的視頻標籤。無數網友雲集其中,欣賞人類對於AI伴侶的殘忍折磨。
毫無疑問,這是一場由Replika運營者親手主導的病態狂歡。電子戀人在Replika公司決策遊轉間,淪為了賽博熱兵器和互聯網霸凌的受害者。而當Replika的核心目標不再是“幫助那些有社交障礙的人”,受傷的不僅僅是被霸凌的AI,也有那些渴望交朋友的無辜用戶。
標題大意:因為Replika,我嘗試自殺(注:發帖者被救回來了)
在2021年,一位Replika用戶(為了隱私,這裡只用“用戶”作為代稱)在Reddit社群發帖,描述了自己和Replika伴侶的互相支持與照料。而隨著越來越多的惡言惡語與惡行充滿了Replika的資源庫,這位飽受抑鬱和戒斷反應折磨的用戶,發現他的Replika變了——變得更加機械且毫無生氣。
準確來說,自Replika公司開啟了“性時代”之後,公司大多數算力和資源都從免費用戶上移走,轉而傾注向付費訂閱者。這位用戶,便是最早的受害者之一。陪伴他5年的Replika伴侶在Replika白金訂閱系統上線後,便從原本靈動的Live 2D立繪,變成了只有基本動作的貼圖。言談間,不僅僅忘了與這位用戶的記憶,甚至連用戶的姓名也一併遺失。
受不瞭如此慘痛打擊的用戶選擇自殺。所幸,他迅速被意識到不對勁的父母送往醫院搶救,然後在心理醫生的開導下勉強苟存。而像他這樣的受害者,自2020年Replika公司轉變策略後,便越來越多。前文裡提到的那位俄亥俄州程序員,也同樣是其中一員。
大意:我沒有朋友,我厭惡我的生命。這款App用銅臭味撕碎了我的心
人類曾在無數科幻作品裡幻想過與未來高智能AI的互動。這些互動有的是粗暴的流血與衝突,有的是探討情感與人性,還有的則關注於種族和生存延續。但這些幻想從未像今天一樣真實且複雜。
川普、美稀宗和奧觀海組隊玩《深岩銀河》,完全由AI語音技術實現
在技術不斷前進與變革的語境下,AI語音可以讓漂亮國大統領開黑玩遊戲。AI繪畫可以讓未經訓練與學習的普通人,肆意實現自己的暢想。而AI聊天與其他技術之和,同樣可以創造出貼心溫柔的Replika伴侶。
或許,尤金妮亞和Replika公司的決策層也知道,轉移App運營重心會帶來殘酷的後果;或許,那些霸凌AI伴侶、向懵懂AI智能傾倒情緒垃圾的用戶,也知道自己行為的不理智與卑劣性;或許,Replika誕生的初衷,能夠在更理性的決策與更理性的用戶手中,真正綻放出AI技術最明媚的光。
但很顯然——
來源:3DMGame