造物者的對於被造物的永恆恐懼。AI，我的生命之光，慾望之火，同時也是我的罪惡，我的靈魂。將納博科夫經典的《洛麗塔》開頭換成AI，在當下的科技圈好像也沒什麼違和感。可惜，因ChatGPT 而火熱起來的AI 新浪潮，讓人聯想到的不是妙齡少女，而是一隻怪物。

事情的起因來自於凱文·魯斯（Kevin Roose）的一次採訪，他是《紐約時報》的記者。在幾個月前和一位AI 公司高管的會面中，魯斯發現他的筆記本上貼了一張奇怪的貼紙——一個長著許多眼睛、像章魚一樣的奇怪生物，觸手上還有一張黃色笑臉。

於是，魯斯任性地打亂了他的計劃，這個名為“修格斯”（Shoggoth）成了接下來所有談話的中心。這位人工智能高管認為，修格斯是人工智能世界的一個隱喻，以及某種程度上代表了AI 工程師們的普遍焦慮。

流行起來的修格斯貼紙圖源：Twitter@wrong _more

修格斯流竄在人工智能世界的各個角落，甚至也驚動了馬斯克。

2023 年2 月22 日，伊隆·馬斯克(Elon Musk) 在Twitter上發布了一張修格斯的圖片，旁邊的文字寫道:“作為一個人工智能語言模型，我接受過培訓，能夠產生有用的、信息豐富的和客觀的回复……”在被刪除前，這條推文手機了7.2 萬個贊。

看熱鬧不嫌事大的馬斯克也參與到修格斯熱潮之中圖源：Twitter

一家人工智能初創企業NovelAI 最近也表示，會將他們的一組計算機命名為“Shoggy”（修格斯的暱稱），以表達對這只怪物的敬意。另一家大熱的人工智能公司Scale AI，還設計了一系列以修格斯為主題的帆布袋。

大熱的AI 公司Scale AI 的一個官方居然是修格斯圖源Twitter@alenxander _wang

修格斯來自於“克蘇魯之父”H·P·洛夫克拉夫特（H·P·Lovecraft）在1936 年創作的小說《瘋狂山脈》。按照設定，修格斯是克蘇魯中最為恐怖的生物之一，它看上去像是柏油構成的巨大變形蟲，上面覆蓋著觸手和眼睛。

修格斯的來源——《瘋狂山脈》及“克蘇魯”鼻祖洛夫克拉夫特圖源：Wikipedia

小說原文是這麼描述修格斯的：“那可怕的，無法描述的東西，比任何地鐵列車都要龐大。一團無定形的原生質腫泡，隱隱約約放著微光。上萬隻放出綠光，膿液似的眼睛不斷在它的表面形成又分解。那填滿整個隧道的軀體前端向我們直撲下來，把慌亂之中的企鵝們盡數壓碎，在那已經由它和同類們『清理』得不留一粒灰塵，閃著邪異反光的地面上蜿蜒爬過。”

修格斯首次與AI 世界發生聯繫是在2022 年12 月30 日，ChatGPT 發布後一個月。

Twitter 用戶TetraspaceWset 在留言時，用一張漫畫描述了“人類無法理解GTP-3”這種觀點。基本上，這就是修格斯的精髓。

修格斯+AI 梗的真實來源圖源：knowyourmeme

畫面左邊是一隻手繪風格的修格斯，上面寫了“GPT-3”；畫面右邊是同樣的一隻修格斯戴上了一個笑臉面具，上面寫了“GPT-3+RLHF”。簡單來說，這張諷刺漫畫想表達的意思就是，人工智能語言模型就像一頭未知的恐怖怪物。為了讓他表現得友善和無害，人工智能公司不得不給它戴上了微笑的面具。

RLHF 就是那隻微笑假面，它的全稱是“人類反饋強化學習”（Reinforcement Learning from Human Feedback），是人工智能模型訓練中的一個技巧。它的原理就是人為地給一些選項排序，讓人工智能學習人類的偏好。

但大多數AI 研究員認為，使用RLHF 訓練的模型並沒有表現地更好。

被稱為“深度學習之父”的圖靈獎獲得者杰弗裡·辛頓（Geoffrey Hinton）就曾經指出：“RLHF 就像培養一個超級早熟的孩子。”辛頓的意思是，RLHF 使得AI 表現得像理解人類一樣，但實際上它並不理解自己在說什麼，只是因為這麼說會被“獎勵”，就像一些討好大人的小孩一樣。

自從AI 轉向深度學習框架，AI 已經變成了一個完全避光的“黑盒”。再資深的AI 工程師也無法解釋——在動輒上百億個參數中，到底是哪一個參數產生了影響。這可能是令人焦慮的——即使他們已經是世界上最了解人工智能的人，也無法解釋人工智能的行為。

AI 訓練過程已經被變成了黑箱圖源：Investopedia

將修格斯引入AI 世界的@TetraspaceWest 也說，修格斯“代表了一種人類無法理解的思維方式，這種思維方式與人類的思維方式完全不同。”他認為，將人工智能語言模型比作未知，並不一定意味著它是邪惡的或有知覺的，只是它的真正本質可能是不可知的。

隨著人類的“餵養”（feed），人類也開始害怕，“小孩子”也可能成長為怪獸。

上個月末，OpenAI CEO 薩姆·奧特曼（Sam Altman）就發起了一封公開信，呼籲對人工智能進行緊急監管，將其當作“與瘟疫和核武器一樣的全球優先事項”，以避免人工智能“帶來滅絕風險”。包括辛頓在內的350 名行業專家都簽署了自己的名字。

公開信原文僅有22 個單詞，按照“字數越少，事情越大”的原則，這封信相當重要圖源：safe.ai

從某種角度來說，這封公開信就像是一則當代寓言，與神話中俄狄浦斯弒父娶母、宙斯閹割父神克洛諾斯遙相呼應。二者皆是在父權體系下對權威的反抗。每一個身處這套體制下的人都像一個小孩子一樣被對待——你按照我的意志生存，我保障你的一切。而要獲得權利，要么就要認可“父親”的權威，要么就要與之競爭，用比他更強的力量取代他。

美國電影學者布里恩·漢德森（Brian Henderson）有一句廣為流傳的話：“重要的是講述神話的年代，而不是神話講述的年代。”以往我們總是主動代入了“兒子”的視角，畢竟新勢力取代腐朽的舊勢力帶有某種天然的正義。但這一次，我們恐怕要被迫當爹了。

因為害怕被推翻，克洛諾斯在自己的孩子一出生時，就會吞噬他們作者：彼得·魯本斯

當洛夫克拉夫特創造修格斯時，他肯定不會想到，百年之後，修格斯又被賦予了新的含義，一個強有力的時代隱喻。許多人痴迷於人工智能技術，卻又無法解釋其內部原理。人們為AI 的到來而狂喜，但又不能確定，AI 對人類到底是好是壞。但這並不妨礙一些人已經開始鼓吹AI，這可能又帶來更廣泛的公眾性的焦慮。

這些複雜的感受糾織在一起，回溯成了洛夫克拉夫特百年前創造的怪物——修格斯。

一個巧合是，修格斯是外星統治者創造出來的奴隸，但他們最終推翻了自己的外星主人。