矽谷新王Sam Altman:國會議員最尊重的CEO 正在重寫科技世界的規則
只用了不到6 個月,ChatGPT 就把Sam Altman 送去了幾乎所有科技領袖都得坐上半天的地方。但是這一次,不同以往,議員們不夠辛辣,他們友好,甚至有些尊重。據華郵報導,議員們對Sam Altman 的態度比以往任何巨頭CEO 都要好得多。
同樣與過去不同的是,這次議員們真的做了很多功課,學習了很多技術相關的知識。
可惜的是,他們再怎麼準備,也追不上狂飆的AI。他們和你我一樣,還不能徹底理解OpenAI 究竟創造了什麼。
在這個逼仄的房間裡,Sam Altman 是那個話事人,他不是在回答問題,而是在定義一切。他定義技術的能力、監管的邊界,也定義整個科技世界的未來。
有人說這場監管問詢是人工智能新篇章的開始。
他似乎已經想好第一章該怎麼寫了。
技術需要監管
但讓我告訴你們該怎麼監管
如前文,整場發布會並不是批評OpenAI 和Sam Altman 的AI 技術給社會帶來的混亂。
相反,議員們拒絕批評OpenAI 的技術研發,而是就ChatGPT 等生成式AI 系統的潛在規則,徵求Sam Altman 和另外兩名證人的意見。
議員有備而來
這次聽證會的主席,參議員Blumenthal 用一段錄音開場。
“我們已經見過太多次了,技術越過監管,個人數據肆意開採,虛假信息的擴散,以及社會不平等的加劇,我們已經看到,算法加劇了歧視與偏見,缺乏透明度可能會破壞公眾信任。這不是我們想要的未來。”
錄音結束,Blumenthal 說:“如果你在家聽會,你可能會覺得剛剛的聲音是我的,話是我寫的,但實際上,那不是我的聲音。”
他用聲音克隆軟件複製了自己的音色,讓ChatGPT 以自己的口吻寫了一段聽證會開場白。
這一舉動贏得了大量網友的認可,他們認為國會在積極準備,嘗試理解技術本身。
幾個比喻
當面對一個很難理解的事物時,人們習慣把它比作自己熟悉的事物。
在整場聽證會中,議員和證人把大語言模型比作這樣幾個東西:
第一部手機、互聯網的發明、工業革命、印刷機和原子彈。
“請監管我們”
Altman 告訴議員,他最擔心的是AI 最終會對“世界造成重大傷害”,並承認如果AI 沒有得到適當的監管,勢必會產生不利影響。“如果這項技術出了問題,後果可能會非常嚴重。”(If this technology goes wrong, it could be quite wrong.)
馬斯克點評這句稱:正確的(accurate)。
為此,他認為政府的監管對於幫助確保技術負責任地推廣,是非常關鍵的。
一名參議員聽到奧特曼的回答,評論說:“很少有公司會在國會面前說『請監管我們』”。
“但他沒有提出放慢或者暫停推出AI 產品,”華郵記者寫道。
競爭少點對你們是好事
議員Cory Booker 表示,他最大的擔憂之一,是“企業高度集中”,“很少有公司能夠控制和影響我們這麼多人的生活,而且這些公司正在變得越來越強大,這真的很可怕”。
Altman 希望他放心,首先“只有較少的供應商能夠製造大規模生成式AI 這樣的模型”,其次,“你真正需要關注的人越少,就越有好處。”他認為競爭是存在並且足夠的。
我沒說我們不做廣告
Booker 議員同樣問了Altman OpenAI 是否會涉足廣告業務。
Altman 表示存在這種可能性,“我不會說永遠沒有,”他認為存在潛在的客戶只有廣告這一個選項,但他個人非常喜歡訂閱模式。
立法者擔心,AI 系統採用廣告模式,最終會重蹈社交網絡和算法推薦的覆轍。
社交網絡,這個與OpenAI 關係不大的關鍵詞,頻繁地出現在整場聽證會中。議員們在Facebook 和TikTok 之後,就像PTSD 一樣,瘋狂地想要避免social media 曾經給他們帶來的麻煩。
於是Altman 反復強調,AI 不是social media,這麼幹不行。
新的數字殖民工具?
社交網絡給國會帶來的另一個麻煩,是對小語種支持的不足,導緻美國科技公司被批評“數字殖民主義”。
議員提出了這個問題,擔心AI 是否支持足夠多的語言。
Sam Altman 表示目前最新版的ChatGPT“已經非常擅長使用大量語言,對於一些小語種,我們很高興能和一些合作夥伴定制,將該語言納入我們的模型”。
制定國際新標準
Altman 主張建立一個 國際組織,為AI 制定標準,他參考世界各國政府管制核武器的做法。
他認為美國應該發起建立一個類似國際原子能機構(IAEA)的組織,為AI 行業製定全球規則。
“美國製定一些其他國家需要合作和參與的國際保准,有一些途徑是切實可行的,儘管這在表面上看起來是一個不切實際的想法。”他說,“但我認為這對世界來說是件好事。”
新的AI 法律
1996 年美國國會通過230 條款,保護在線業務,不用承擔用戶發帖的責任,這某種程度上促進了社交媒體的興起。
Altman 表示這一條款將不適用於人工智能。
他此前主張 建立一套新的針對AI 的法律。
三點計劃
Altman 提出了一個成體系的有準備的方案:
1、成立一個新的政府機構,負責LLM 的授權,同時也有權撤銷不符合標準公司的許可證;
2、為AI 模型建立一套安全標準,對其危險性進行評估;
3、需要獨立專家對模型的各個指標進行獨立評估。
刻薄的同桌
雖然物理上和Altman 是同一邊的,但是紐約大學名譽教授Gary Marcus 更像是國會的一員。
他的攻擊性比議員們更強,提出了幾個令Altman 非常頭疼的問題:
OpenAI 口口聲聲為了全人類,但實際上卻和微軟商業結盟;
GPT-4 的訓練數據不透明,他不同意。
繼續政治必修課
這場聽證會結束後,Altman 還要馬不停蹄地與國會AI 核心小組作匯報,眾議院院長也將主持這場會議。
美國國會聽證會是Sam Altman 系列行程的一部分,他正在進行為期一個月的國際訪問,與各地政策制定者討論技術和監管等問題。
據報導,Altman 多年前曾經考慮過 競選加州州長。與政治家們打交道並不是一件令他頭疼的事。
為什麼Altman 如此渴望政府監管?
一位Twitter網友評論道:很簡單。如果你制定了規則,你就控制了競爭。目的是讓監管捕獲,鎖定後來者,成為新興市場的唯一玩家。
定義者是誰?
他在想什麼?
技術樂觀主義者
Altman 在八歲時就開始學習編程。
在他二十多歲的一次和朋友的徒步旅行時,Altman 放棄了人類是獨一無二存在的信仰。
當談論到AI 的進步時,他承認,“絕對沒有理由相信,在大約13 年內,我們不會擁有能夠複製我的大腦的硬件。確實有一些東西讓人覺得能夠區分自身與其他的存在,比如創造力、無處不在的靈感閃現、同時感到快樂和悲傷的能力。但計算機也將有自己的願望和目標系統。當我意識到智能可以被模擬時,我就放棄了我們獨特性的想法。 ”
而且他堅信“所有真正可持續的經濟增長來源於技術進步”。
末日論者
他在投身AGI 之前,是一個徹頭徹尾的末日論者。
“我為生存做準備,”他在YC 的聚會上說,他指出有兩種東西會毀滅人類,生物病毒和人工智能。
身邊的創業者們對他的發言感到不適,但他繼續說:
“我盡量不去想太多,”“但是我有槍支、黃金、碘化鉀、抗生素、電池、以色列國防軍提供的防毒面具和一大片位於Big Sur 的土地可以飛過去。”
神童的養父
因此在上一輪產業AI 大熱的時期,Altman 和馬斯克等人一起創辦了OpenAI,希望讓人工智能超利好人類的方向發展。
他認為,真正的AGI 應該做的不只是欺騙,它應該創造,發現理論,創作藝術。AGI 應該像兒童一樣,花費數年學習所有的東西,OpenAI 的使命是照顧這個神童,直到它被世界所接受。
現在神童長大了。
在這之前,當無力負擔神童的養護費用時,Altman 毫不猶豫地接過了微軟的投資。“當他們發現需要更多資金來維持他們認為最有前途的道路時,他們毫不猶豫地選擇了改變原則。”
所以說他和馬斯克是知己
Sam Altman 有著多重身份。
他曾是創業公司Loopt 的創始人,這家公司在2012 年出售給Green Dot,作價4340 萬美元。
YC 創始人Paul Graham 尋找繼任者時,他看上了Altman。擔任YC CEO的時候,Altman 28歲。a16z 的創始人Marc Andreessen 評價他在YC 的工作:“在Sam 的管理下,YC 的野心水平翻了10 倍。”
2019 年,他創辦了加密貨幣公司World Coin。該公司計劃使用眼球掃描技術創建一個全球識別系統,該系統可以用於創建一個安全的全球加密貨幣Worldcoin。
2021 年,他參與了核聚變初創公司Helion Energy 的融資,一人提供了3.5 億資金。能源是他一直關注的問題。“如果我們能推動智能成本和能源成本一路走低,我們所有人的生活質量都將得到難以想像地提高”。
上週,微軟宣布與Helion Energy 簽署購電協議,將於2028 年向其採購電力。
Altman 還計劃在YC Research 成立一個合成生物學部門,以延緩人類的衰老和死亡。“如果它有效,”Altman 說,“你仍然會死,但是等你120 歲的時候還活蹦亂跳。”
他正考慮成立一個小組,為人類的繼任者做準備,無論是AI 還是強化的人類。這個想法是召集機器人學、控制論、量子計算、人工智能、合成生物學、基因組學和太空旅行的思想家和哲學家們,討論替代人類的技術和倫理。
目前,這些領域的領導者們不定期在Altman 家裡開會。
聚光燈打向矽谷新王
OpenAI 驚天動地之前,Sam Altman 被稱為“矽谷精英”,但現在,他所到之處,聚光燈跟隨。
三月,矽谷銀行(SVB)破產,Altman 拿出個人資金向發不出工資的創業公司貸款。
在最近一次播客採訪中,Altman 說,“某種程度上,我們(OpenAI)正在做的事,和其他幫助70 億人的方式沒什麼不同。”
日前,Altman 發言稱“遠程辦公是個錯誤”,“科技行業最大的錯誤之一是認為初創公司不需要員工在一起工作”。
這一觀點被大量科技和經管媒體報導,轟動了疫情三年來早已普及遠程辦公的矽谷。
在整場聽證會中,Sam Altman 像過去幾十年所有矽谷叛逆的嬉皮士一樣,給了議員們一點小小的極客震撼。
“你賺了很多錢吧?”議員問。
“我,不,我沒有OpenAI 的股權,我的薪水只夠保險。”
“真的嗎?有意思,那你需要一個律師。”
“我做這件事只是因為我熱愛它。”
20 秒前還咄咄逼人的議員,啞口無言。