美國監管人工智能的行動上升到白宮層面。當地時間5月4日，美國副總統卡馬拉·哈里斯（Kamala Harris）將與頂級人工智能企業Alphabet（Google母公司）、微軟、OpenAI和Anthropic的首席執行官會面，向企業施壓以圍繞AI實施保障措施。

同時，美國聯邦貿易委員會（FTC）主席莉娜·汗（Lina Khan）在《紐約時報》撰文稱，必須監管人工智能，保護美國人免受不公平或欺詐行為的侵害。

美國聯邦貿易委員會主席莉娜·汗。

繼“人工智能教父”傑夫里·辛頓（Geoffrey Hinton）發出警報後，微軟首席經濟學家邁克爾·施瓦茨（Michael Schwarz）當地時間5月3日表示，相信人工智能將被不良分子利用，造成真正的破壞。

英國也對AI市場展開審查

彭博社援引一位白宮官員的話稱，哈里斯和政府官員計劃告訴上述科技企業領導人，他們有責任減輕人工智能工具的潛在危害。

這次會面的邀請函稱，美國政府正在尋求“坦誠討論我們每個人在當前和近期人工智能發展中看到的風險、減輕這些風險的行動，以及我們可以共同努力以確保美國人民受益於人工智能的進步，同時免受其危害。”

除副總統外，白宮辦公廳主任傑夫·齊恩茨、商務部長吉娜·雷蒙多、國家安全顧問傑克·沙利文和拜登的技術顧問阿拉蒂·普拉巴卡爾預計將出席。拜登的經濟顧問萊爾·布雷納德、高級顧問蘇珊·賴斯和布魯斯·里德以及白宮顧問斯圖爾特·德勒里也將參加會議。

白宮官員說，這次會議是讓企業、研究人員和民間社會參與進來的更廣泛努力的一部分。

在ChatGPT發布後，最近幾個月全球生成式人工智能工具的使用激增，批評者對這項技術提出了擔憂，包括可能存在的偏見、侵犯隱私、導致錯誤信息或詐騙蔓延。

上週，七國集團數字與技術部長會議同意對人工智能採取“基於風險的”監管。而歐盟立法者也就人工智能法案達成了初步協議。

據《金融時報》當地時間5月3日報導，英國競爭和市場管理局（CMA）將對人工智能市場展開審查。該機構負責人薩拉·卡德爾（Sarah Car DELL）表示，CMA將審查“基礎模型”以及“圍繞這些模型的市場如何發展”。CMA將評估“該領域的真正機會”，同時“在確保競爭有效運作和消費者得到保護方面，我們應該制定什麼樣的護欄措施和原則”。

而在美國，商務部4月曾表示正在考慮要求AI模型在發布前經過認證程序的法規。

“正面臨另一個選擇時刻”

當地時間5月3日，美國聯邦貿易委員會主席莉娜·汗撰文稱，“由於生成式人工智能的快速發展，我們中的許多人現在已經體驗了這種潛在的革命性技術，它對世界各地人們的生活、工作和交流方式產生了巨大影響。生成式人工智能的全部潛力仍有待商榷，但毫無疑問它將具有高度破壞性。”

汗回憶了2000年代中期Web 2.0時代的到來，像Facebook和Google這樣的新興創新公司徹底改變了通信方式，並為快速增長的用戶群提供了流行的服務。然而，這些創新服務的成本很高。“我們最初設想的免費服務是通過對使用這些服務的人員和企業進行廣泛監控而變現的。其結果是出現了在線經濟，在這種經濟中，越來越多基本服務的獲取取決於我們個人數據的廣泛囤積和銷售。”

“這些商業模式驅使企業開發無休止的侵入性方式來跟踪我們，聯邦貿易委員會後來找到理由確認其中幾家公司違法了。再加上收購或鎖定威脅其地位的公司的激進戰略，這些策略鞏固了少數公司的主導地位。”汗寫道，“最初是一組革命性的技術，最終將巨大的私人權力集中在關鍵服務上，並鎖定了以我們的隱私和安全為代價的商業模式。”

而現在，正面臨另一個選擇時刻。“人工智能的廣泛採用存在進一步鎖定現有大型科技公司市場主導地位的風險。少數強大的企業控制著初創企業和其他公司開發和部署人工智能所需的必要原材料、工具，這包括雲服務和計算能力，以及海量數據存儲。”汗寫道，占主導地位的公司可以利用對這些關鍵投入的控制來排除或歧視下游競爭對手，與此同時，AI企業用來為各種商品定價的工具可能會助長抬高價格的串通行為，以及精准定位的價格歧視。

此外，汗表示，AI可能還沒有準備好取代專業作家，但已經可以比騙子更好地製作看似真實的信息，甚至指示機器人使用針對特定群體和社區的單詞或短語。例如，詐騙者可以根據個人用戶的社交媒體帖子起草針對性很強的網絡釣魚電子郵件。除了創建深度偽造視頻和語音克隆的工具外，這些技術還可用於促進大規模欺詐和勒索。

汗表示，面對1960年代後期的反壟斷審查，計算機巨頭IBM將軟件從其硬件系統中分離出來，促進了美國軟件行業的崛起並創造了數万億美元的增長。政府行動要求AT&T開放其專利庫，同樣釋放了數十年的創新，並刺激了無數年輕公司的擴張。現在，聯邦貿易委員會正在密切關注，如何才能促進公平競爭並保護美國人免受不公平或欺詐行為的侵害。

微軟經濟學家也發聲

包括Twitter首席執行官埃隆·馬斯克在內的一些知名科技領導者，已經呼籲美國聯邦政府實施新規定。辛頓5月1日加入批評者行列，稱大型科技公司在向公眾部署人工智能方面進展太快，人工智能實現類似人類的能力的速度超過了專家預測，很快會對人類構成威脅，他還宣布已辭去Google的研究工作。

被稱為“人工智能教父”的傑夫里·辛頓。

在5月3日的世界經濟論壇活動上，微軟首席經濟學家施瓦茨也發布了警告。他在一個關於生成式人工智能的小組會議上發言稱，“在人工智能取代你所有的工作之前，它肯定會在垃圾郵件發送者手中造成很大的損害，這些人想要操縱選舉。”

施瓦茨的警告值得關注，因為微軟2019年就向OpenAI投資了10億美元，今年1月又宣布對OpenAI進行新的投資。OpenAI依靠微軟提供計算能力，這種關係可能會為微軟帶來高達300億美元的年收入。

但施瓦茨的態度仍然十分緩和，他說，人工智能顯然必須受到監管，但立法者應該謹慎行事，等到該技術造成“真正的傷害”。

施瓦茨表示，所有新技術，甚至汽車，在首次進入市場時都會帶來一定程度的風險。“當人工智能讓我們更有生產力時，我們人類應該過得更好。”他說，“因為我們能夠生產更多的東西。”

彭博社專欄作家帕米·奧爾森（Parmy Olson）當地時間5月3日撰文稱，辛頓的警報如果早幾年出現會更有效。這一事件凸顯了AI研究中的一個長期問題：大型科技公司對AI研究的控制如此之大，以至於就職這些公司的許多科學家害怕表達擔憂，因為擔心會損害職業前景。

2018年，Google前研究經理梅雷迪思·惠特克（Meredith Whittaker）在協助組織2萬名Google員工罷工後，不得不花費數千美元聘請律師。兩年後，GoogleAI研究人員蒂姆尼特·格布魯（Timnit Gebru）和瑪格麗特·米切爾（Margaret Mitchell）在發布了一篇強調大型語言模型風險的研究論文後被解僱。

2015年，《紐約客》的一篇文章描述了辛頓當時的態度。在被問到為什麼還在從事AI研究時，他說，“發現的前景太美好了”，Google在部署人工智能方面表現得“非常負責任”。如今，辛頓的離職和警告，將有望激發大型科技公司的其他研究人員說出自己的擔憂。