在歐盟放行了全球首部人工智慧法案後，有科技界領袖對此表達擔憂，認為人工智慧的風險被誇大了。在上週舉行的巴黎VivaTech大會期間，科技巨頭Meta人工智慧負責人楊立昆（Yann LeCun）公開表示，歐盟新法案面臨的一個「大問題」是「人工智慧的研究和開發是否應該受到監管」。

AGI何時實現, 業內分歧較大

楊立昆表示，歐盟人工智慧法案和其他各個地方都有規範研究和開發的條款，但他認為這不是一個好主意，理由是他並不認為人工智慧會很快超越人類智慧。

「坦白說，我不相信AI有任何與人接近的地方。」楊立昆表示，「我認為它目前沒有那麼危險。」不過他承認，未來人工智慧系統可能會變得更加智能，屆時需要對它們的設計採取適當的保障措施。

百度CEO李彥宏也在VivaTech期間表示，AGI的實現還需要超過十年的時間。他表示：“我們希望人工智慧像人類一樣聰明，但當今最強大的模型遠未達到這一程度。”

李彥宏呼籲加快人工智慧的發展步伐。 「我擔心的是人工智慧技術進步得不夠快。每個人都對過去幾年科技發展的速度感到震驚。但對我來說還是不夠快。」他說。

以特斯拉CEO馬斯克為代表的科技人士強調人工智慧的風險，馬斯克在X Space的訪談中預測，到明年或2026年，人工智慧的智慧可能會超過世界上最聰明的人類，也就是通用人工智慧（AGI）的實現。

ChatGPT的開發商OpenAI的CEO奧爾特曼（Sam Altman）在今年稍早預測，AGI可能會在「相當近的未來」開發出來。

對於人工智慧安全性風險的分歧在OpenAI的「內鬥」中已經暴露出來。 OpenAI在宣布向公眾免費提供迄今為止最強大的人工智慧模型GPT-4o後，該公司前首席科學家蘇茨克維爾（Ilya Sutskever）宣布辭職，「超級對齊」團隊解散。

這也引發了誰來為AI負責的討論。現任清華大學國強教授、智慧產業研究院首席研究員聶再清對第一財經記者表示：「Ilya對大模型技術的理解非常深刻，他的離職和對齊團隊的解散短期內對OpenAI大模型技術的發展和安全可控可能會有一些影響。

他認為，作為一個大的科技企業，可以透過團隊的協同，在「對齊」這個方向上做更好的長期規劃和資源共享及調配。

創新與監理如何平衡

歐盟一直走在人工智慧監管的最前線。上週，歐盟委員會批准了《人工智慧法案》，這項法案是全球首創，將為人工智慧監管制定全球標準。

該立法遵循「基於風險」的方法，旨在促進私人和公共參與者在歐盟市場上開發和採用安全、值得信賴的人工智慧系統。法案規定，提供公共服務的實體部署高風險人工智慧系統之前，需要評估其基本權利影響。這也意味著AI對社會造成傷害的風險越高，監管的規則就越嚴格。

該法案也涉及通用人工智慧大模型（GPAI）的使用。根據法案，不構成系統性風險的GPAI模型將受到一些有限的要求，例如透明度方面的要求，但那些存在系統性風險的模型將必須遵守更嚴格的規則。

一些企業和產業組織已經明確對歐盟的AI法案提出反對，認為這不利於歐洲打造人工智慧高地。歐洲科技業組織Digital Europe先前在聲明中表示：「這意味著我們需要投入更多研究對抗人工智慧使用風險的方法，而不是投入技術本身，新的監管規則將要求公司投入大量資源來遵守，把資源花在律師身上，而不是僱用人工智慧工程師。

Meta歐盟事務主管Marco Pancini也表示：“最重要的是，我們不應該忽視人工智慧在促進歐洲創新和促進競爭方面的巨大潛力，而開放是關鍵。”

亞馬遜首席技術長沃納·沃格爾斯(Werner Vogels)也在VivaTech期間表達了對人工智慧監管可能扼殺某些領域創新的擔憂。

他表示，在考慮風險時，監管機構應該考慮將新技術應用於醫療保健和金融服務。 「我認為AI在許多領域應用的風險很小，我們應該讓創新在這些領域發揮作用。在其他領域，AI犯的錯誤可能對人們的生活產生更大的影響，應該針對這些特定領域進行特別的風險管理。

他也強調，亞馬遜歡迎監管，並與監管機構的整體目標保持一致，但警告歐盟不要過度監管人工智慧。

對此，歐盟委員會表示，該法案的推出目標是「刺激歐洲人工智慧的投資和創新」。「這項具有里程碑意義的法案是世界上第一部AI法案，它解決了全球技術挑戰，也為我們的社會和經濟創造了機會。透過人工智慧法案，歐洲強調在處理新技術時信任、透明度和問責制的重要性，同時確保這種快速變化的技術能夠蓬勃發展並促進歐洲創新。

歐盟表示，該立法法案經歐洲議會通過後，將在未來幾天內在歐盟官方公報上發布，並在發布後二十天生效，新法案將在生效兩年後對企業正式產生影響。不遵守規則的公司將面臨3,500萬歐元或等同於全球收入7%的罰款（二選一）。