有「AI教父」之稱的約書亞·本吉奧（Yoshua Bengio）最新警告稱，我們正在創造比人類更強大的怪物（人工智慧）。他在接受採訪時表示：“智慧賦予力量，無論誰控制了這種力量——無論是人類水平還是高於人類水平，都將變得非常非常強大。”

「總的來說，科技會被那些想要更多權力的人所利用，例如他們想要經濟主導地位、軍事主導地位、政治主導地位。因此，在我們創造可能以危險方式集中權力的技術之前，我們需要非常小心。

對於一般投資人而言，這位學術大佬的知名度或許不如黃仁勳、山姆•阿爾特曼，但他在多層神經網路技術上貢獻卓著，奠定了其「AI教父」的地位。

60歲的本吉歐是一位加拿大電腦科學家，致力於神經網路和深度學習演算法的研究。他的開創性工作為我們今天使用的人工智慧模型開闢了道路，例如OpenAI的ChatGPT和Anthropic的Claude。

2018 年，本吉奧與兩位同事——前Google副總裁傑弗裡·辛頓（2024 年諾貝爾物理學獎得主）和Meta首席人工智慧科學家楊立昆（Yann LeCun）共同獲得了圖靈獎（有計算界諾貝爾獎之稱）。 2022 年，本吉歐成為全球被引用次數最多的電腦科學家。 《時代》雜誌將他評選為全球100 位最具影響力人物之一。

可以說，如果沒有本吉奧，人工智慧可能就不存在了。

儘管幫助發明了這項技術，但本吉奧現在已經成為人工智慧領域的謹慎人物。同時，投資人卻對AI領域展現了極大的熱情，並將相關公司的股價推高位。例如，人工智慧晶片寵兒英偉達的股價今年迄今上漲了約180%，而標普500指數的漲幅僅22%。

以下為本吉奧在最新訪談中的一些觀點：

我們為什麼要關注人類等級的人工智慧？

如果它落入壞人之手，不管這意味著什麼，那將是非常危險的。這些工具可以很快地幫助恐怖份子，也可以幫助那些希望摧毀我們民主的國家機構。還有一個問題，許多科學家一直在指出，那就是我們現在訓練它們的方式——我們並不清楚如何避免這些系統變得自主（思考和行動），有自己的保護目標，我們可能會失去對這些系統的控制。所以我們可能會創造出比我們更強大的怪物。

OpenAI、Meta、Google、亞馬遜，哪個AI巨頭做得對？

在道德方面，我認為表現最好的公司是Anthropic（其主要投資者包括亞馬遜和Google）。但我認為他們都有偏見，因為在經濟結構中，他們的生存取決於成為領先的公司，最好是第一個實現AGI（通用式人工智慧）。這意味著一場競賽，一場公司之間的軍備競賽，公共安全很可能是個失敗的目標。

Anthropic 發出了許多訊號，表明他們非常關心如何避免災難性後果。他們是第一個提出安全政策的公司，承諾如果人工智慧最終擁有可能造成危險的能力，他們就會停止這種努力。他們也是唯一支持SB 1047 的公司，就像馬斯克的態度一樣。

“SB 1047法案”，全名為“前沿人工智慧模型安全創新法案”。該法案是第一批要求AI開發人員對其技術造成的任何嚴重損害負責的法案之一。不過，這項AI監管「里程碑」在最後一刻被美國加州州長紐森否決了。

對英偉達等人工智慧股票的大幅上漲有何看法？

我認為非常確定的是長期的發展軌跡。因此，如果你長期投資，這是一個相當安全的賭注。除非我們無法保護公眾……（那麼）後果可能是一切都會崩潰，對吧？要不是因為社會普遍反對人工智慧，就是因為真正災難性的事情發生了，我們的經濟結構崩潰了。

無論哪種情況，都對投資者不利。所以我認為，如果投資人夠聰明的話，他們會明白，我們需要謹慎行事，避免可能損害我們整體未來的那種錯誤和災難。

對人工智慧晶片競賽的看法？

我認為晶片顯然正在成為這個謎題的重要組成部分，當然，它也是一個瓶頸。很可能對大量運算的需求不會隨著各種事件的發生而消失，我可以預見未來幾年的科學進步，因此擁有高端人工智慧晶片的能力將具有戰略價值——供應鏈中的所有步驟都將至關重要。現在很少有公司能夠做到這一點，所以我希望看到更多的投資，希望有一點多樣化。