在最近MIT科技評論的專訪中，DeepMind聯創，Inlfection AI創辦人表示，他們已經將AI毒性去除，生成式AI只是過渡，未來AI將獲得像人一樣的自由。DeepMind的共同創辦人，Inflection AI的創辦人，Mustafa Suleyman接受了MIT科技評論對他進行了一次線上專訪，在專訪中，他拋出觀點：

現階段的生成式AI只是一個技術階段，接下來會進入互動式AI的時代：AI將會成為能夠根據每個使用者的不同任務需求去呼叫其他軟體和人來完成工作的機器人。

他創辦的公司——Inflection AI的目標，不僅僅是一個聊天助手，而是想要透過AI讓世界上的絕大多數人獲得更平等的資源和資訊。

最後，他也呼籲政府要積極的對AI進行監管，並認為將AI在現有製度下進行監管不難實現。

也許與Suleyman有相似看法的人並不少，但與大多數人不同的是，是一家估值數十億美元的公司——Inflection AI的領導者。

這家公司擁有來自DeepMind、Meta和OpenAI的頂級人才，並且透過與英偉達的合作擁有全球最大的專業AI硬體算力儲備。

我們正處於AI技術的三波浪潮中的第二波

在Sulyman看來，第一波AI浪潮是關於分類（Classification）的。深度學習表明，人類可以訓練電腦對各種類型的輸入資料進行分類：圖像、視訊、音訊、語言。

現在處於第二波浪潮，生成式AI之中，輸入資料並產生新資料。

第三波浪潮將是互動式AI。他一直認為對話是未來的互動介面。使用者不只是點擊按鈕和鍵入文字，使用者會與AI進行直接的對話。

這些AI將能夠自主採取行動。只需要給它一個一般性的、終局的目標，AI將使用所有工具來實現這個目標。

它們會與其他人對話，與其他AI對話。這就是他將要用Pi來實現的。

這是技術能力的巨大升級。這是科技史上一個影響非常、非常深遠的時刻，他認為許多人都低估了科技的潛力。

AI技術現在還是靜態的。它基本上是按照你告訴它的方式去做事。

但科技將變得有生命力。如果使用者給予AI充分的自由，AI就能去利用這種自由去採取行動。

這確實是人類歷史上一個質的飛躍，我們正在創造具有這種智能體能力的工具。

人類將始終是主導者。人類需要確定AI不能越過邊界的限制，並確保這些邊界從實際代碼到與其他AI或人類的互動，再到創造技術的公司的動機和激勵，都能提供可證明的安全性。

早年經歷對自己價值觀和創業的影響

當被問到他與眾不同的職業經歷和傳統的「矽谷風」截然不同，而這些經歷對於他在矽谷創業有什麼影響時，Suleyma回答：

他一直對權力、政治等方面很感興趣。他覺得人類基本原則是妥協的產物。依靠的是不同的、相互衝突的力量之間持續不斷的協商才能達成的一種動態平衡。

雖然人類不斷地解決問題──但是人類依然會被自身的偏見和認知盲點所限制。

民間組織、地方政府、中央政府、國際組織等等——都會受到自身的限製而沒有辦法有效率的，不犯錯的運作。

想像一下，如果人類不會犯錯，會出現什麼狀況？

他覺得人類有可能建構出真正反映自身利益的AI，並最終更一致、更公平地代表所有人做出更好的利弊權衡。

（1984年，Sulyman出生於倫敦北部，父親是敘利亞人，母親是英國人。他在貧困中長大，16歲時，父母分居，兩人都移居國外，留下他和弟弟自謀生路。

Sulyman上的是伊莉莎白女王學校(Barnet的一所男子文法學校)。大概在那個時候，他透過他最好的朋友，認識了DeepMind的共同創辦人Demis Hassabis。Sulyman說，他和Demis Hassabis經常討論他們將如何影響世界。

後來他被牛津大學錄取，學習哲學和神學，但一年後就退學了。

之後與他的大學朋友Mohammed M AMD ani一起創辦了穆斯林青年幫助熱線，這是一項電話諮詢服務。該組織後來成為英國最大的穆斯林心理健康支持服務機構。

隨後，Sulyman在倫敦市長Ken Livingstone手下擔任人權政策官員，之後創辦了Reos Partners，這是一家「系統性變革」顧問公司，利用解決衝突的方法來解決社會問題。

作為談判代表和調解人，Suleyman曾為聯合國、荷蘭政府和世界自然基金會等一系列的客戶工作。）

Suleyma說，離開DeepMind後，他已經財務自由了。不需要去創業或寫書賺錢養活自己。

錢從來都不是工作的動力。錢是工作的副產品。

對他來說，工作的目標從來沒有改變過，就是如何讓世界變得更好，以及如何以一種健康、令人滿意的方式推動世界前進。

即使在2009年那時，當他開始考慮進入科技業時，他就看到了AI技術代表了一種在世界上提供服務的公平和準確的方式。

（Suleyman與Hasabiss共同創立了人工智慧公司DeepMind Technologies，擔任首席產品長。DeepMind於2014年被Google收購，他成為DeepMind應用人工智慧的負責人。

2022年1月，Suleyman離開Google，加入Greylock Partners，擔任風險合夥人。

2022年3月，Suleyman與Greylock的Reid Hoffman共同創立了AI實驗室Inflection AI。

該公司成立的目標是利用“人工智慧幫助人類與電腦對話”，從Google和Meta等公司招募了前員工，並在第一輪融資中籌集了2.25億美元。

隨後在今年7月，得到了來自微軟、英偉達、比爾·蓋茲和LinkedIn創辦人Reid Hoffman的15億美元投資。

Inflection AI拿到融資之後，馬上就買了價值13億美元的英偉達H100 GPU，搭建了世界上最大的GPU集群之一。

今年早些時候，他發布了一款名為Pi的ChatGPT競賽。他也與作家和研究員Michael Bhaskar合著了一本關於AI未來的書，名為《即將到來的浪潮：科技、權力與21世紀最大的困境》。）

如何看待科技的負面影響

他認為過於糾結於誰是樂觀主義還是悲觀主義沒有太大的意義。這是有偏見的看待事物的方式。他只想冷靜地分析利益和挑戰。

站在他的立場上，可以非常清楚地看到，隨著大型語言模型規模的進一步提升，它們變得更容易控制。

所以兩年前，當時的觀點——他當時就認為是錯誤的——是“哦，它們只會產生有毒的、反芻的、有偏見的、種族主義的內容。”

但是這些情況都只是暫時的。人們忽略了科技不斷地進展，沒有真正理解科技向前發展的軌跡。

現在Pi這樣的模型，非常的可控。Inflection AI 可以不讓Pi產生種族主義、同性戀歧視、性別歧視——任何形式的有毒內容。

能讓它拒絕教導使用者製造生物或化學武器，或鼓勵使用者去砸鄰居的窗戶。

至於如何實現，Suleyma不想透露太多的技術細節，但他說，請放心大膽地去實驗！Pi已經上線了，用戶可以嘗試所有可能的攻擊方式。

針對Pi的任何越獄、提示駭客攻擊或任何事情都不起作用。這就是一個客觀事實。

Inflection AI有世界上最強大的團隊，在過去三、四年創造了所有最大的語言模型。

這是一個非常出色的團隊，在一個非常有效率的環境中工作，擁有大量的運算資源。

他們一開始就把安全當作第一優先事項，因此，Pi沒有像其他公司的模型那麼「火辣」。

看看Character.ai。（Character是一個聊天機器人，用戶可以為其設計不同的“角色”，並在線分享給其他人聊天。做鏈接） 它的功能主要用來創造天馬行空的角色，但是Inflection AI一開始就覺得這不是一個好的方向－他們不會做這樣的功能。

Pi會非常尊重你。如果你開始抱怨你社區的移民搶了你的工作，Pi不會指責你，不會對你指手畫腳。

Pi會關心地詢問並提供你語言和心理上的支持。它會試著了解使用者這種情緒從何而來，並溫和地鼓勵你去同情別人。這些都是我思考了20年的價值觀。

但被問到如果開源這些技術能讓世界變得更好的話，為什麼不開源。

Sulyman強調，自己畢竟在經營公司，得賺錢養活大家，之前買了英偉達13億的GPU，得賺錢滿足投資人對回報的要求。

現在開源生態系統正在蓬勃發展，做得相當不錯，開源社群也發現類似的方法。Suleyman只假設他們最多領先六個月。

AI監管如何有效進行

對他而言，開發AI遞歸自我改進的技術需要被監管起來，小型AI在沒有你的監督下去更新自己的程式碼是危險的，也許這甚至應該是一個需要許可的行為。

或許需要像處理炭疽或核子材料一樣，有專門的機制來監管這種行為。

他也認為，對於AI的恐懼是完全沒有必要的。AI監管完全可以落腳在現在的監管框架之內。AI只是治理體系的另一個組成部分。

人類在規範超複雜事物方面做得非常好。聯邦航空管理局為例：我們都已經習慣乘坐這些鋁製管線在四萬英尺的高空飛行，而這是有史以​​來最安全的交通方式之一。這就是監理成功的例子。

或汽車：每個組件都經受了極限的壓力測試，而使用者必須有駕照才能駕駛它。

有些行業——比如航空公司——一開始就很好地自我規制。因為他們知道，如果他們沒有做好安全工作，大家都會害怕，他們就會失去生意。