1000個智能體創造首個“AI文明” 北大校友放棄MIT教職打造“西部世界”
在我的世界裡，出現了有史以來第一個智能體文明。 1000多個智能體一同協作，在虛擬世界中建構起，自己的經濟、文化、宗教和政府。網友紛紛驚呼，西方世界真的來了。世界首個「智能體文明」誕生了！誰也不曾料到，1000多個智能體合作多日，竟在虛擬現實——“我的世界”中構建起了，真正的文化、經濟、宗教、政府，等等等等….. .
這些智能體是完全自主的個體，也會利用工具、遊戲來達成目標。
它們能夠分工，從無到有，一起收集300多個物品。
它們之間形成了一個交易市場，並以寶石（gem）作為統一的貨幣，完成物品交換，建構了一個自己的經濟體系。
到這裡，你可能會認為這些“商人”智能體是最會做貿易的“人”，那就大錯特錯了。
事實上，「牧師」智能體，才配享之最。
這是因為，他經常賄賂鄉民，讓他皈依他信仰的宗教。
除此之外，1000多個智能體所進行的活動，幾乎1:1復刻了人類世界。它們能夠24小時，無間斷在「我的世界」中參與活動，而且每天都有所不同。
人類文明數千年的歷史，我們得以成為地球上登月唯一的物種，是因為能夠進行大規模的合作。
現在看來，智能體同樣可以做到。
網友紛紛表示，這不就是寫實版的《西方世界》。
甚至，還有人稱，我們就生活在模擬世界。
簡直太瘋狂了！
這個代號為「Sid」的項目，今天在AI圈裡掀起了巨震。
值得一提的是，它是由北大校友、MIT教授Robert Yang發起，和Altera團隊成員們將智能體以前所未有的規模組織起來，實現了單一智能體無法做到的事情。
在GPT-4加持下，1000多個智能體合作，不僅湧現新的商業中心，還會參與民主投票、傳播宗教等等。
而且，在基準測試中，Altera的智能體收集了，比以往多5倍的不同物品。
這結果（32%），遠遠超過了英偉達Voyager、AutoGPT，以及普林斯頓Google提出的ReAct，是它們的5倍之多。
當AI不再是AI，而是有了靈魂的“人”
回歸到具體場景中，當每個智能體全都被賦予了不同角色，便有了靈魂。
如同人類一樣，在自己的世界中，認真地去生活。
Olivia的夢想
Olivia曾經是一位農民，為整個智能體文明系統提供食物。
有一天，他深受來村莊的一位探險家Nora故事的啟發，決定放棄耕作一去探險。
但是，鎮上的鄉民紛紛懇求他留下來，Olivia最後選擇聽從並放棄了自己的夢想，繼續留在了村莊。
民主投票
接下來，研究人員也模擬了A和B兩位政治領袖的「平行世界」。
在每個世界中，公民都有一個共享的憲法文件，儲存在Google文件中，它們可以透過投票來修改憲法。
在A的領導下，模擬世界通過了新的法律，並增加了警察的數量。
而在B的領導下，它們則專注於刑事司法改革、以及廢除死刑等條例。
透過智能體之間政治交互，它們會隨著時間成長，並會受到群體的影響。
正如「烏合之眾」一書中，對人類社會中群體影響的分析，也出現在了智能體之間。
這聽起來可能有些荒謬，但這也是我們首次看到智能體，能夠形成一個民主制度來規束自己。
失蹤的村民
當有村民失去時，所有智能體便會停下手邊工作，主動離開自己的崗位。
它們共同合作，用火炬點亮整個小鎮，希望成為那位失蹤村民的燈塔。
這當中，一個令人驚奇的發現是，一旦這些村民對同失蹤的同伴感到擔憂時，就會團結起來做規劃。
目前，在Altera平台上，所有人皆可試玩智能體的遊戲世界。其中，Elon、T-2000、Katniss深受大家喜歡。
試玩網址：https://playlabs.altera.al/discover
以下是，Altera聯創出的一期教學視頻，他以T2000為例，在我的世界中，讓它幫自己尋找木鋤頭，僅在10步完成了任務。
這裡還有一個教你玩遊戲的智能體－Roshi。
當你告訴它自己不知道怎麼玩，Roshi會手把手教你，例如敲擊樹木，你照著做就可以了。
它還會教導玩家，如何利用介面物品，製作工具，可以稱得上是無所不能。
下面這位玩家，讓Roshi跟著自己，並告訴這只是一個惡作劇。沒想到，Roshi使用了作弊代碼，對齊進行了報復。
建構AI大腦
打造出這個智能體平台的創始科學家Peter Wang稱，Altera正從0開始建構AI大腦。
他們將前額葉皮質與感知、運動、情感和記憶模組連接起來，創造出不僅高效而且富有人性的智能體。
這是神經科學家的夢想，不僅建構模擬大腦，還要觀察、量化、幹擾（perturb）社會互動。
想像一下，這就像是魚群的群聚行為，卻需要用來進行人類層級複雜的社會行為，例如在經濟貿易中物品交換、或對憲法投票。
這就是，Altera團隊正在進行的一項工作。
他們每天都在努力解決一個深刻而基本的問題：
如何建構和量化那些使我們成為人類的特質──情感、目標設定、同理心、需求、慾望──而在這個過程中不失去其本質？
這點至關重要，他們希望建構的智能體，能夠超越表層的訓練過程，呈現人類的價值觀。
Project Sid：真·自主AI智能體
建構一個由AI智能體組成的文明會是什麼樣子？
我們距離《西方世界》有多遠？
我們能否使AI文明與人類文明保持一致？
在團隊看來，Sid就是探索這些問題的第一步──最終將數位人無縫整合到人類社會中。
這裡所說的真正自主的智能體，特別指以下擁有這4種特質的AI：
1. 長期自主：能夠獨立運作數小時，甚至數天（而不僅僅是簡單的函數調用「智能體」）
2. 組織性：能夠相互協作以達成個體無法完成的任務（而不僅僅是為1000個客戶服務1000個智能體）
3. 親人類動機：擁有支持人類的深刻和強大的驅動力（而不僅僅是遵循指令的順從機器）
4. 有意識的溝通：能夠言語表達它們有意識的思想和感受（而不僅僅是語言條件反射的機器人）
為什麼這些特質，在我們邁向下一個AI層次時顯得尤為重要？
1. 人類無法像對待ChatGPT/Claude那樣對每一個AI事無鉅細地管理，它們必須更加自主。
2. 我們如何信任它們的自主決策？它們不能僅僅被訓練成模仿人類。它們最深層的動機必須與人類的價值觀一致。
3. 它們不僅需要能夠溝通。它們的話語必須充分反映出它們內心的想法和決定。
4. 隨著AI智能體成為我們人類文明的重要一部分，它們必須能夠有效地與彼此以及我們其他人合作。
創新
一直以來，遊戲（例如「我的世界」），都是測試新興技術的絕佳試驗場。在遊戲中，智能體行為的可靠性並不是必要的。
事實上，不可預測性甚至可以是一個特點，而不是一個漏洞。從而讓研究人員能夠更快地測試、迭代和發布。相較之下，生產力工具和輔助工具則需要更高的可靠性。
在開發Sid時，團隊採用了許多創新的方法來提升智能體的社交能力、覺知和內在心理過程。
1. 對話
像人一樣，智能體之間的對話不僅應取決於它們之前所說的話，還應取決於它們之間的關係。
為了實現真實的對話，團隊在智能體的行為中建構了社會世界模型。其中，智能體會形成和更新其他智能體的模型——它們的行為、觀點和需求，並利用這些資訊在社交環境中進行對話和行為。
像人一樣，智能體應該能夠出於多種原因進行交流——表達自己的意圖、閒聊、分享它們的希望和夢想。
為此，團隊建立了一組對話模組。一方面可以讓智能體的言語與它們的行動和意圖一致，另一方面則是讓智能體可以談論與現實脫節的想法。
2. 強大的目標和意圖管理
有組織的心理過程，可以支持智能體的社交行為和決策，考慮正在進行的事件和活動。
例如，團隊為智能體提供了追蹤正在進行的活動並將這些事件整合成簡明記憶的能力。這些補充對於減少無限行動循環——智能體的一個長期存在的問題——至關重要。
同時，為了讓智能體能夠靈活調整其行為來處理目標，團隊也賦予了豐富的精神生活，這與即時的感官和運動反應分離。在這種精神生活中，智能體可以推理、反思，並產生或改變其目標以適應快速變化的環境。
架構
由於「大腦」是唯一經過驗證的人類級智能體模型，因此團隊提出了一種全新的「系統神經科學複合架構」。
其中，模型會去模擬前額葉皮質、記憶系統、社會情緒狀態等等。
挑戰
和其他任何第一次嘗試一樣，Sid專案提出的問題多於它所能解答的問題：
1. 如何能以一種通用的方式有意義地衡量真正的長期進展？ 2. 如何建構真正關注人類發展的智能體？ 3. 如何建構對自己的行為及其後果具備意識的機器？ 4. AI文明可以擴展到多大規模？
舉例來說：
– 難以對文明進行評估
在「我的世界」中，團隊使用了技術/工具進步、貿易活動、健康和協調/協作任務來評估社會進步。雖然每個評估捕捉了社會的某些方面，但單純地優化一個社會方面可能會導致其他方面的不足。
– 目標驅動的自主性和協作之間存在衝突
高效率的技術進步，在較少溝通且高度目標導向的智能體中效果最佳。但如果智能體太偏向完成自己的目標，那麼它們就會在需要靈活和動態目標設定的協作任務中失敗。為此，智能體需要在維持內在目標驅動的同時，關注社會影響力和動機。
– 單一智能體的缺陷缺陷將導致一系列逐漸偏離最初目標的行動
在一個場景中，老闆將任務（例如製作鐵鎬）委派給經理，然後經理再委派給工人，團隊成功的能力需要每個成員有效地溝通它們的目標並在這個社會層級中上下委派責任。
總的來說，想要回答這些問題，還需超越目前典範的研究及工程實務。
北大校友創業，打造有同理心AI
Robert Yang
Robert Yang是Altera的共同創辦人兼CEO。
此前，他分別在紐約大學和耶魯大學獲得計算神經科學博士學位，並在北大獲得物理學學士學位。
他曾是MIT腦與認知科學系和電子工程與電腦科學系教授，以及MIT MetaConscious小組負責人。
2023年，他關閉了實驗室並離開了麻省理工學院的終身教職，創立了Altera。
Altera的團隊雖小，但人才密度極高——
由來自麻省理工學院電子工程與電腦科學系、史丹佛自然語言處理小組、Google X、Citadel、Supercell等的計算神經科學家、物理奧林匹克選手和工程師組成。
這家成立半年多的公司，年初就獲得了200萬美金的種子融資，由Andreessen Horowitz領投。
三個月後，又再融資900萬美元，由Google前CEO艾瑞克‧施密特的First Spark Ventures、Patron VC、天使投資人Mitch Lasky等人領投。
今年5月，Altera在Menlo Park設立了分店，並致力於成為第一個智能體消費產品的供應商。
數位人會取代人類嗎？
正如理查德·費曼所說：“凡我不能創造的，我就不能理解。”
創造數字人便是一種能更好地理解人性的方式──不僅要在個體層面上去理解，而且還必須透過群體、社會和文明的視角來觀察。
那麼，數位人類會取代真實的人類嗎？
答案是——「不會」。
在團隊看來，數位人是為了增強人類，而不是取而代之。
隨著智能體互動品質的提高，文明的品質也會隨之提高。
當突破某一關鍵閾值時，就會發生質變，正如語言模型在大到一定程度時會「湧現」一樣，屆時智能體文明將不僅能夠自我維持，還能自我改進。
到那時，我們或許就可以擁抱一個數位人重新定義人類能力極限的世界了。
參考資料：
https://digitalhumanity.substack.com/p/project-sid
https://digitalhumanity.substack.com/p/building-digital-humans