谷歌的又一波反擊!開放大語言模型PaLM API
事到如今,OpenAI 的ChatGPT 在AI 社區的統治地位已經無需多言。特別是OpenAI 開放ChatGPT 的API 之後,在開發者社區掌握了極大的話語權。反觀Google那邊,在第一波發布Bard 失利之後,一直處於沉默狀態。
但在今日,Google組織了第二波反擊:開放自家的大語言模型API “PaLM API”,此外今天Google還發布了一款幫助開發者快速構建AI 程序的工具MakerSuite。Google表示,此舉是為了幫助開發者們快速構建生成式AI 應用。
但略為遺憾的是,Google目前是向選定的開發人員提供這些工具,而非全面開放。
基於PaLM 模型的API
毫無疑問,PaLM API 是今天Google發布的公告的核心。
Google介紹稱,PaLM API 是Google 大型語言模型的入口,可用於各種應用程序。它將為開發者提供面向對輪交互而優化的模型,如內容生成與對話。它也能為開發者提供摘要、分類等多種任務的通用模型。
從名字可以開出,此次開放的大語言模型API 是基於Google去年發布的PaLM。這是Google基於Pathways 系統訓練的一個5400 億參數的大型語言模型。
為了訓練這個模型,Google動用了6144 塊TPU,讓Pathways 在兩個Cloud TPU v4 Pods 上訓練PaLM。
強大的系統和算力投入帶來了驚豔的結果。Google在數百個語言理解和生成任務上評估了PaLM,發現它在大多數任務上實現了SOTA 少樣本學習性能,可以出色地完成笑話解讀、bug 修復、從表情符號中猜電影等語言、代碼任務。
隨著規模的增加,模型在處理多個任務時的性能逐漸提高,而且還在不斷解鎖新的能力
關於PaLM,讀者們可以查看論文《PaLM: Scaling Language Modeling with Pathways》。
此外,Google公告稱,後續會開放更多規模與功能不同的模型。PaLM 是Google選擇的第一個版本,所以後續我們也可以期待下L AMD A API 等。
MakerSuite 工具
在過去的幾年裡,Google一直在構建和部署大型語言模型—— 從將MUM 引入搜索到在AI Test Kitchen 中使用LaMDA 構建APP。Google表示,開發人員必須使用不同的工具來完成任務,例如製作和迭代prompt、生成合成數據以及精調自定義模型。
MakerSuite 是一種簡化此工作流程的工具,讓用戶將能夠根據prompt 進行迭代,使用合成數據擴充數據集,並輕鬆調整自定義模型。當你準備好編程時,MakerSuite 允許將prompt 導出為你最喜歡的語言和框架(如Python 和Node.js)的代碼。
Google表示,借助MakerSuite,你能夠直接在瀏覽器中快速測試和迭代調整後的模型。
最後補充一句我們觀察到的結果:Google今日的兩篇博客發布後,似乎已經引起了一些人的不滿:並非全面開放、也沒有定價。也許,可以說相比之前ChatGPT API 的開放,Google這一波反擊,也略顯失敗。