微軟欽點OpenAI備胎:GPT-4級大模型上線即擠爆成本僅2,200萬美元
成立僅9個月,法國Mistral AI拿出僅次於GPT-4的大模型。在所有已能通過API存取的大模型中排第二,全班唯二在MMLU考試中拿80分以上的。一舉獲得微軟青睞,簽署了多年合作協議。也就是說,微軟不再獨寵OpenAI了。
同時推出線上聊天機器人平台Le Chat,即使有了微軟Azure算力資源,伺服器還是被擠爆了。
由於其API比GPT-4最新版便宜20%,已經吸引了部分創業家去嘗試。
根據HyperWriteAI創始人測試,Mistral Large跑分看起來只比排第三的Claude 2好一點,但是實測效果還要好更更多。
不過也有開發者認為便宜只是暫時的,非常確信GPT-4也有降價空間。
總之,這個價格戰真的打起來就更妙了。
網頁版開放,但伺服器被擠爆
Mistral Large屬於他家商業系列的大杯,不開源,也不免費。
主要亮點如下:
32k上下文視窗
支援多語言,程式碼能力強,擅長推理
原生支援函數呼叫和輸出JSON格式
模組化的審查控制機制
在多項推理與知識能力測驗中,成績僅次於GPT-4
除此之外,也沒有更多消息透露,從之前小杯、中盃的情況看,技術報告可能也不會有了。
不過創辦人Arthur Mensch透露,Mistral Large訓練成本不到2,200萬美元,相較之下GPT-4可能超過1億美元。
API價格比gpt-4-turbo便宜20%,輸出一百萬token要24美元,約173人民幣元。
gpt-4-turbo同樣輸出一百萬token要30美元,約216人民幣。
兩者輸入token價格都是輸出tokend的1/3。
除了透過API存取之外,這次Mistral也開放了相當於ChatGPT的網頁版Le Chat聊天助理。
這裡還有一個小彩蛋。
Le Chat在法文相當於英文The Cat,在原本的M字Logo下方加上兩個點代表眼睛,這樣空白處就成了貓耳。
切換到夜間模式,也會變成Le Chat Noir,也就是The Black Cat。
很可惜,現在再註冊已經需要排隊了。
現在想體驗Mistral Large,也可以去Poe.com或大模型競技場LMSYS Chatbot Arena。
不過由於太火了,目前全平台無法回應…
在最新Chatbot Arena排行榜上,Mistral中盃版已經與GPT-4早期版本差距不大,大杯版的表現也值得期待。
微軟不再獨寵OpenAI
微軟CEO納德拉宣布,已與Mistral AI建立多年合作關係。
微軟將持有Mistral AI少量股份,並提供算力基礎設施用於w訓練和推理部署大模型。
新模型優先透過微軟Azure雲端提供給客戶,暫不登入亞馬遜Google雲端等其他雲端平台。
Mistral也成了微軟Azure上除了OpenAI以外,第二家商業閉源模型供應商。
有網友開玩笑說,早點看出來他們兩家有點關係,Mistral AI的Logo一看就是用Word藝術字畫的。