Mistral推出新服務和SDK 允許客戶對其模型進行微調
法國人工智慧新創公司Mistral 正在推出新的人工智慧模型客製化選項,包括付費計劃,讓開發人員和企業可以針對特定用例對其生成模型進行微調。首先是自助服務。 Mistral 發布了一個軟體開發工具包(SDK)– Mistral-Finetune,用於在工作站、伺服器和小型資料中心節點上對其模型進行微調。
Mistral在SDK的GitHub倉庫的自述文件中指出,SDK針對多GPU設定進行了最佳化,但也可以擴展到單一NVIDIA A100或H100 GPU,用於微調Mistral 7B等較小的模型。 Mistral表示,對UltraChat這樣的資料集進行微調需要半小時左右,UltraChat是使用OpenAI的ChatGPT進行的140萬次對話的集合,使用Mistral-Finetune在8個H100上進行微調。
對於偏好管理型解決方案的開發人員和公司來說,Mistral 新推出的微調服務可透過公司的API 使用。 Mistral 表示,微調服務將在未來幾週內支援更多型號。
最後,Mistral 將首次推出客製化培訓服務,目前只針對部分客戶,利用他們的數據為組織的應用程式微調任何Mistral 模型。 “該公司在其官方部落格的一篇文章中解釋說:”這種方法可以為特定領域創建高度專業化和優化的模型。
我的同事英格麗德-倫登(Ingrid Lunden)最近報道說,Mistral 公司正尋求以60 億美元的估值向包括DST、General Catalyst 和光速創投(Lightspeed Venture Partners)在內的投資者融資約6 億美元。
自2023 年9 月Mistral 推出首個生成模型以來,它又發布了多個模型,包括程式碼產生模型,並推出了付費API。但它還沒有透露有多少用戶,收入如何。