騰訊發布新一代大模型「混元Turbo」:推理成本下降50% 效率提升100%
在騰訊全球數位生態大會上,騰訊集團副總裁、雲端與智慧產業事業群COO、騰訊雲總裁邱躍鵬宣布發布新一代的大模型-騰訊混元Turbo。新一代的大模型基於MoE(Mixture of Experts)架構設計,相較於前一代產品混元Pro,在推理效率上實現了翻倍,達到了100%的提升,同時在推理成本上實現了顯著降低,降幅達50%。
此外,混元Turbo在解碼效率方面也表現出色,有著20%的提升。
價格方面,混元Turbo相較於前一代產品降低了50%,輸出價格為0.05元/千tokens,輸入價格為0.015元/千tokens。
據了解,在中文大模型評測基準SuperCLUE發表《中文大模型基準評估2024年8月報告》中,混元新一代大語言模型預覽版(Turbo-Preview)在理科、文科均居於第一名。
Hard任務上騰訊混元Turbo-Preview取得74.33分,是國內唯一超過70分的大模型,與ChatGPT-4o有微小差距。
目前,騰訊內部已有許多業務及場景接取了混元大模型,包括騰訊元寶、騰訊雲、QQ、微信讀書等。
騰訊旗下協作SaaS(軟體即服務)產品也已全面連接騰訊混元大模型。