高通將與Meta合作為智能手機和個人電腦增加Llama 2 AI模型支持
我們報導了Meta 公司宣布並推出Llama 2 的消息,Llama 2 是其用於生成式人工智能應用程序和服務的大型語言模型的下一代版本。現在,有消息稱Meta 與高通公司(Qualcomm)建立了新的合作關係,Llama 2 將可以在採用高通驍龍芯片的移動設備上使用。
高通公司在一份新聞稿中表示,雙方合作的目的是讓這些終端能夠運行基於Llama 2 的應用程序和服務,而無需像當前其他生成式人工智能產品(如ChatGPT 和Bing Chat)那樣連接到雲服務。
高通公司表示:
在智能手機、個人電腦、VR/AR 頭顯和車輛等終端上運行Llama 2 等生成式AI 模型的能力使開發人員能夠節省云成本,並為用戶提供更私密、更可靠和個性化的體驗。
在終端上運行像Llama 2 這樣的大型語言模型有很多優勢。與使用基於雲的LLM 相比,它的成本效益更高,性能也更好,因為它無需連接到在線服務。同時,設備上的LLM 可以提供更加個性化的人工智能服務。與連接雲服務器相比,它還可以更加安全和私密。
目前,高通公司計劃於2024 年開始在使用驍龍芯片的設備上支持基於Llama 2 的人工智能服務。至於它是否需要最新一代的高通芯片才能工作,或者這種支持能否向後兼容當前的驍龍芯片,目前還沒有任何消息。
Meta 公司稱,Llama 2 的訓練數據比第一代Llama LLM 多40%。該公司已經宣布與微軟合作,在微軟的Azure服務上向商業和研究用戶免費提供Llama 2,並提供在Windows PC上本地下載和運行LLM的方法。