Meta發布Llama 3.2輕量級AI模型適用於行動設備
社群媒體巨頭Meta週三在Meta Connect 2024大會上發布最新的大型語言模型Llama 3.2,其中包括90B和11B參數的視覺大語言模型,以及1B和3B參數的輕量級純文字模型,後者適用於邊緣和移動設備。
據悉,Llama 3.2 1B和3B模型僅支援文字輸入,支援128K的上下文長度。這些模型可以執行裝置上的用例,如摘要、指令追蹤和本機重寫任務。
這些模型支援高通(QCOM.US)和聯發科硬件,並針對Arm處理器進行了最佳化。
Llama 3.2 11B和90B模型支援文字及圖像輸入,具有圖像和視覺理解功能。
Llama 3.2模型旨在成為迄今為止最以開發人員為中心的模型,並幫助開發人員建立設備代理。
Meta表示:「這些模型使開發人員能夠建立個性化的設備代理應用程序,這些應用程式具有很強的隱私性,資料永遠不會離開設備,例如,這樣的應用程式可以幫助總結最近收到的10訊息,提取操作項,並利用工具呼叫直接發送後續會議的日曆邀請。
由於處理是在本地完成的,因此設備上的模型可以實現更快的回應,並有助於確保隱私,因為資訊不必遷移到雲端。
Meta 並不是第一家推出設備內建人工智慧模型的公司。 Google最新的Pixel 9 Pro智慧型手機搭載了Gemini AI。蘋果的iPhone 16配備了蘋果智慧型系統(Apple Intelligence),將在下個月iOS 18.1發布後提供裝置內建AI。
另外,Meta也推出了第一副擴增實境(AR)眼鏡Orion和最新虛擬實境(VR)頭顯設備Quest 3S。
上述消息推動Meta股價一度漲超2%至575.77美元,創下歷史新高。