高通攜手Meta 行動裝置也可運行Llama 3

高通攜手Meta 行動裝置也可運行Llama 3。(擷取自官網)
高通攜手Meta 行動裝置也可運行Llama 3。(擷取自官網)

高通 (QCOM-US) 與 Meta 宣布合作,在智慧型手機、PC、VR/AR 頭戴式裝置和汽車等終端裝置上,可直接運行 Meta Llama 3 大型語言模型 (LLM),並最佳化其執行表現。

雙方看好,在裝置上運行 Llama 3 可帶來顯著優勢,包括更出色的反應能力、增強的隱私和可靠性,以及為使用者打造更加個人化的體驗。

高通資深副總裁暨技術規劃和邊緣解決方案業務總經理 Durga Malladi 表示,我們讚賞 Meta 對於 Meta Llama 3 的開放策略,高通與 Meta 都致力於支持開發者,激發 AI 創新。高通在裝置上 AI 的領先地位,結合在不同邊緣裝置的廣泛影響力,使我們能夠在全球擴大 Llama 生態系的優勢,並使客戶、合作夥伴和開發人員能夠創造新一代具突破性的 AI 體驗。

此次合作旨在支援 OEM 廠商和開發人員,讓其能夠在搭載即將推出的旗艦 Snapdragon 平台裝置上取用 Llama 3,推動生成式 AI 功能的普及。高通強大的異質運算架構,無縫地利用業界領先的 CPU、GPU 和 NPU,並結合尖端的記憶體架構,使客戶、合作夥伴和開發人員能夠最大限度地提升應用效能、散熱效率和電池續航力。

開發人員將能在 Qualcomm AI Hub 上取得相關資源和工具,以實現在 Snapdragon 平台上最佳化運行 Llama 3。Qualcomm AI Hub 目前可提供約 100 個最佳化的 AI 模型,能為開發者縮短產品上市時間,並讓其開發的應用程式充分發揮裝置上 AI 的優勢。

高通和 Meta 致力於推動創新並實現新一代 AI 體驗,此次合作是雙方持續攜手努力的重要里程碑,展示了雙方以强大 AI 功能為開發人員和使用者提供支持的决心。


延伸閱讀

相關貼文

prev icon
next icon