高通實現Meta Llama 3在搭載Snapdragon的裝置上運作!

高通和Meta宣布合作,以最佳化Meta Llama 3大型語言模型(LLM)直接在智慧型手機、PC、VR/AR頭戴式裝置和汽車等終端裝置上的執行表現。在裝置上運行Llama 3可帶來顯著優勢,包括更出色的反應能力、增強的隱私和可靠性,以及為使用者打造更加個人化的體驗。

亮點:

  • 高通與Meta合作最佳化Meta Llama 3大型語言模型,支持在即將推出的Snapdragon旗艦平台上實現裝置上執行。
  • 開發者將能存取Qualcomm AI Hub的資源以及工具,以在 Snapdragon 平台上最佳化運行 Llama 3,進而縮短上市時間,並充分發揮裝置上AI的優勢。
  • 高通技術公司的裝置上AI功能包括業界領先的NPU、CPU和GPU的技術組合,可針對生成式AI應用實現即時性、增強的可靠性、隱私、情境感知的個人化和成本效益。