高通支持Meta Llama 3在骁龙终端上运行,房间物体识别就是例子

高通支持Meta Llama 3在骁龙终端上运行,房间物体识别就是例子


要点

  • 高通和Meta合作优化Meta Llama 3大语言模型,支持在未来的骁龙旗舰平台上实现终端侧执行。
  • 开发者将能够访问高通AI Hub中的资源和工具,以实现在骁龙平台上优化运行Llama 3,从而缩短产品上市时间并充分发挥终端侧AI的优势。
  • 高通技术公司的终端侧AI能力包括行业领先的NPU、CPU和GPU技术组合,赋能生成式AI应用实现即时性、增强的可靠性、隐私性、情境感知个性化和成本效益。

今日,高通技术公司和Meta宣布合作,以优化Meta Llama 3大语言模型(LLM)直接在智能手机、PC、VR/AR头显和汽车等终端上的执行。在终端侧运行Llama 3具有显著优势,包括出色的响应能力、增强的隐私性和可靠性,以及为用户带来更加个性化的体验。

此次合作旨在赋能OEM厂商和开发者,在搭载未来旗舰骁龙®平台的终端上支持Llama 3,推动生成式AI功能的普及。高通技术公司强大的异构计算能够无缝利用行业领先的CPU、GPU和NPU处理器,并结合先进的内存架构,赋能客户、合作伙伴和开发者实现最佳应用性能、能效和电池续航。

前阵子Meta的Reality Labs Research部门宣布SceneScript,而它就运用了 Llama 大模型。

参考:qualcomm

(0)
上一篇 2024年4月19日 上午7:13
下一篇 2024年4月23日 上午6:47

相关推荐

发表回复

登录后才能评论