骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革_顶尖财经网
  您的位置:首页 >> 财经频道 >> 风险投资 >> 文章正文

骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革

加入日期:2024-10-22 10:50:12

凤凰网科技讯(作者/于雷)北京时间10月22日,骁龙8至尊版正式发布,移动端AI表现全面发力。高通CEO克里斯蒂亚诺·安蒙表示,未来智能手机重要体验将围绕AI展开,手机将成为最重要的AI智能体,人们与手机之间的互动将围绕着个人需求展开,现有的App生态将产生巨大的变革。

骁龙8至尊版搭载第二代Oryon CPU和增强的高通HexagonNPU,利用高通AI引擎优势,能够带来更强大的终端侧生成式AI处理能力。

结合高通AI软件栈以及行业领先的工具套件,包括高通AI模型增效工具包(AIMET)等,为模型提供了全栈优化能力。通过使用基于硬件的INT4量化技术,可以大幅提升终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过30 tokens/秒。

高通宣布与腾讯混元合作,基于骁龙8至尊版移动平台,共同推动了腾讯混元大模型7B和3B版本的终端侧部署。通过利用终端侧AI加速,降低运营成本,进一步扩展生成式AI在终端侧的应用和普及。

此外,智谱也是高通在大模型方面的合作伙伴,智谱的GLM-4V端侧视觉大模型会面向骁龙8至尊版进行深度适配和推理优化,支持多模态交互。

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com