骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革

凤凰网科技讯(作者/于雷)北京时间10月22日,骁龙8至尊版正式发布,移动端AI表现全面发力。高通CEO克里斯蒂亚诺·安蒙表示,未来智能手机重要体验将围绕AI展开,手机将成为最重要的AI智能体,人们与手机之间的互动将围绕着个人需求展开,现有的App生态将产生巨大的变革。

骁龙8至尊版搭载第二代Oryon CPU和增强的高通HexagonNPU,利用高通AI引擎优势,能够带来更强大的终端侧生成式AI处理能力。

结合高通AI软件栈以及行业领先的工具套件,包括高通AI模型增效工具包(AIMET)等,为模型提供了全栈优化能力。通过使用基于硬件的INT4量化技术,可以大幅提升终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过30 tokens/秒。

高通宣布与腾讯混元合作,基于骁龙8至尊版移动平台,共同推动了腾讯混元大模型7B和3B版本的终端侧部署。通过利用终端侧AI加速,降低运营成本,进一步扩展生成式AI在终端侧的应用和普及。

此外,智谱也是高通在大模型方面的合作伙伴,智谱的GLM-4V端侧视觉大模型会面向骁龙8至尊版进行深度适配和推理优化,支持多模态交互。

主题测试文章,只做测试使用。发布者:读懂财经,转转请注明出处:https://www.cnust.com/22/10/20187.html

(0)
读懂财经的头像读懂财经
上一篇 2024 年 10 月 22 日
下一篇 2024 年 10 月 22 日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信