首页科技快讯高通：开启生成式AI新时代将100亿参数大模型塞进手机

高通：开启生成式AI新时代将100亿参数大模型塞进手机

来源：晰数塔互联网快讯时间：2023年10月30日 16:16

【通信产业网讯】（记者高超）运行100亿参数大模型的智能终端来了。

阿拉丁神灯的故事家喻户晓，几乎每一个孩子都希望能够得到这个能够实现愿望的灯中精灵。而高通最新产品——第三代骁龙8、骁龙X Elite凭借出色的AI能力，将很快让每一部新终端都成为阿拉丁神灯。

10月24日—26日，2023骁龙峰会在美国夏威夷举行。每一年的骁龙峰会既是高通的新品发布会，同时也是前沿科技的宣讲会，而今年的关键词即是当今炙手可热的生成式AI。

高通公司CEO安蒙表示：“我们正在进入AI时代，终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势，未来骁龙赋能的生成式AI体验将无处不在。”

支持端侧百亿级大模型

第三代骁龙8和骁龙X Elite是今年骁龙峰会的重头戏，而强大的AI能力则是两款新品共享的基因。

第三代骁龙8是高通技术公司首个专为生成式AI而精心打造的移动平台。高通技术公司高级副总裁兼手机、计算和XR业务总经理阿力克斯·卡图赞指出：“第三代骁龙8具有迄今为止我们在智能手机平台中集成的最强大终端侧智能，赋能真正满足用户所需的突破性AI体验。”

据悉，第三代骁龙8搭载了最新一代NPU神经网络处理器Hexagon，性能较前一代产品提升98%，能效较前一代产品提升40%，能够高速运行Stable Diffusion。借助高通首个AI软件栈——Qualcomm AI Stack，开发者可以将这些功能和体验轻松引入终端。凭借在性能和能效方面的显著提升，第三代骁龙8能够在终端侧支持运行100亿参数大模型，以及以20 tokens/s的速度运行70亿参数大语言模型。

在旗舰终端市场具有领导者地位的高通，一直想在PC市场寻求突破与创新，而全新发布的骁龙X Elite可以视作高通达成这个目标的重要抓手。

骁龙X Elite采用定制Oryon CPU，基于4nm工艺打造，采用12颗3.8GHz大核，支持双核睿频至4.3GHz，内存带宽136GB/s，缓存总数42MB。卡图赞表示，Oryon CPU子系统，与竞品最热门的十核和十二核笔记本电脑CPU相比，其性能高达竞品的两倍。并且Oryon CPU达到竞品的峰值性能所需的功耗比竞品低68%。

而骁龙X Elite的独特之处还在于强大的AI算力。通过定制Oryon CPU、全新设计的Adreno GPU和Hexagon NPU，骁龙X Elite能够整体实现75TOPS的算力，支持在终端侧运行130亿参数大模型，以及以30 tokens/s的速度运行70亿参数大语言模型，实现AI对PC产品的颠覆式重塑。

显然，在第三代骁龙8和骁龙X Elite这对双子星出色性能的加持下，开发者能够将一个超过100亿参数的大模型装入终端，让这些终端不必联网，也能出色完成撰写邮件、处理图像、生成图像等诸多任务，为用户带来更好的体验。

厚积薄发

凭借出色的AI能力，第三代骁龙8和骁龙X Elite让智能终端和PC的算力得到极大的提升。在AI无处不在的年代，这种方式的性能提升看似必然，但是其背后却是高通未雨绸缪，长期投入与布局的结果。

这个深谋远虑的故事要从2018年讲起。那一年，5G开始成为业界的热门话题，行业都在研究如何将5G引入移动市场。当时，高通就已经认为5G和AI将会共同构成5G时代。基于这样的理念，高通在MWC2018期间宣布推出人工智能引擎AI Engine，同年还发布了全球首个商用5G移动平台——骁龙855，于是5G和AI第一次走到了一起。

高通5G+AI的故事一直在讲述，并且随着骁龙移动平台迭代更新，他们的能力不断增强，让全球终端用户获得更佳的体验。

但是，仅仅让智能终端更聪明还远远不够。于是，高通在2021年提出了“统一的技术路线图”，向智能手机、PC、汽车、工业物联网等领域扩展，构建一个泛在终端产品体系，使得AI能力从智能终端逐步扩展到PC、耳塞、汽车等更广泛市场。据悉，骁龙已成为全球近30亿部终端的核心，囊括了智能手机、XR设备、笔记本电脑和汽车等各类终端。

事实上，在2021年至今的三届骁龙峰会，高通一直沿着“统一的技术路线图”，持续不断地发布新一代骁龙旗舰移动平台、PC平台、XR平台、音频平台、智能座舱等创新产品和方案，并将不断升级的AI能力融入这些产品，提供更加丰富的功能和更好的体验，服务更广大用户群体。

不仅如此，随着生成式AI的崛起，高通也与时俱进，于2022年发布了Qualcomm AI Stack，为OEM厂商和开发者提供强大的AI技术支持，帮助他们在此基础之上开发丰富的产品，充分释放智能手机、物联网、汽车、XR、云和移动PC等智能网联边缘产品的AI能力。

这些能力在今年发布的第三代骁龙8、骁龙X Elite等系列产品中得到了更加充分地体现，让高通在生成式AI赛道上厚积薄发，以持续创新领跑泛终端产业。

携手步入AI新时代

高通是Android旗舰智能手机SoC的领导者，但是没有合作伙伴的鼎力支持和通力合作，智能终端产业生态也将不复存在。