接入大模型,手机终于要长“脑子”了?
AI大模型的战火,烧到了智能手机上。
最近一段时间,华为、小米、vivo、OPPO、荣耀等国产手机,均已对外公布众多大模型相关成果。目前,头部厂商不仅纷纷下场自研大模型,而且正在把能离线运行的端侧大模型,植入到新一代机型中,打造所谓的“AI大模型手机”。
相比调用云端算力的通用大模型,端侧大模型可以让用户更加高效、便捷、安全地使用AIGC。不过将其应用到手机上也不容易,不但要考虑到模型量级、AI体验和手机能耗的平衡等问题,还要承担从落地到迭代每年数十亿元的成本投入,这对于手机厂商的硬实力也是种极大的考验。
但大模型手机对于用户和厂商均价值非凡:一是在用户换机动力匮乏的寒冬下,AI大模型将成为手机厂商市场竞争的重要筹码;二是AI大模型未来有望变成每个用户专属的超级助理,革新手机乃至所有硬件终端的使用体验。
厂商开卷大模型
在手机+大模型的竞争中,每一个厂商都不想掉队。
早在7月份,华为就在开发者大会上发布了面向行业的盘古大模型3.0,最高版本高达1000亿参数,并官宣新一代智能操作系统HarmonyOS 4已接入了盘古大模型,小艺也成为首个具有AI大模型能力的终端语音助手。9月份,华为宣布大模型版小艺开启众测,首批支持机型为Mate 60/P60系列手机。
图源:网络
8月的年度演讲上,小米创始人雷军透露其自研大模型(MiLM)中的13亿参数版本已经成功在手机本地跑通,部分场景可以媲美60亿参数模型在云端运行结果,旗下Y语音助手小爱同学也已开始升级大模型版本。10月底,小米宣布自研AI大模型已经接入最新发布的澎湃OS,搭载到了小米14系列上。
图源:网络
10月26日,荣耀CEO赵明宣布,即将推出的Magic6系列手机,将支持自研70亿端侧AI大模型。赵明表示,荣耀对于端侧大模型的理解,将通过MagicOS 8.0和荣耀Magic6系列呈现出来,“有非常多、非常惊艳的创新在里面”。
11月1日,vivo的蓝心大模型矩阵(BlueLM)在其开发者大会上亮相,包含十亿、百亿、千亿等不同参数规模,随后vivo还推出基于该大模型开发的应用“蓝心小V”和“蓝心千询”。11月13日,vivo发布了行业首款AI大模型手机X100系列,落地终端侧70亿参数大模型,跑通端侧130亿参数模型。
图源:网络
11月16日,OPPO在开发者大会上正式推出了安第斯大模型(AndesGPT)。根据官方介绍,该模型支持从10亿至千亿多种不同参数规模模型,将会被接入到OPPO的手机操作系统ColorOS 14以及物联网操作系统潘塔纳尔OS,OPPO Find X6等机型于同日首发升级正式版。
图源:网络
手机厂商密集布局自研大模型,主要是因为通用大模型无法完美适配手机。
在手机上使用AI大模型并非新鲜事,ChatGPT、文心一言、讯飞星火、通义千问等通用大模型都推出了App版本,允许用户在移动端体验。不过这些App依赖的都是云端大模型,需要调运服务器算力并进行数据传输,因此也存在成本和安全问题。
vivo副总裁周围曾在接受媒体采访时表示,目前调用一次云端大模型的平均成本在1.2分-1.5分人民币。考虑到每个手机厂商至少有上亿的用户量,假如每人每天调用10次,那么每年产生的成本就会达到数十乃至上百亿元。这部分成本由厂商长期负担不现实,但由用户付费也会降低使用体验和意愿。
此外,作为全球普及率、使用率最高的终端硬件,手机中存储着大量用户隐私信息,如果被上传到云端便会存在安全隐患。前不久,WPS AI就在用户隐私问题上差点翻车,因为其未更新的隐私政策中包含“将用户文档资料用于AI训练”的表述,金山WPS被冲上热搜并连夜道歉。
为此,厂商们都在致力于自研大模型,并且努力将大模型部署在手机本地,仅利用芯片的算力生成结果,无需联网也能运行,也就是所谓的端侧大模型。相较云端大模型,端侧大模型由于利用了手机终端的闲置算力资源,减少了数据传输,因此在很多场景下会更加高效、便宜、安全。
每年烧钱数十亿
把AI大模型植入手机并非易事。
目前主流的云端大模型,参数量都在千亿级别,对于内存、算力、功耗的需求是一台手机根本满足不了的。正因如此,手机厂商自研的端侧大模型体量都比较小,将参数压缩到了数十亿到百亿左右,以便在手机端运行。比如,vivo X100系列搭载的就是70亿参数版本的蓝心大模型。
值得一提的是,端侧大模型能够成功落地手机,离不开芯片技术的进步。
vivo X100搭载的天玑9300芯片,就是联发科在11月7日刚刚推出的新一代旗舰产品,该芯片搭载了生成式AI技术,支持终端运行最高达330亿参数的AI大模型。此外,联发科于11月21日发布的次旗舰芯片天玑8300,以及高通10月份新发布的骁龙8 Gen3芯片,也均支持终端运行超100亿参数的大模型。
图源:联发科官网
轻量化、无需联网的端侧大模型,在响应速度、算力需求和信息保护上有与生俱来的优势,但在模型能力上无法媲美云端大模型。这是因为参数是衡量一个AI大模型质量的重要指标之一,通常情况下,参数越多,大模型能力也就越强大。
为了实现大模型体验和手机性能的平衡,厂商们目前普遍采取了“端云协同”的策略,同时部署端侧和云端两种模型,根据不同的应用场景和需求来进行选择。比如,涉及个人隐私、金融数据等信息的任务,以及知识问答、写作绘画等简单任务就可以使用端侧能力,而训练模型等复杂任务则可以调用云端能力。
端云协同可以最大化地发挥“端侧快”和“云侧强”的优势,同时还能解决信息安全隐患、云端算力成本过高等问题,可以说是现阶段打造大模型手机的最优解。
这也正是很多厂商发布大模型矩阵的原因之一,前面已经提到,华为、vivo、OPPO发布的自研大模型方案,都覆盖十亿、百亿、千亿多个参数量级,其中轻量化模型就是用于端侧部署,而大参数模型则是用于云端部署。
图源:网络
但大模型是公认的烧钱大户,无论是在端侧还是云端,其数据、算力、人工等方面的成本对于开发商来说都是一笔不菲的投入。
之前业内流传的说法是,一万枚英伟达A100芯片是做好AI大模型的算力门槛,而其单张成本就在10万元左右,这意味着搭建大模型算力集群的成本至少要数十亿元。在美国芯片禁令升级的当下,英伟达高算力芯片的价格还在蹭蹭上涨,而且有市无价。
此外,开发大模型的人工成本也很高。有行业人士表示,AI研发工程师的年薪基本都要7位数,一个千人研发团队一年至少也要20个亿。根据雷军在发布会上透露的数据,小米集团从事AI开发的研发团队已经超过了3000人。
vivo副总裁周围接受媒体采访时透露,自2017年组建AI全球研究院至今,vivo每年在人工智能上的投入保守估计在20亿-30亿元。他还表示,大模型是硬科技的赛道,研发投入和难度跟通信、芯片是同一个级别的。
重塑手机体验?
厂商不遗余力的投入,是因为大模型对于手机行业价值非凡。
在ChatGPT出现之前,手机行业的创新长期都集中在摄像、屏幕、通信、材料、芯片等领域,在全球手机市场疲软的当下,这种“挤牙膏式”的变化很难刺激消费者的购买欲望,用户的换机周期也在持续拉长。根据Counterpoint数据,2022年全球手机换机周期已经延长至43个月。
大模型的诞生,让行业看到了新的创新方向。大家普遍认为,AI能力将成为未来用户换机和选择手机品牌的重要考量因素,而大模型就是手机厂商在市场竞争中的重要筹码。
一个手机能不能跑大模型、能跑多大的大模型,和内存、算力等硬件配置息息相关。因此在初期发展阶段,大模型手机就成了手机品牌彰显硬核配置、打造高端形象的有力武器。
等到大模型成为行业标配,手机厂商的战场则会转移到大模型手机的体验上。从华米OV的答卷看,目前大模型和手机的结合方式,主要是围绕语音助手进行体验创新。
一方面,在大模型的赋能下,语音助手的语义识别、图像识别等能力都得到了强化,从而能够更加智能化的执行指令,提升用户的交互体验。
以语音助手的“语义搜索”功能为例,过去想要在手机上搜索文档或者图片,只能依靠分类AI的识别,通过某些场景关键词描述缩小搜索范围,例如风景、美食、人像等。而在有了大模型能力后,用户就可以通过自然语言描述图片、文档内容来完成搜索。
图源:网络
另一方面,有了大模型的加持,语音助手也将具备云端大模型App同款的“智能问答”、“AI写作”、“AI绘画”、“实时字幕”、“文档总结”等功能,化身提高工作和学习效率的生产力工具。
图源:网络
此外,在手机厂商的预期里,未来的大模型手机还将朝个性化方向发展,变成用户的专属私人助理。就如同现在被广泛应用的算法推荐,经过长时间的使用后,用户的数据也都会被用于端侧大模型的训练和迭代,进而让大模型手机像一个“老朋友”一样越来越懂用户。
到了那一天,由于不同品牌之间存在生态壁垒,用户更换手机所要付出的代价也将会更大,这样手机品牌也就能借助大模型来增强用户粘性,进一步巩固自己的护城河。
不过眼下大模型手机还在起步探索阶段,未来哪家厂商能够决胜千里,还要取决于模型、应用和产品的迭代创新。
本文来自微信公众号“亿欧新消费”(ID:EO-Consumer),作者:王鹏,编辑:顾彦,36氪经授权发布。
相关推荐
接入大模型,手机终于要长“脑子”了?
大模型接入手机助手,《Her》里面的场景离我们还远吗?
大模型不是手机厂商的杀手锏
中国首个接入大模型的 Linux 操作系统来了
读完李彦宏的33条语录,我终于把大模型搞明白了
阿里云正在实验将千问大模型接入工业机器人
国产旗舰手机的屏幕,终于要追上三星苹果了
李开复被大模型绊了一跤
端侧大模型,手机厂商的下一次入口级机会
钉钉:12 条产品线已接入大模型,可生成 PPT、思维导图等
网址: 接入大模型,手机终于要长“脑子”了? http://www.xishuta.com/newsview100524.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 94930
- 2人类唯一的出路:变成人工智能 19070
- 3报告:抖音海外版下载量突破1 18777
- 4移动办公如何高效?谷歌研究了 18316
- 5人类唯一的出路: 变成人工智 18170
- 62023年起,银行存取款迎来 10108
- 7网传比亚迪一员工泄露华为机密 8155
- 8顶风作案?金山WPS被指套娃 7088
- 9大数据杀熟往返套票比单程购买 7037
- 10五一来了,大数据杀熟又想来, 6702