轻薄本跑Stable Diffusion 20秒出图?英特尔用VPU解决AI算力瓶颈
作者 | 云鹏
编辑 | 云鹏
智东西5月30日报道,今天英特尔在一场小范围沟通会上透露了其在AI与PC结合领域的最新产品及技术布局。在下一代Meteor Lake平台上,英特尔会采用独立的VPU处理单元,实现“CPU+GPU+VPU”的AI加速处理模式。
目前,AI在端侧、在PC侧带来的用户体验改善是非常明显的,AI在各种使用场景中开始渗透,比如背景模糊、美颜、美化声音等,现在生成式AI让人和PC用自然语言进行交互成为一个非常自然的方式,AI让用户以非常自然的方式来做到以前很难想象的一些事情。
同时,AI技术的进步、处理复杂度的提升也带来了算力需求的大幅上涨,比如噪音抑制处理与两年前相比复杂度有50倍提升,生成式AI模型对算力的需求又上了新的台阶,GPT-4的业内预测参数量是万亿级。这些对硬件厂商提出了新的挑战。
此前英特尔在产品上做了指令集级别的对AI的支持,以加速AI负载运算。此次英特尔在Meteor Lake中引入VPU,专门针对AI负荷加入一些IP。另外,英特尔在软件方面推出了对应的软件工具。
在英特尔看来,AI使用场景复杂,需求不统一,针对这一特点,英特尔选择用不同架构来处理。
VPU是专门为AI设计的一套架构,可以更高效地做矩阵运算,对稀疏化的处理更擅长。VPU的特点是功耗低,需要长时间运行的AI负载,用VPU来解决更高效且省电。
在软件上,英特尔通过OpenVINO来部署在各个不同的硬件上的AI网络模型。OpenVINO对CPU、GPU、VPU底层不同架构之间的异构计算差异进行封装,提供统一软件接口。
根据英特尔数据,目前英特尔有超过70%的ISV在用AI在改造自己的业务,与英特尔在AI方面进行合作的ISV厂商数量超过100家。
目前英特尔已经与Adobe、Blender、Audacity、OBS、GIMP等厂商或平台开展合作,应用VPU相关技术。比如当下火爆的生成式AI应用Stable Diffusion,就可以通过英特尔“CPU+GPU+VPU”的方式运行,功耗更低,效果达到可用状态。
在现场演示视频中,借助英特尔CPU+集成显卡+VPU,Stable Diffusion可以在20秒左右生成一张图像,其中VPU承担了VNET模块的运行。
▲现场演示视频结语:PC卷入生成式AI,VPU成英特尔解决算力瓶颈新思路
在生成式AI浪潮下,PC作为用户生产力的核心硬件产品之一,必然会深受AI技术的影响,如何在端侧解决AI应用带来的算力瓶颈,提供更好的用户体验也是各路芯片厂商需要解决的问题。
英特尔此次通过VPU架构针对性解决AI负载,提升系统整体运行AI任务的效率,并进一步控制功耗,不失为一种值得借鉴的思路。后续VPU将如何加速生成式AI在PC端的落地,也值得进一步关注。
发布于:北京
相关推荐
轻薄本跑Stable Diffusion 20秒出图?英特尔用VPU解决AI算力瓶颈
疯狂烧钱、管理混乱,Stable Diffusion背后企业濒临倒闭
华硕发布2023轻薄本新品:搭载英特尔13代酷睿处理器
从AI画画到“用声音做视频”,全球掘金AIGC | 焦点分析
AI热潮下,我一半同事被裁了
36氪专访|对话Nolibox:从AI生成艺术到AIGC,开源生态下的核心竞争力在于产品理解
量子霸权终实现?谷歌3分20秒完成世界第一超算万年运算
谷歌实现量子霸权?3分20秒解决超算要算1万年的问题
当AI比人类更具创造力后,会解锁怎样的商业新世界?
AI体验没轮到我,算力瓶颈先来了
网址: 轻薄本跑Stable Diffusion 20秒出图?英特尔用VPU解决AI算力瓶颈 http://www.xishuta.com/newsview76862.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 94941
- 2人类唯一的出路:变成人工智能 19160
- 3报告:抖音海外版下载量突破1 18878
- 4移动办公如何高效?谷歌研究了 18405
- 5人类唯一的出路: 变成人工智 18262
- 62023年起,银行存取款迎来 10117
- 7网传比亚迪一员工泄露华为机密 8165
- 8顶风作案?金山WPS被指套娃 7090
- 9大数据杀熟往返套票比单程购买 7039
- 10五一来了,大数据杀熟又想来, 6783