传字节联手台积电自研5nm的AI芯片,降低硬件成本减少依赖英伟达
因为英伟达太贵,字节跳动正自研两款AI芯片?
字节,想要跳出英伟达的手心?
9月16日消息,据媒体报道,有知情人士透露称,字节跳动正在自主研发两款AI芯片,旨在减少对昂贵的NVIDIA芯片的依赖,并提升其在市场的竞争力。
而有关两款AI芯片的制造方面,字节跳动计划与台积电合作,预计在2026年前实现这两款自研芯片的量产。
这两款芯片分别针对模型训练和推理设计,其中一款用于加速构建人工智能模型所需的大量数据计算,即训练芯片。另一款则用于加速基于模型的预测和决策过程,即推理芯片,字节跳动已向台积电预定了数十万颗芯片,预计通过采购自研芯片,可节省数十亿美元的成本。
而对于字节跳动来说,降低芯片成本是一个迫切的需求。
去年,字节跳动发布了其首款AI聊天机器人“豆包”,该机器人能够生成文本和图像的生成式AI内容。今年,字节跳动宣布了一系列低成本的大语言模型,其中一些模型生成一个Token(即模型生成的一个词或词的一部分)的成本比OpenAI的类似产品低99%。
不过,虽然模型生成成本降低,但硬件的成本仍然居高不下。据报道,今年字节下了超过20万颗Nvidia H20芯片的订单,H20是Nvidia为中国市场制造的最先进芯片,在美国出口规则下允许销售,该订单价值超过20亿美元。
而现在,字节跳动打算向台积电订购数十万颗其自研的训练和推理芯片。据《The Information》估计,这些内部设计的芯片成本将比购买Nvidia芯片少数十亿美元。
不过,据知情人士透露,这些芯片仍处于设计阶段,字节跳动的计划可能会发生变化。
发布于:湖北
相关推荐
传字节联手台积电自研5nm的AI芯片,降低硬件成本减少依赖英伟达
微软将公布自研AI芯片Athena,降低对英伟达依赖
硅谷巨头自研芯片,“围剿”英伟达
苹果救不了台积电,但英伟达可以
传苹果自研5G基带芯片2023年量产,采用台积电4nm工艺
“英伟达们”兜不住台积电的底
台积电:iPhone拉胯,英伟达救场
消息称微软或下月公布自家AI芯片Athena,降低对英伟达依赖
台积电:英伟达救场,AI为“半导体周期”托底
OpenAI自研AI芯片最快2026年推出,可能交由台积电来生产
网址: 传字节联手台积电自研5nm的AI芯片,降低硬件成本减少依赖英伟达 http://www.xishuta.com/newsview125481.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 94927
- 2人类唯一的出路:变成人工智能 19043
- 3报告:抖音海外版下载量突破1 18745
- 4移动办公如何高效?谷歌研究了 18288
- 5人类唯一的出路: 变成人工智 18141
- 62023年起,银行存取款迎来 10105
- 7网传比亚迪一员工泄露华为机密 8149
- 8顶风作案?金山WPS被指套娃 7086
- 9大数据杀熟往返套票比单程购买 7035
- 10五一来了,大数据杀熟又想来, 6675