首页 科技快讯 凭借比英伟达快10倍的AI芯片,初创公司Groq一夜爆火

凭借比英伟达快10倍的AI芯片,初创公司Groq一夜爆火

来源:晰数塔互联网快讯 时间:2024年02月21日 14:43

【凭借#比英伟达快10倍的AI芯片#,初创公司Groq一夜爆火】

一夜之间,初创公司Groq爆火,其在同名模型启动器上运行的大模型,能够每秒输出近500个token,输出速度比Gemini快10倍,比GPT-4快18倍。不过,Groq并没有研发新模型,其神速的响应源于自研的语言处理单元LPU——一种专为AI推理所设计的芯片。

Groq官网的测试资料显示,由Groq LPU驱动的Meta Llama 2模型推理性能是顶级云计算供应商的18倍。Groq创始人Jonathan Ross称,在大语言模型任务上,LPU比英伟达的GPU性能快10倍,但价格和耗电量都仅为后者的十分之一;单卡仅有230MB内存,2万美元一张。(一财)

发布于:浙江

相关推荐

传AI芯片公司Groq获3亿美元投资 曾助AlphaGo击败李世石
AI芯片初创公司,“替代英伟达”很难
Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
AI芯片大战背后:英特尔对英伟达虎视眈眈,国内芯片公司蠢蠢欲动
赶超英伟达?都2024年了,居然还炒作SRAM
英伟达和英特尔的AI战事
硅谷硬通货英伟达,一夜大涨5000亿
英伟达 VS 英特尔 VS AMD:新的AI混战
每秒500token的AI芯片让人惊叹,但它真的靠谱吗?
西方唯一AI芯片独角兽,正面对抗英伟达

网址: 凭借比英伟达快10倍的AI芯片,初创公司Groq一夜爆火 http://www.xishuta.com/newsview109146.html

所属分类:行业热点

推荐科技快讯