首页科技快讯 Meta，正在成为一家彻头彻尾的AI科技巨头

Meta，正在成为一家彻头彻尾的AI科技巨头

来源：晰数塔互联网快讯时间：2024年04月11日 16:41

Meta公布了自研芯片MTIA的新版本，不仅用于社交媒体中内容与广告的排行和推荐，而且能用于未来更复杂模型的训练和推理。

Meta去年5月份公布了7纳米的MTIA v1版本，已经开始用于数据中心，这次透露细节的5纳米的MTIA v2版本，其综合性能提升了3倍。

Meta称之为下一代训练及推理加速器，为解决Meta的AI负载而定制的芯片，将主要用于Meta的广告模型中的排行和推荐。Meta的场景负载，每天要处理上百亿次数据推理。MTIA v2不仅可以改善用户对产品和服务的体验，还提升了计算效率，以支持开发者构建AI模型。

MTIA v2架构

与前代相似，第二代MTIA包含64个被称为PE （Processing Elements）的计算模块，这些模块针对AI推理任务进行了优化。每个PE都有一个专用高速缓存，可用于存储数据。将内存放置在逻辑电路附近可减少数据在两者之间传输的距离，从而缩短传输时间并加快处理速度。集成在每个PE计算模块中的缓存从128KB扩展到384KB。

Meta工程师在博客文章中详细说明：“通过专注于提供超大的SRAM容量（相对于典型GPU而言），即使批量大小有限，我们也能保持高效的资源利用率，并在面对大量潜在并发任务时，仍能提供充足的计算能力。”

另一个提高新芯片性能的因素是一系列“与稀疏计算相关的改进”。AI推理芯片可以移除对于结果来说非必需的数据，从而加速计算。

Meta还开发了一套定制软件工具，核心是一个名为Triton-MTIA的系统，可以将开发人员的AI模型，转换成适合在自己芯片运行的形式。它部分基于Triton，这是一个由OpenAI开发的开源AI编译器，带有自己的编程语言。Triton-MTIA还与其他开源技术集成，包括PyTorch，这是一个由Meta创建的流行的AI开发框架。

Meta称，相比采购GPU，因为它控制了整个技术栈，效率更高。但Meta并不想用自定义芯片取代英伟达的GPU，而是强调互补关系。

一个月前，Meta 宣布推出两个 24k GPU 集群（共 49152 个 H100）。

之前，Meta用于训练Llama和Llama2的集群，是一个 AI 研究超级集群（RSC），配备 16000 个 A100 GPU。新集群建立在 RSC 的成功和教训之上，能够支持上一代所无法胜任的更大、更复杂的模型，如Llama3。