MTIA 300:Meta 首款内置 NIC 与通信卸载引擎的训练芯片

Meta 发布 MTIA 300,这是其自研加速器家族中首款针对推荐与排序模型训练优化的芯片。芯片封装内集成 12 个 800 Gbps RDMA NIC,提供 1.2 TB/s 总 I/O 带宽,并通过 16 个专用消息引擎卸载通信,使大规模 GEMM 与集合通信并发时计算吞吐损耗低于 0.5%。

摘要

Meta 发布 MTIA 300,这是其自研加速器家族中首款针对推荐与排序模型训练优化的芯片。芯片封装内集成 12 个 800 Gbps RDMA NIC,提供 1.2 TB/s 总 I/O 带宽,并通过 16 个专用消息引擎卸载通信,使大规模 GEMM 与集合通信并发时计算吞吐损耗低于 0.5%。

原文链接

本站已稳定运行: 计算中... 天 | 博客: 32 篇 | 字数: 26276
使用 Hugo 构建
主题 StackJimmy 设计