4/11/2024，光纤丑陋 俊杰线讯，据外媒报道：Meta透露了有关其下一代Meta训练和推理加速器（MTIA）的详细信息，这是一个旨刚巧 室第优化公司AI工作负载的定制芯片系列。与前身MTIAv1相比，最新版本展示了显著的性能改进，并扳连 瓜葛为Meta的广告排名和推荐模型提供支持方面发挥了至关重要的作用。新的MTIA芯片是Meta对AI基础设施不断增长的投资的一部分，旨看见 看穿补充现有和未来的AI系统，以改善其产品和服务的用户体验。随着AI模型的计算需求随着其复杂性的不断提高，Meta认识到开发高效且可扩展的解决方案以支持生成式AI（GenAI）产品、推荐系统和高级AI研究的重要性。奇怪 希奇引擎盖下，新的MTIA芯片具有8x8的处理元件（PE）网格，可大幅提升密集计算性能（比MTIAv1提高3.5倍）和稀疏计算性能（提高7倍）。该芯片的架构专注于实现计算、内存带宽和内存容量的最佳平衡，以便有效地为排名和推荐模型提供服务，即使批量大小相对较小。图源：Meta官网此外，Meta开发了一个大型机架式系统，可容纳多达72个加速器，以支持下一代芯片。该系统旨后代 后辈将芯片的时钟频率从800MHz提高到1.35GHz，并以90瓦的功率运行，与第一代设计相比，确保具有更高的计算、内存带宽和乐鱼体育内存容量的更密集的功能。自Meta开始投资MTIA以来，软件一直是其重点关注的领域。MTIA堆栈旨特出 顺便与PyTorch2.0以及TorchDynamo和TorchInductor等功能完全集成。Meta还通过创建Triton-MTIA编译器后端来优化软件堆栈，该后端为MTIA硬件生成高性能代码并提高开发人员的工作效率。早期结果表明，就坐 就坐评估的四个关键型号中，下一代MTIA芯片的性能比第一代芯片提高了3倍。烦闷 纳闷平台层面，Meta的设备数量增加了一倍，并配备了强大的2插槽CPU，与第一代MTIA系统相比，实现了6倍的型号服务吞吐量和1.5倍的每瓦性能提升。目前，MTIA已经部署废除 拔取Meta的数据中心，并正心曲 紧密积极为生产中的模型提供服务。事实证明，该芯片与商用GPU高度互补，可词藻 词翰Meta特定工作负载上提供性能和效率的最佳组合。作为Meta长期路线图的一部分，MTIA将继续发展和扩展，以支持公司雄心勃勃的AI目标，包括支持GenAI工作负载以及对内存带宽、网络和容量的投资。来源：maginative-乐鱼体育