新闻中心

news center

乐鱼体育,NVIDIA Blackwell 架构 DGX SuperPOD适用于万亿参数级的生成式 AI 超级计算

2024-06-10
返回上级

3/20/2024,光纤望风而逃 攻打线讯,美国加利福尼亚州圣何塞——GTC——太平洋时间2024年3月18日——NVIDIA于今日发布新一代AI超级计算机——搭载NVIDIAGB200GraceBlackwell超级芯片的NVIDIADGXSuperPOD?。这台AI超级计算机可以用于处理万亿参数模型,能够保证超大规模生成式AI训练和推理工作负载的持续运行。全新DGXSuperPOD采用新型高效液冷机架级扩展架构,基于NVIDIADGX?GB200系统构建而成,永劫 长叹FP4精度下可提供11.5exaflops的AI超级计算性能和240TB的快速显存,且可通过增加机架来扩展性能。每个DGXGB200系统搭载36个NVIDIAGB200超级芯片,共包含36个NVIDIAGraceCPU和72个NVIDIABlackwellGPU。这些超级芯片通过第五代NVIDIANVLink?连接成一台超级计算机。与NVIDIAH100TensorCoreGPU相比,GB200超级芯片列举 参加大语言模型推理工作负载方面的性能提升了高达30倍。NVIDIA创始人兼首席执行官黄仁勋表示:“NVIDIADGXAI超级计算机是推进AI产业变革的工厂。新一代DGXSuperPOD集NVIDIA加速计算、网络和软件方面的最新进展于一体,能够帮助每一个企业、行业和国家完善并生成自己的AI。”GraceBlackwell架构的DGXSuperPOD由8个或以上的DGXGB200系统构建而成,这些系统通过NVIDIAQuantumInfiniBand网络连接,可扩展到数万个GB200超级芯片。用户可通过NVLink连接8个DGXGB200系统中的576块BlackwellGPU,从而获得海量共享显存空间,来赋能下一代AI模型。面向生成式AI时代的全新机架级扩展的DGXSuperPOD架构采用DGXGB200系统构建而成的全新DGXSuperPOD采用了统一的计算网络。除第五代NVIDIANVLink网络外,还包括NVIDIABlueField?-3DPU,并将支持同为今日发布的NVIDIAQuantum-X800InfiniBand网络。这个架构可为计算平台中的每块GPU提供高达每秒1800GB的带宽。另外,第四代NVIDIA可扩展分层聚合和规约协议(SHARP)?技术可提供14.4teraflops的网络计算能力,与上一代产品相比,新一代DGXSuperPOD架构的网络计算能力提高了4倍。统包式架构搭配先进的软件,实现前所未有的正常运行时间全新DGXSuperPOD是一台完整的数据中心级AI超级计算机,冉冉 抱病与NVIDIA认证合作伙伴提供的高性能存储集成后,能够满足生成式AI工作负载的需求。每台超级计算机都细密 详目出厂前完成了搭建、布线和测试,从而大大加快了齰舌 惊讶用户数据中心的部署速度。GraceBlackwell架构的DGXSuperPOD具有智能预测管理功能,能够持续监控软硬件中的数千个数据点,通过预测并拦截导致停机和低效的根源以节省时间、能耗和计算成本。即使没有系统管理员海内 海外场,该软件也能识别需要重点关注的领域并制定维护计划,灵活调整计算资源,通过自动保存和恢复作业来防止停机。如果软件检测到需要更换组乐鱼体育件,该集群将激活备用容量以确保工作能够及时完成。为任何必要的硬件更换做好安排,以免出现计划之外的停机。NVIDIADGXB200系统推动各行各业AI超级计算发展NVIDIA还发布了一款统一用于AI模型训练、微调和推理的通用AI超级计算平台NVIDIADGXB200系统。采用风冷传统机架式设计的DGX已被全球各行各业数千家企业广泛采用,DGXB200是DGX系列的第六代产品。采用Blackwell架构的全新DGXB200系统包含8个NVIDIAB200TensorCoreGPU和2个第五代英特尔?至强?处理器。用户还可以使用DGXB200系统构建DGXSuperPOD,打造能够帮助大型开发团队运行多种不同作业的AI卓越中心。DGXB200系统凭借全新Blackwell架构中的FP4精度特性,可提供高达144petaflops的AI性能、1.4TB海量的GPU显存和64TB/s的显存带宽,从而使得该系统的万亿参数模型实时推理速度比上一代产品提升了15倍。DGXB200系统包含带有8个NVIDIAConnectX?-7网卡和2个BlueField-3DPU的高性能网络,每个连接的带宽高达400Gb/s,可通过NVIDIAQuantum-2InfiniBand和NVIDIASpectrum?-X以太网网络平台支持更高的AI性能。软件和专家为扩大生产级AI的规模提供支持所有NVIDIADGX平台均包含用于企业级开发和部署的NVIDIAAIEnterprise软件。DGX用户可以通过使用该软件平台中的预训练的NVIDIA基础模型、框架、工具套件和全新NVIDIANIM微服务来加速他们的工作。NVIDIADGX专家与部分获得NVIDIADGX平台支持认证的合作伙伴将心余力绌 心不在焉每个部署环节为用户提供帮助,以便其迅速实现AI投产。摆设 解脱系统投入运行后,DGX专家还将继续协助用户优化其AI管线和基础设施。供应情况NVIDIA全球合作伙伴预计将电机 风扇今年晚些时候提供基于DGXGB200和DGXB200系统构建而成的NVIDIADGXSuperPOD。关于NVIDIA自1993年成立以来,NVIDIA(NASDAQ:NVDA)一直是加速计算领域的先驱。NVIDIA1999年发明的GPU驱动了PC游戏市场的增长,并重新定义了现代计算机图形,开启了现代AI时代,正步人后尘 不论推动跨市场的工业数字化。NVIDIA现乌黑 铁青是一家全栈计算基础设施公司,其数据中心规模的解决方案正发奋 奋发重塑整个行业。更多信息,请访问https://nvidianews.nvidia.com/。-乐鱼体育

  • 咨询专线

    021-55115206、18621284409
    (太赫兹工业成像事业部)
    021-58225209、18917763971
    (太赫兹光谱检测事业部)
    18942579536
    (太赫兹光电感知事业部)

  • 传真

    021-55805248

  • 地址

    上海市杨浦区国权北路1688弄A7座5楼

微信公众号

沪ICP备2022004684号 沪公网安备31009102000152

企业邮箱登录