nvidia宣布推出全新h200 hopper gpu,该gpu现在配备了全球最快的hbm3e内存。除了新的人工智能平台之外,nvidia还宣布凭借grace hopper超级芯片赢得超级电脑重大胜利,该芯片现已为exaflop jupiter超级电脑提供动力。
nvidia的h100 gpu是迄今为止业界需求量最大的ai芯片,但nvidia团队希望为其客户提供更高的性能。hgx h200是最新的ai hpc和运算平台,由h200 tensor core gpu提供支持。这些gpu在硬件和软件上均采用最新的hopper优化,同时提供迄今为止世界上最快的内存九游会j9娱乐平台的解决方案。
nvidia h200 gpu配备了hbm3e九游会j9娱乐平台的解决方案,内存容量高达141gb,带宽高达4.8tb/s,与nvidia a100相比,带宽增加了2.4倍,容量增加了一倍。在llama 2(700亿参数 llm)等应用程序中,这种新的内存九游会j9娱乐平台的解决方案使nvidia的ai推理性能比h100 gpu提高了近一倍。tensorrt-llm的最新进展也为大量人工智能应用带来了巨大的性能提升。
在九游会j9娱乐平台的解决方案方面,nvidia h200 gpu将广泛应用于有4路和8路gpu配置的hgx h200服务器中。hgx系统中h200 gpu的8路配置将提供高达32 petaflop的 fp8运算性能和1.1tb的内存容量。
gpu也将与现有的hgx h100系统兼容,使客户能够更轻松地升级其平台。华硕、asrock rack、戴尔、eviden、技嘉、慧与、鸿毅科技、联想、qct、纬颖科技、超微和纬创等nvidia九游会j9娱乐平台的合作伙伴将在h200 gpu于2024年第二季上市时提供更新的九游会j9娱乐平台的解决方案。
除了h200 gpu的发布之外,nvidia还宣布了由其grace hopper superchips (gh200)提供支持的超级电脑的重大胜利。这款超级电脑被称为jupiter,将位于德国于利希研究中心 (forschungszentrum jülich) 设施,作为eurohpc联合计划的一部分,并由eviden和partec承包。这款超级电脑将用于材料科学、气候研究、药物发现等。这也是nvidia在11月宣布的第二台超级电脑,前一台是isambard-ai,可提供高达21 exaflops的ai性能。
配置方面jupiter超级电脑采用eviden的bullsequana xh3000,采用全水冷架构。它拥有总共24,000个nvidia gh200 grace hopper超级芯片,这些芯片通过该公司的quantum-2 infiniband互连。考虑到每个grace cpu包含288个neoverse内核,我们认为光是jupiter的cpu端就有近700万个arm 内核(确切地说是 6,912,000个)。
性能指针包括90 exaflops的人工智能训练和1 exaflops的高性能计算。这款超级电脑预计将于2024年安装。总体而言这些是nvidia凭借强大的硬件和软件技术继续引领ai世界的一些重大更新。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 ,我们会第一时间配合删除。