【新科技讯】近日，英伟达在2023台北电脑展大会上表示，旗下Grace Hopper超级芯片已经全面投产。
Grace Hopper超级芯片是英伟达开发的基于ARM架构的CPU+GPU集成方案，它将72核的Grace CPU、Hopper GPU、96GB的HBM3和512 GB的LPDDR5X集成在同一个封装中，共有2000亿个晶体管。这种组合提供了CPU和GPU之间惊人的数据带宽，高达1TB/s。
DGX GH200通过定制的NVLink Switch System（包含36个NVLink开关）将256个GH200超级芯片和高达144TB的共享内存连接成一个单元，避免标准集群连接选项（如 InfiniBand和以太网）的限制，这种新的互连方式使DGX GH200系统中的256个H100 GPU作为一个整体协同运行，使其成为了专为最高端的人工智能和高性能计算工作负载而设计的系统和参考架构。可支持数万亿参数AI大模型训练。
DGX GH200附带的优化的操作系统和集群管理器，使得管理大规模语言模型训练的复杂性大大降低。按照黄仁勋的说法：花费1000万美金成本，你可以建置一个有960颗CPU的数据中心，但这个数据中心要11GWh的功率，处理1X LMM(大语言模型)的数据量。
DGX GH200还具有非常灵活的扩展性和配置选项。用户可以根据自己的需求选择GPU、内存、存储、网络等组件，并随时添加更多的资源，实现弹性扩展。
集成256个GH200芯片的DGX GH200超级计算机，内存扩大了500倍，超级算力提高了7倍。
据悉，谷歌云、Meta和微软将有望成为首批通过接入DGX GH200系统，来探索其用于生成式AI工作负载的能力的公司。NVIDIA还打算将DGX GH200设计作为蓝图提供给云服务提供商和其他超大规模企业，以便他们能够进一步根据他们自己的基础设施进行定制。