九日凌晨在SIGGRAPH 2023上，英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛宣布推出新一代GH200 Grace Hopper Superchip。這是世界上首次有芯片配備HBM3e，搭建的雙路系統(tǒng)相比于當(dāng)前一代產(chǎn)品，內(nèi)存容量是原來的3.5倍，帶寬則是原來的3倍。英偉達(dá)并沒有說明采購的HBM3e來自哪一個供應(yīng)商，據(jù)推測應(yīng)該是出自SK海力士。

相比目前使用的HBM3，新一代HBM3e有著50%的速度提升，雙路系統(tǒng)提供了高達(dá)10TB/s的帶寬，也就說每堆?？梢蕴峁?TB/s的帶寬。GH200 Grace Hopper Superchip是將Hopper架構(gòu)GPU和Arm架構(gòu)Grace CPU結(jié)合，使用了NVLink-C2C，將兩者連接起來。其擁有72個Arm v9架構(gòu)CPU內(nèi)核，GPU方面應(yīng)該和H100計算卡一致，即16896個FP32?CUDA核心。新款芯片打造的雙路系統(tǒng)將擁有144個Arm v9架構(gòu)CPU內(nèi)核，282GB的HBM3e，帶來8 Petaflops的AI計算性能。

英偉達(dá)表示，新的平臺旨在處理世界上最復(fù)雜的生成式人工智能工作負(fù)載，涵蓋大型語言模型、推薦系統(tǒng)和矢量數(shù)據(jù)庫，可用于各種配置。英偉達(dá)計劃銷售兩種版本：一種版本包含了兩個可供客戶集成到系統(tǒng)中的芯片，另一種版本是結(jié)合了兩種Grace Hopper設(shè)計的完整服務(wù)器系統(tǒng)。

此外，英偉達(dá)也會將HBM3e用于Hopper架構(gòu)的GH200計算卡，預(yù)計會在2024年第二季度到來，會比競爭對手AMD的Instinct MI300X晚一些，后者通過HBM3提供了5.2TB/s的帶寬，容量為192GB。