英偉達(dá)繼續(xù)發(fā)力AI人工智能 全新超級(jí)芯片登場(chǎng)

(資料圖片僅供參考)

【太平洋科技資訊】英偉達(dá)發(fā)布升級(jí)版Grace Hopper超級(jí)芯片平臺(tái)，采用HBM3e內(nèi)存技術(shù)，專為人工智能和高性能計(jì)算而設(shè)計(jì)。新款GH200 Grace Hopper超級(jí)芯片平臺(tái)由72核的Grace CPU和GH100 Hopper計(jì)算GPU組成，使用141GB HBM3e內(nèi)存，內(nèi)存容量和帶寬都有顯著提高。

這款新一代超級(jí)芯片平臺(tái)基于英偉達(dá)在2022年3月推出的Grace Hopper超級(jí)芯片，該芯片首次將CPU和GPU融合在一塊主板上。HBM3e內(nèi)存是一種新型的高帶寬內(nèi)存技術(shù)，能夠在更小的空間內(nèi)提供更高的數(shù)據(jù)傳輸速率。

GH200 Grace Hopper超級(jí)芯片平臺(tái)配備了480GB ECC LPDDR5X內(nèi)存和GH100計(jì)算GPU，搭配141GB HBM3e內(nèi)存，分為六個(gè)24GB的堆棧，并采用了6144位的內(nèi)存接口。盡管實(shí)際安裝了144GB的內(nèi)存，但可用的內(nèi)存容量為141GB。

與目前配備96GB HBM3內(nèi)存的GH200 Grace Hopper超級(jí)芯片平臺(tái)相比，升級(jí)版的內(nèi)存容量增加了約50%，帶寬增加了25%以上，達(dá)到5TB/s。這樣的巨大改進(jìn)使得新平臺(tái)能夠運(yùn)行比初代版本更大的人工智能模型，并提供明顯的性能提升，尤其對(duì)于訓(xùn)練任務(wù)來(lái)說(shuō)尤為重要。

據(jù)英偉達(dá)透露，目前配備HBM3內(nèi)存的GH200 Grace Hopper超級(jí)芯片平臺(tái)已經(jīng)進(jìn)入生產(chǎn)階段，將于下個(gè)月開(kāi)始商業(yè)銷售。而配備HBM3e內(nèi)存的GH200 Grace Hopper超級(jí)芯片平臺(tái)目前正在進(jìn)行樣品測(cè)試，預(yù)計(jì)將于2024年第二季度上市。

值得一提的是，新款GH200 Grace Hopper超級(jí)芯片采用了與原版相同的Grace CPU和GH100 GPU芯片，因此英偉達(dá)無(wú)需推出任何新的版本或步進(jìn)。原版GH200和升級(jí)版GH200將共同存在于市場(chǎng)上，但后者將以更高的價(jià)格銷售，畢竟其采用了更先進(jìn)的內(nèi)存技術(shù)，帶來(lái)更高的性能。

英偉達(dá)還表示，配備HBM3e內(nèi)存的下一代Grace Hopper超級(jí)芯片平臺(tái)完全兼容英偉達(dá)的MGX服務(wù)器規(guī)范，并且可以與現(xiàn)有的服務(wù)器設(shè)計(jì)直接兼容。這將為用戶提供更多的選擇和靈活性，以滿足不同的計(jì)算需求。

關(guān)鍵詞：