AI晶片巨頭輝達(Nvidia)美國時間周二在洛杉磯舉辦的《計算機圖形交互技術頂級會議暨展覽》(SIGGRAPH)上,正式發表AI超級晶片平台GH200 Grace Hopper,希望進一步鞏固該公司在AI加速器新市場的主導地位。執行長黃仁勳宣告:「生成式AI時代來臨」。
輝達在AI加速器市場已建立早期領先地位,推升該公司股價今年上漲逾兩倍,是今年費城證交所半導體指數表現最佳的成分股,同時,估值突破一萬億美元大關,成為全球最有價值的晶片製造商。
輝達執行長黃仁勳以一身黑色皮衣勁裝,現身洛杉磯舉辦的SIGGRAPH大會,向台下聽眾展示全球最新的人工智能超級晶片GH200。
GH200 Grace Hopper是首款結合CPU與GPU的超級晶片平台,首次採用高頻寬記憶體HBM3e,GPU記憶體頻寬能達到5TB/s。不僅增加記憶體容量,速度也更快,每秒可傳輸的資料量比起H100增加1.7倍,在需要大量且快速運算資料的AI時代增添優勢。
降低20倍能耗
黃仁勳表示,「你可以將任何語言模型放入其中,他會瘋狂地進行推理。」黃仁勳指出,過去需斥資一億美元來打造資料中心,改用GH200後,可以省下12倍的成本,加上GH200超強大的算力,還能降低20倍的能耗,再次呼應他來台後不斷高呼的口號:「買愈多、省愈多。」
輝達宣布,新一代GH200將於2024年第二季進入量產,今年年底就會給客戶體驗。
將推新一代OVX伺服器
輝達還發布為OVX系統所打造的新一代伺服器,搭載 L40S GPU並採用Ada Lovelace架構,可加強AI的訓論及推論、3D設計和視覺、影像處理和工業數字化等應用,預計會在今年秋天上市。
OVX系統是專門為大規模數字孿生(digital twins)所設計的運算系統。輝達指出,OVX可用於模擬複雜較高的數位孿生,例如打造整棟建築物、工廠和城市,甚至是整個世界的模型。
供應商除了有戴爾(Dell)、技嘉、雲達和美超微(Supermicro)之外,新加入的華碩也成為供應商之一。 (編輯部)