硬體 處理器

NVIDIA Hopper加速系統結合Intel第四代Xeon Scalable處理器,讓資料中心運算效能提升25倍
提升人工智慧等資料密集型作業負載表現

配合Intel的第四代Xeon Scalable可擴展伺服器處理器,以及代號「Sapphire Rapids HBM」、隸屬Max系列的Xeon處理器之後,NVIDIA也宣布將以旗下代號「Hopper」的加速系統,藉此讓資料中心運作效率相比傳統設計可提高25倍率,並且大幅降低能源成本。

-

依照NVIDIA說明,結合第四代Xeon Scalable可擴展伺服器處理器與代號「Hopper」的加速系統所構成運算系統,目前已經透過其合作夥伴推出超過60款設計,不僅大幅降低運算時的電力損耗,同時也能大幅推動人工智慧運算、機器學習、深度學習等應用成長,更能進一步協助更多業者推動永續發展。

而配合第四代Xeon Scalable可擴展伺服器處理器原生支援PCIe Gen 5規格,可將CPU到NVIDIA GPU及網路的資料傳輸速率提高一倍,並且能讓每台伺服器可以配置更高密度的GPU與高速網路。

另外,更高記憶體頻寬也提升人工智慧等資料密集型作業負載表現,每個連接節點高達每秒400GB (Gbps)的網路傳輸速度,更讓伺服器與儲存裝置之間能更快交換資料。

每個DGX H100系統搭載8個NVIDIA H100 GPU、10張NVIDIA ConnectX-7乙太網路介面卡,以及2組第四代Xeon Scalable可擴展伺服器處理器,藉此提供打造大型生成式人工智慧模型、大型語言模型、推薦系統等所需效能。

這個架構加上NVIDIA網路技術,將能大規模提升運算效率,在訓練人工智慧及處理高效能運算 (HPC)作業負載方面,相比前一代產品約可高出9倍運算效能,相較未加速的x86架構雙插槽伺服器約可提升20至40倍運算效能。

若以x86架構伺服器叢集訓練單一語言模型需要花費40天時間的情況,在搭載Intel第四代Xeon Scalable可擴展伺服器處理器及ConnectX-7網路技術的 NVIDIA DGX H100系統訓練相同語言模型,僅需一到兩天即可完成。

楊又肇 (Mash Yang)
mashdigi.com網站創辦人兼主筆,同時也是科技新聞業流浪漢。

發表迴響