市場動態 展覽 處理器

以7nm製程打造,Intel旗下人工智慧團隊Habana Labs推出第二代人工智慧處理器
標榜處理模型訓練資料吞吐量約為NVIDIA A100的2倍

在此次Intel VisiON活動中,Intel宣布由旗下人工智慧團隊Habana Labs宣布推出第二代人工智慧處理器,其中包含用於訓練的Habana Gaudi2,以及用於推論的Habana Greco。

-

其中,用於訓練的Habana Gaudi2在ResNet-50機器視覺模型及BERT自然語言處理模型訓練資料吞吐量,約為NVIDIA A100的2倍,而用於推論的Habana Greco則可對應執行效率。

-

兩款處理器均以7nm製程生產,並且開放現有Habana處理器用戶使用,更與Supermicro合作推出Gaudi2訓練伺服器,預計會在今年下半年推出,而與全球最大私有儲存系統公司DDN合作部分,則將打造全新DDN AI400X2儲存方案。

Habana Gaudi2維持先前採用架構,並且整合傳輸頻寬達每秒2.45TB、總計96GB容量的HBM2E記憶體,並且配置24組100GbE RoCE NIC網路卡,可透過網路串接方式進行算力擴充。而Habana Greco則預計在2022年下半年提供測試樣品,預計在2023年第一季推出,本身具備晶片端媒體內容編碼功能,支援HEVC、H.264、JPEG與P-JPEG等常見規格,支援Bfloat 16、FP16、INT8/UINT8、INT4/UINT4運算模式,藉此對應更具彈性的推論運算模式。

目前包含Mobileye、Leidos、Supermicro與DDN都會是Habana Gaudi2首波合作夥伴,預計應用在自駕車訓練、醫療影像分析,或是產線檢測等應用,而Intel也將提供SynapseAI軟體,讓使用者能更容易針對深度學習模型進行最佳化,透過增加幾行編碼內容即可簡化模型移植流程。

楊又肇 (Mash Yang)
mashdigi.com網站創辦人兼主筆,同時也是科技新聞業流浪漢。

發表迴響