今年10月宣布推出代號Turin的第五代EPYC伺服器處理器,同步推出與NVIDIA H200抗衡、基於CDNA 3架構設計的Instinct MI325X人工智慧加速器,另外也以全新Ryzen AI PRO 300系列處理器推動工作站機種運算能力,更進一步強化嵌入式產品發展佈局,此次在台灣舉辦的AI SOLUTIONS DAY活動展示其人工智慧解決方案,標榜與市場合作夥伴共同推動人工智慧應用發展。
此次活動中,AMD與26家OEM、ODM、獨立軟體供應商與嵌入式合作夥伴共同展示以其運算產品推動人工智慧技術應用。
AMD台灣區商用業務處資深業務副總經理林建誠表示,AMD持續推進端對端的人工智慧基礎設施創新,透過全新EPYC伺服器處理器、Instinct加速器、Pensando DPU,以及Ryzen AI CPU等運算產品,針對人工智慧、雲端、終端及嵌入式工作負載提供廣泛的解決方案組合。
同時,AMD也持續推進開放式人工智慧產業體系,透過全新功能、工具、最佳化和支援擴展AMD ROCm開源人工智慧軟體堆疊,協助更多開發人員從Instinct加速器中獲取極致效能,並且對應當前人工智慧應用發展需求。
AMD全球副總裁暨嵌入式解決方案事業群總經理Rajneesh Gaur則說明AMD藉由廣泛的嵌入式AI解決方案組合,以及技術架構推動資料中心更高運算效能與執行效率。
在邊緣人工智慧成為下一波創新浪潮之際,AMD以Versal自適應系統單晶片及Alveo加速卡,協助客戶更快將解決方案推向市場,而EPYC嵌入式與Ryzen嵌入式處理器解決方案則可為資料密集型工作負載提供強大且高效的運算效能。
今年正式宣布出貨的第五代EPYC伺服器處理器,分別獲得Cisco、Dell、HPE、聯想、Supermicro等ODM業者及雲端服務業者採用,本身提供8核心到192核心的廣泛核心數量規格選擇,強調在效能及能源效率之間平衡取得優勢,其中最高階的192核心處理器效能比起競爭對手推出同級提升高達2.7倍。
以採192核心設計的EPYC 9965處理器為例,相比Intel推出的Xeon 8592+處理器在商業型應用如視訊轉碼速度提升高達4倍,而在科學和高效能運算應用洞察時間縮短則多達3.9倍,另外在虛擬化基礎設施 (infrastructure)中的每核心效能更提升高達1.6倍。
而在TPCx-AI (衍生)等端對端人工智慧工作負載,EPYC 9965處理器效能提升高達3.7倍,在Meta Llama 3.1-8B等中小型企業級生成式人工智慧模型可對應資料吞吐處理效能更比競爭對手推出同級產品提升1.9倍。
第五代EPYC伺服器處理器更以9005系列更將推出以Zen 5c架構打造衍生規格,同時每組CPU可對應多達12通道的DDR5記憶體模組,最高可對應DDR5-6400 MT/s記憶體規格,另外也支援完整512b資料路徑的AVX-512指令集,並且使用對應機密運算的可信任I/O連接埠設計,以及正進行該系列中每個部份的FIPS認證,藉此確保系統運作安全。
至於預計在2024年第4季量產出貨,並且將於2025年第1季起由Dell、HPE、聯想、Supermicro、Eviden、技嘉等平台業者導入用於設計產品的Instinct MI325X加速器,標榜能在基礎模型訓練、微調和推論等要求嚴苛的人工智慧任務提供更高運算效能及執行效率,藉此協助客戶和合作夥伴在系統、機架和資料中心層級打造更高效能和最佳化的人工智慧解決方案。
此外,AMD也表示透過全新Ryzen AI PRO 300系列處理器推動工作站設備運算效能,提供超過50 TOP的NPU運算能力,藉此推動各類商用工作負載,並且銜接雲端、終端運算資源,實現更完整的人工智慧應用體驗。