在Computex 2024展前主題演講中,AMD宣布推出採雙卡槽設計的Radeon PRO W7900 Dual Slot,標榜對應多張顯示卡運算需求的工作站,以及自動生成式人工智慧運算需求打造,同時能以更具性價比形式提供更高顯示運算效能。
Radeon PRO W7900 Dual Slot採雙插槽設計,本身則以280mm長度為設計,其中整合192組人工智慧加速元件,可在FP16 (半精度浮點數)運算模式達最高123 TFLOPS算力表現。
此外,Radeon PRO W7900 Dual Slot搭載48GB GDDR6 ECC記憶體模組,對應864GB/s記憶體資料傳輸頻寬,同時藉由DisplayPort 2.1連接埠輸出顯示畫面,支援最高774 GBit/s資料傳輸率,而整體號電功率為295W。
AMD強調Radeon PRO W7900 Dual Slot對比NVIDIA RTX 6000 Ada,能在每美元對應效能表現高出52%,本身也能藉由AMD ROCm 6.1軟體整合ONNX、PyTorch、TensorFlow等框架或人工智慧模型,並且對應諸多資料庫、編譯器或執行工具。
而AMD ROCm 6.1軟體能原生對應Ubuntu 22.04.32的Linux,或是支援Linux子系統WSL2版本的Windows作業系統環境使用,並且可對應Radeon RX 7900 XTX、Radeon RX 7900 XT、Radeon RX 7900 GRE、Radeon PRO W7900 Dual Slot、Radeon PRO W7900與Radeon PRO W7800使用。
至於在人工智慧推論運算效能方面,Radeon PRO W7900 Dual Slot導入Meta的Llama 3 70B-Q4,或是以ROCm 6.0搭配vLLM (35GB),每美元效能依然高出NVIDIA RTX 6000 Ada,甚至能因為具備足夠的顯示記憶體容量,因此能輕易導入大型自然語言模型運算,因此也更容易對應目前自動生成式人工智慧運算需求。
AMD預計在6月19日正式開放Radeon PRO W7900 Dual Slot上市銷售,建議售價則是3499美元。