Solidigm (思得)今日 (10/7)宣布啟用全新的AI中央實驗室 (AI Central Lab),為當前AI工作負載量身打造出業界效能最高、密度最高的儲存測試叢集,象徵AI與儲存技術的整合邁向全新階段。
這座全新實驗室設於美國加州Rancho Cordova,位於鄰近Solidigm總部的FarmGPU設施內,主要目的在於讓Solidigm能在NVIDIA最新一代B200與H200 GPU 上執行與分析真實世界的AI工作負載,深入研究頂尖儲存技術如何提升叢集運算效能,同時開放給合作夥伴進行驗證與聯合創新。
Solidigm AI生態系與策略夥伴關係資深總監Avi Shetty表示:「AI中央實驗室結合了當前最強大的GPU與Solidigm領先的儲存架構,讓客戶與開發者能在實際的AI工作環境中測試效能、分析瓶頸,並且持續最佳化。這些原本僅限大型企業掌握的資源,現在開放給更多合作夥伴使用,展現了將儲存貼近GPU設計的必要性。」
實驗室以業界通用參考架構打造,讓客戶能在與全球大型資料中心一致的標準環境中,測試搭載Solidigm SSD的完整解決方案。這不僅有助於模擬真實AI應用負載,也可進行伺服器、機架乃至叢集層級的綜合分析。
Avi Shetty強調,過去僅測試儲存設備已無法滿足AI時代的需求。「我們現在能直接在實驗室內運行真實AI模型,並且透過遙測技術分析系統效能與能源效率,同時掌握不同AI工作負載對儲存的實際要求。」
AI中央實驗室的主要亮點包括:
• 效能最高的儲存叢集:採用超高速Solidigm D7-PS1010 SSD,在MLPerf Storage測試中每個節點可達116GB/s吞吐量,並且支援多節點擴充。
• 密度最高的儲存架構:配置192顆Solidigm D5-P5336 SSD,單顆容量達122TB,僅用16U機架即可達到23.6PB儲存容量。
• 完整運算與網路支援:配備NVIDIA B200/H200 GPU、800Gbps乙太網路技術,並且整合多家合作夥伴的高效伺服器平台。
AI中央實驗室可支援多種AI工作負載,包括高度依賴GPU的模型訓練與推論任務,並且針對KV快取卸載、VectorDB微調等新興技術進行測試。實驗室同時能量測不同系統配置的能耗表現,協助開發符合能源效率最佳化的架構,並且以每美元處理字元數 (tokens per dollar)與每瓦處理字元數 (tokens per watt)等指標,建立具產業參考價值的AI效能評估標準。
目前多家機構已進駐Solidigm AI中央實驗室展開合作。Solidigm與Metrum AI團隊共同開發的新技術,即能將AI資料從記憶體卸載至SSD,並且於RAG (檢索增強生成)推論過程中減少高達57%的記憶體資源使用量。
此外,Solidigm也與FarmGPU深度合作,持續優化AI基礎架構效能與能源效率,推動儲存與AI運算的整合發展。
透過這座新實驗室,Solidigm不僅強化其在AI儲存領域的領導地位,也為全球合作夥伴提供實際驗證平台,加速AI應用的創新與落地。