在AI浪潮持續推動資料中心架構革新之際,博通近期宣布推出第三代共封裝光學 (CPO)網路交換器Tomahawk 6 「Davisson」,以及業界首款800G乙太網路卡「Thor Ultra」,為下一代AI運算集群提供更高效能的網路解決方案。而博通光學系統部門行銷與營運副總裁Manish Mehta與軟體暨生態系主管Hasan Siraj在與台灣媒體交流時,更強調以「開放」形式推動AI基礎設施發展。
第三代CPO技術:Tomahawk 6 Davisson
博通光學系統部門副總裁Manish Mehta在簡報中表示,Tomahawk 6 Davisson是業界首款100T CPO乙太網路交換器,具備包含傳輸速率提升至200G/lane,總頻寬達102.4T,相比可插拔光學模組降低70%功耗等特性。
同時,Tomahawk 6 Davisson是基於前代產品驗證的可靠平台,並且在Meta實際測試百萬設備運行小時中達成零鏈路抖動,強調其網路傳輸運作時的數據交換穩定性。
Manish Mehta強調,CPO技術的可靠性已獲得實證,而在Meta公開的測試數據顯示,CPO技術在維護效率方面比可插拔光學模組改善5倍,在24K GPU集群中更可提升90%訓練效率。
革命性網路卡:Thor Ultra
博通核心交換部門軟體產品負責人Hasan Siraj介紹,Thor Ultra是專為AI後端訓練設計的800G乙太網路卡,不僅成為業界首款單一可達800G流量的網路卡,整體運作功耗更僅控制在50W,並且完全符合Ultra Ethernet Consortium (UEC) 1.0規範,支援封包級多路徑傳輸與亂序封包處理,另外更提供OCP 3.0與PCIe兩種規格,更可相容下一代PCIe Gen 6設計,意味能銜接未來網路傳輸架構佈署應用。
而Hasan Siraj更指出:傳統RDMA協議在面對數十萬XPU的大型集群時面臨挑戰,Thor Ultra則可透過現代化技術解決多路徑傳輸、亂序處理等關鍵問題,藉此改善當前AI等龐大資料透過伺服器傳輸運算時可能因網路造成延滯、緩慢運作等情況。
完整AI網路解決方案
博通展示的整體解決方案顯示,結合Tomahawk 6交換器與Thor Ultra網路卡,可在兩層網路架構下支援高達128000個GPU的大型集群,相比傳統三層架構能減少40%以上的功耗、延遲與光學元件使用量。
技術路線圖與產業合作
在問答環節中,博通高層不僅說明第四代400G/lane規格的CPO產品已經在開發階段,同時也表示與台積電在COUPE矽光子平台製程有密切合作關係,同時也在台灣與鴻騰精密、台達電等業者在連接器、機殼與先進封裝等領域深度合作。
另外,對於Intel不久前在OCP Summit活動上展示以NVIDIA NVLink Fusion形式,將其Xeon 6伺服器處理器、Gaudi 3加速器與NVIDIA的B200 GPU整合,其中更採用博通的Tomahawk 5 51.2Tb/s網路交換器晶片,博通則看好這樣的配置應用,認為在市場趨於「開放」情況下,將能進一步推動AI基礎設施發展。
而針對OpenAI等公司在規模化乙太網路 (Scale-up Ethernet)合作架構,是否會對台灣伺服器與網路硬體製造商帶來強制性技術升級要求,博通方面則表示OpenAI只是規模化乙太網路合作的12家發起公司之一,其他公司還包括Meta、微軟、甲骨文、思科、Arista、Juniper、博通、NVIDIA、AMD等,甚至還會有更多公司加入,並且提供意見,因此規格制定不會由單一廠商主導,因此台灣供應鏈無需過度擔心因應問題。