Tag: Instinct MI300X

Red Hat宣布與AMD擴大策略合作，雙方將結合Red Hat在開放原始碼與AI軟體平台的領導優勢，以及AMD在高效能運算架構的深厚技術，共同為企業用戶提供更靈活且具備效能優勢的AI與虛擬化解決方案，協助因應日益多樣化的混合雲與生成式AI佈署需求。 在 AI 工作負載方面，Red Hat表示其OpenShift AI解決方案已經全面支援AMD Instinct GPU，企業無需投入大量資源，即可透過高效能的GPU進行加速，並且在跨混合雲架構中快速導入、佈署生成式AI模型。 雙方也在微軟Azure ND MI300X v5平台上，搭載AMD Instinct MI300X GPU，成功展示基於Red Hat Enterprise Linux AI的小型與大型語言模型推論能力，能於單一虛擬機器上佈署多個GPU，有效降低跨多虛擬機部署的複雜度與成本。 針對vLLM (開源高效語言模型推論框架)，Red Hat與AMD更積極參與上游社群協作，透過最佳化Triton核心、FP8支援與核心函式庫上游化，提升模型推論效能，強化多 GPU環境下的集體通訊與負載調度表現。 而Red Hat也將推出自家企業級vLLM發行版「Red Hat AI Inference ...

繼先前推出搭載Ryzen AI運算元件的Ryzen 7040系列處理器之後，AMD稍早於美國聖荷西活動除了宣布Instinct MI300X加速器從即日起正式上市消息，更宣布推出Ryzen 8040系列處理器，藉此搶先Intel腳步率先佈局整合人工智慧應用服務的筆電市場。 跟Ryzen 7040系列一樣，Ryzen 8040系列處理器同樣整合以XDNA架構設計的Ryzen AI運算元件，在此次新推出採8核心設計的Ryzen 9 8945HS運算表現中，將能在執行Llama 2等人工智慧模型時比前一代產品快上1.4倍，而在遊戲速度則比Intel Core i9-13900H快1.8倍，在內容創作部分則可提升1.4倍工作效率。 除了定位最高階的Ryzen 9 8945HS，AMD還推出Ryzen 7 8845HS、Ryzen 7 8840HS、Ryzen 7 8840U、Ryzen 5 8645HS、Ryzen 5 8640HS、Ryzen 5 8640U、Ryzen 5 ...

雖然先前有不少市場看法認為，在NVIDIA於今年Computex 2023大放異彩情況下，AMD相對顯得低調，似乎準備在6月於美國的發表活動放出大招，但從此次公布內容與相關產品策略顯示，AMD訴求方向仍與NVIDIA明顯不同。 ▲結合Zen 4架構CPU與CDNA 3架構GPU，以APU形式打造的加速器Instinct MI300A 此次AMD在美國發表內容裡，擴大EPYC伺服器處理器、Instinct系列加速器應用範疇，藉此補齊雲端運算市場需求，分別以去年11月宣布推出代號「Genoa」的第四代EPYC伺服器處理器為基礎，分別提供針對雲原生應用服務運算需求打造、代號「Bergamo」，以及針對科學運算需求推出代號「Geona-X」的衍生版本，同時也與AWS、Meta、微軟等業者合作導入。 而針對智慧邊緣運算與電信服務需求打造、代號「Siena」的伺服器處理器也準備在今年下半年進入市場，AMD表示將透過結合旗下產品線滿足雲端到裝置端的運算需求，並且帶動更多雲原生運算及開發環境應用發展。 ▲針對雲原生應用服務運算需求打造、代號「Bergamo」的第四代EPYC伺服器處理器衍生版本 至於在近期盛行的自動生成式人工智慧發展趨勢下，AMD也以Instinct MI300系列加速器應對，不僅推出以CDNA 3加速架構打造、配置高達192GB HBM3記憶體設計的Instinct MI300X，更以工業標準設計打造串連8組Instinct MI300X構成的巨大加速器，藉此對應需要更高算力的自動生成式人工智慧訓練及推論需求。 另外，今年初在CES 2023期間預覽，並且以APU形式打造的加速器Instinct MI300A，則是結合Zen 4架構CPU與CDNA 3架構GPU，藉此滿足超算及人工智慧運算佈署需求，目前已經開始向合作夥伴提供樣品測試。 「性價比」依然是重點 在整場發表活動中，AMD並未特別將其產品與競爭對手NVIDIA直接作比較，但從Instinct MI300系列加速器採模組化設計，甚至提出以APU形式打造的Instinct MI300A顯然希望與NVIDIA提出的Superchip設計抗衡。 而在宣傳說法中，AMD更以「Get more,pay less」 (獲得更多，付更少)的產品特性，對比NVIDIA一直提倡的「the more you ...

去年11月宣布推出代號「Genoa」的第四代EPYC伺服器處理器，並且針對雲原生應用服務運算需求打造、代號「Bergamo」，以及針對科學運算需求推出代號「Geona-X」的衍生版本，目前都已經進入市場應用，而針對智慧邊緣運算與電信服務需求打造、代號「Siena」的伺服器處理器也準備在今年下半年進入市場，AMD表示將藉此補齊雲端運算市場需求，並且能結合裝置端發揮更大運算效益。 ▲AMD宣布以其產品持續推動雲端、企業運算與超算應用效能 藉由第四代EPYC伺服器處理器推動更大規模運算效能 AMD強調，代號「Bergamo」的第四代EPYC 97X4系列伺服器處理器，將配置最高128組Zen 4c架構核心，將能在雲原生運算環境以最高虛擬CPU核心密度對應2.6倍運算效能，同時也能對應2.7倍電力使用效益，並且可在單一伺服器上運作3倍以上的容器化應用程式數量。 ▲代號「Bergamo」的第四代EPYC 97X4系列伺服器處理器，，將配置最高128組Zen 4c架構核心，將能在雲原生運算環境以最高虛擬CPU核心密度對應2.6倍運算效能，同時也能對應2.7倍電力使用效益 ▲藉由更小的Zen 4c架構核心設計，對應更高運算密度與更高電力使用效率 另外，透過整合3D V-Cache快取記憶體設計，更讓第四代EPYC伺服器處理器能以最高96組Zen 4架構核心，搭配1GB以上的L3快取記憶體加快一倍以上的運算工作效率，並且降低原本工作所需花費時間與電力損耗量。 ▲整合3D V-Cache快取記憶體設計，更讓第四代EPYC伺服器處理器能以更高效能運作 而在此次發表內容中，AMD更宣布與AWS合作，將使其從即日起開放預覽的Amazon EC2 M7a伺服器系統能比前一代產品提升高達50%效能表現。 另外，甲骨文旗下Oracle Cloud Infrastructure也將導入以「Geona」設計為主的Amazon E5 Instances伺服器系統，預計在今年7月正式上線運作。 至於Meta也宣布將導入以「Bergamo」為設計的伺服器系統，藉此加速旗下包含Facebook、Instagram及WhatsApp服務運作效率。 微軟則將在其Azure雲端運算平台導入以「Geona-X」設計的伺服器系統，藉此推動其以雲端架構為設計的超算效能。 ▲藉由第四代EPYC伺服器處理器與其衍生版本，AMD說明能滿足不同運算效能佈署需求 ▲藉由第四代EPYC伺服器處理器與其衍生版本，AMD說明能滿足不同運算效能佈署需求 藉由Instinct MI300系列加速器推動自動生成式人工智慧運算需求 ...