Tag: EPYC

今年10月宣布推出代號Turin的第五代EPYC伺服器處理器，同步推出與NVIDIA H200抗衡、基於CDNA 3架構設計的Instinct MI325X人工智慧加速器，另外也以全新Ryzen AI PRO 300系列處理器推動工作站機種運算能力，更進一步強化嵌入式產品發展佈局，此次在台灣舉辦的AI SOLUTIONS DAY活動展示其人工智慧解決方案，標榜與市場合作夥伴共同推動人工智慧應用發展。 此次活動中，AMD與26家OEM、ODM、獨立軟體供應商與嵌入式合作夥伴共同展示以其運算產品推動人工智慧技術應用。 AMD台灣區商用業務處資深業務副總經理林建誠表示，AMD持續推進端對端的人工智慧基礎設施創新，透過全新EPYC伺服器處理器、Instinct加速器、Pensando DPU，以及Ryzen AI CPU等運算產品，針對人工智慧、雲端、終端及嵌入式工作負載提供廣泛的解決方案組合。 同時，AMD也持續推進開放式人工智慧產業體系，透過全新功能、工具、最佳化和支援擴展AMD ROCm開源人工智慧軟體堆疊，協助更多開發人員從Instinct加速器中獲取極致效能，並且對應當前人工智慧應用發展需求。 AMD全球副總裁暨嵌入式解決方案事業群總經理Rajneesh Gaur則說明AMD藉由廣泛的嵌入式AI解決方案組合，以及技術架構推動資料中心更高運算效能與執行效率。 在邊緣人工智慧成為下一波創新浪潮之際，AMD以Versal自適應系統單晶片及Alveo加速卡，協助客戶更快將解決方案推向市場，而EPYC嵌入式與Ryzen嵌入式處理器解決方案則可為資料密集型工作負載提供強大且高效的運算效能。 今年正式宣布出貨的第五代EPYC伺服器處理器，分別獲得Cisco、Dell、HPE、聯想、Supermicro等ODM業者及雲端服務業者採用，本身提供8核心到192核心的廣泛核心數量規格選擇，強調在效能及能源效率之間平衡取得優勢，其中最高階的192核心處理器效能比起競爭對手推出同級提升高達2.7倍。 以採192核心設計的EPYC 9965處理器為例，相比Intel推出的Xeon 8592+處理器在商業型應用如視訊轉碼速度提升高達4倍，而在科學和高效能運算應用洞察時間縮短則多達3.9倍，另外在虛擬化基礎設施 (infrastructure)中的每核心效能更提升高達1.6倍。 而在TPCx-AI (衍生)等端對端人工智慧工作負載，EPYC 9965處理器效能提升高達3.7倍，在Meta Llama 3.1-8B等中小型企業級生成式人工智慧模型可對應資料吞吐處理效能更比競爭對手推出同級產品提升1.9倍。 第五代EPYC伺服器處理器更以9005系列更將推出以Zen ...

路透新聞指稱，OpenAI計畫藉由博通獲取台積電製程產能，預計在2026年生產其用於人工智慧推論的自製晶片產品。 報導指稱，OpenAI已經以一年左右時間籌備自製晶片，並且透過約20人組成團隊推動此計畫，其中成員包含曾在Google任職期間協助打造TPU的工程師Thomas Norrie、Richard Ho。 而此款自製晶片主要用於人工智慧推論，而非用於訓練，藉此讓人工智慧執行反應速度加快，並且讓使用者能有更流暢的使用體驗。 在此之前，OpenAI為了確保晶片供應彈性，並且藉由多元化供應降低持有成本，曾考慮自行建造晶圓廠，但目前顯然更傾向對外合作，藉此更有效率地生產自製晶片。 不過，目前OpenAI仍持續與NVIDIA合作，並且計畫導入其新款「Blackwell」顯示架構的加速器，另外也維持以用於微軟Azure雲端服務的AMD EPYC處理器加速人工智慧服務運作。

今年初宣布將推出代號Turin (義大利北部的重要工業城市杜林)的第五代EPYC伺服器處理器之後，AMD正式說明此款處理器正式出貨，並且獲得Cisco、Dell、HPE、聯想、Supermicro等ODM業者及雲端服務業者採用，另外也同步推出基於CDNA 3架構設計的Instinct MI325X加速器，藉此推動高效能和最佳化的人工智慧解決方案。 第五代EPYC伺服器處理器在人工智慧與高效運算每周期指令執行效能提升多達37% 第五代EPYC伺服器處理器以9005系列為稱，同樣以Zen 5架構打造，並且相容既有SP5接腳平台，提供8核心到192核心的廣泛核心數量規格選擇，強調在效能及能源效率之間平衡取得優勢，其中最高階的192核心處理器效能比起競爭對手推出同級提升高達2.7倍。 對比先推出Zen 4架構產品，此次應用Zen 5架構的第五代EPYC伺服器處理器在企業及雲端工作負載的每周期指令執行效能 (IPC)提升達17%，而在人工智慧與高效運算表現則在每周期指令執行效能提升多達37%。 以此次推出採192核心設計的EPYC 9965處理器為例，相比Intel推出的Xeon 8592+處理器在商業型應用如視訊轉碼速度提升高達4倍，而在科學和高效能運算應用洞察時間縮短則多達3.9倍，另外在虛擬化基礎設施 (infrastructure)中的每核心效能更提升高達1.6倍。 在TPCx-AI (衍生)等端對端人工智慧工作負載，EPYC 9965處理器效能提升高達3.7倍，而在Meta Llama 3.1-8B等中小型企業級生成式人工智慧模型可對應資料吞吐處理效能更比競爭對手推出同級產品提升1.9倍。 而此次同步新增、採64核心設計的EPYC 9575F處理器，則是針對需要極致主機CPU功能與GPU加速人工智慧解決方案打造，其中在運作時脈提高達5GHz，相比競爭對手推出同級產品的運作時脈為3.8GHz，速度提升高達28%，讓GPU能夠滿足要求嚴苛的人工智慧工作負載資料處理需求，並且能讓1000個節點的人工智慧運算叢集可在每秒驅動超過70萬個推論符元 (token)，藉此更快完成多項執行任務。 其他部分，第五代EPYC伺服器處理器以9005系列更將推出以Zen 5c架構打造衍生規格，同時每組CPU可對應多達12通道的DDR5記憶體模組，最高可對應DDR5-6400 MT/s記憶體規格，另外也支援完整512b資料路徑的AVX-512指令集，並且使用對應機密運算的可信任I/O連接埠設計，以及正進行該系列中每個部份的FIPS認證，藉此確保系統運作安全。 Instinct MI325X加速器對比H200加速器在記憶體容量提高1.8倍 此次同步推出的Instinct MI325X加速器，則採用可達256GB容量、6.0TB/s傳輸速率的HBM3E高頻寬記憶體，強調對比NVIDIA的H200加速器在記憶體容量提高1.8倍，資料傳輸頻寬則增加1.3倍，另外在Mistral ...

針對網路系統、路由器、安全設備、企業和雲端暖／冷儲存，以及工業邊緣應用需求，AMD宣布推出EPYC嵌入式8004系列處理器，標榜在嚴苛的嵌入式環境中依然能提供出色效能，同時確保無縫處理動態工作負載。 EPYC嵌入式8004系列處理器針對運算密集型嵌入式系統所設計，可為高需求工作負載提供卓越效能，同時以緊湊的尺寸規格為空間和功率受限型應用最大程度地提升能源效率，並整合一套全面的嵌入式功能，以進一步增強系統效能與可靠性。 其中，EPYC嵌入式8004系列處理器導入Zen 4c核心架構設計，在核心密度與每瓦效能之間取得平衡，同時也是AMD第一款採用Zen 4c核心架構設計的嵌入式處理器，讓硬體供應商能夠設計差異化的節能平台，相比先前採用Zen 3核心架構可提升高達30%的每瓦效能。 EPYC嵌入式8004系列處理器提供1P配置，從12到64核心 (24至128執行緒)，支援最高1.152TB DDR5記憶體容量 (每通道2個DIMM，DIMM為96GB)，熱設計功耗 (TDP)範圍從70W至225W，藉此滿足多樣化應用需求。 而連接部分則對應多達96組PCIe Gen 5通道，以及6通道的DDR5-4800記憶體配置，處理器則採緊湊型SP6插槽尺寸規格，比EPYC嵌入式9004系列處理器佔用面積減少約19%，更享有長達7年的生命週期支援。 EPYC嵌入式8004系列處理器適合尋求強大效能、同時對能源效率、熱靈活性和平台密度有著高要求的市場應用需求，在惡劣環境下承擔嚴苛工作負載的網路、儲存和工業邊緣系統進行最佳化，可提供客戶所需的突破性每瓦效能優勢和先進功能。 另外，EPYC嵌入式8004系列處理器在資料傳輸能力、系統可靠性和資料保存方面表現出色，主要整合的功能包括： • 直接記憶體存取 (第4代AMD EPYC DMA)：透過卸載CPU的資料傳輸提升系統效率和效能，使核心能夠專注於關鍵應用任務。 • 非透明橋接 (NTB)：通過PCI Express在雙主動式 (active-active)配置中實現兩個CPU之間的資料交換，進而提升系統可靠性，確保在發生故障時仍能繼續運行。 • DRAM更新至NVMe：斷電時將關鍵資料從DRAM更新至NVMe，協助確保關鍵資料得以保存。 • 雙SPI支援：支援使用兩個SPI ...

更新：NVIDIA針對相關傳聞表示不作任何回應，但強調代號「Hopper」的加速器需求顯著，同時代號「Blackwell」的加速器樣品已經開始提供測試，預計會在今年下半年增加產能。 The Information網站引述消息來源指稱，在NVIDIA代號「Blackwell」的新一代加速器設計出現缺陷問題，因此將延後原訂今年底之前出貨目標，必須等到2025年初才會正式推出。 NVIDIA已經開始向微軟在內首波客戶發出通知，同時目前也正在與台積電進行試產，藉此查明設計問題所在。 而「Blackwell」延後推出，自然對AMD在內業者有利，預期將能在此期間吸引更多客戶使用其人工智慧加速應用產品，同時AMD更計畫在今年下半年推出以Zen 5架構設計、代號Turin的第五代EPYC伺服器處理器，另外也準備在今年第四季推出以CDNA 3架構打造的MI325X加速器。 另外，隨著「Blackwell」正式出貨時間延宕，預期不少人工智慧技術應用需求業者也會將訂單轉向當前代號「Hopper」的加速器產品，藉此對應當前需求龐大的人工智慧應用成長趨勢。 除了延後「Blackwell」出貨，先前消息也指出NVIDIA今年將不會揭曉新一代GeForce RTX50系列消費級顯示卡，可能會調整至明年初的CES 2025期間公布，似乎也間接顯示「Blackwell」出貨延後消息可能為真。 至於「Blackwell」出貨延後是否影響接下來的「Blackwell Ultra」推出時程，暫時還無法確認，但預計在2026年推出的代號「Rubin」加速器產品，以及NVIDIA先前提出一年節奏 (One Year Rhythm)持續推動技術成長的發展目標，預期還不會受到影響。

今年宣布推進Zen 5架構設計產品，包含代號「Granite Ridge」的Ryzen 9000系列桌機處理器，以及代號「Turin」的第五代EPYC伺服器處理器，並且在日前於Computex 2024與AMD Tech Day活動說明用於Ryzen AI 300系列筆電處理器的Zen 5架構細節後，此次更針對用於Ryzen 9000系列桌機處理器的Zen 5架構差異性進一步作說明。 ▲AMD預計在7月陸續推出以Zen 5架構設計的處理器產品，包含多款筆電採用、代號「Strix Point」的Ryzen AI 300系列筆電處理器，以及代號「Granite Ridge」的Ryzen 9000系列桌機處理器 相較Zen 4架構在平均IPC效能提升16% 設計部分，Zen 5架構主要針對效能做了大幅提升，另外也因應未來運算型態作準備，並且加入支援512 bit資料路徑的AVX-512指令集，藉此提升人工智慧運算能力。 ▲Zen 5架構主要針對效能做了大幅提升，另外也因應未來運算型態作準備，並且加入支援512 bit資料路徑的AVX-512指令集，藉此提升人工智慧運算能力 同時，Zen 5架構設計也將快取記憶體進一步提升，同時也比照Zen 4架構設計額外推出Zen ...

除了揭曉Zen 5系列、RDNA 3+與XDNA 2架構設計產品，AMD在此次Computex 2024展前主題演講更確認同樣以Zen 5架構設計、代號Turin的第五代EPYC伺服器處理器將於今年下半年推出，另外以將以每年更新週期持續其對應伺服器的加速器產品，預計在今年第四季推出以CDNA 3架構打造的MI325X，並且將於2025年推出以CDNA 4架構打造的MI350，更計畫在2026年推進至以下一代CDNA架構打造的MI400。 ▲同樣以Zen 5架構設計、代號Turin的第五代EPYC伺服器處理器將於今年下半年推出 以義大利北部的重要工業城市杜林為稱的第五代EPYC伺服器處理器，將會搭載高達96組運算核心，甚至在搭載Zen 5c架構設計版本更將增加至192組運算核心，並且強化記憶體支援規格，本身則採用SP5腳位設計，相容先前代號「Geona」的第四代EPYC伺服器。 以128核心版本的「Turin」為例，AMD表示對比競爭對手Intel Xeon 8592+ 64核心，在執行企業版LLama 2-70億組參數版本模型時的效率幾乎有8倍左右差異，在其他人工智慧運算吞吐量表現也有2.5倍不等差異。 第五代EPYC伺服器處理器預計會在今年下半年推出，而AMD也預告將於今年第四季推出以CDNA 3架構打造的MI325X，2025年則將推出以CDNA 4架構打造的MI350，更計畫在2026年推進至以下一代CDNA架構打造的MI400。 ▲第五代EPYC伺服器處理器預計會在今年下半年推出，而AMD也預告將於今年第四季推出以CDNA 3架構打造的MI325X，2025年則將推出以CDNA 4架構打造的MI350，更計畫在2026年推進至以下一代CDNA架構打造的MI400 其中，以CDNA 3架構打造的MI325X將採用HBM3e高密度記憶體模組，最高可對應288GB記憶體容量，並且對應6TB/s、對應1.3倍傳輸頻寬，強調對比競爭對手NVIDIA推出的H200加速器將能提供1.3倍至2倍左右效能提升，對應人工智慧模型參數更可達1兆規模，幾乎是H200可對應參數規模的2倍。 ▲以CDNA 3架構打造的MI325X將採用HBM3e高密度記憶體模組，最高可對應288GB記憶體容量，並且對應6TB/s、對應1.3倍傳輸頻寬，強調對比競爭對手NVIDIA推出的H200加速器將能提供1.3倍至2倍左右效能提升 而預計在2025年推出、以CDNA 4架構打造的MI350，則將以台積電3nm製程生產，同樣可對應高達288GB的HBM3e高密度記憶體模組，更可對應FP4/FP6運算精度規格，同時AMD更強調對比先前推出的CDNA 3架構，MI350對應的CDNA ...

AMD在去年11月宣布推出代號「Genoa」的第四代EPYC伺服器處理器，並且針對雲原生應用服務運算需求打造、代號「Bergamo」，以及針對科學運算需求推出代號「Geona-X」的衍生版本，更在今年6月預告針對智慧邊緣運算與電信服務需求打造、代號「Siena」的伺服器處理器準備在今年下半年進入市場消息後，目前正式宣布將以EPYC 8004系列作為代號「Siena」的伺服器處理器正式名稱。 ▲代號「Siena」的EPYC 8004系列伺服器處理器 對比代號「Genoa」的第四代EPYC伺服器處理器EPYC 9004系列，EPYC 8004系列對應SP6插槽設計，提供8核心至64核心設計，本身採用Zen 4c架構，熱設計功耗介於70W至225W之間，同時支援6通道DDR5記憶體，記憶體資料傳輸效率最高可達4800MT/s，並且支援最高96組PCIe Gen 5通道，另外可在CXL 1.1以上版本規範支援48組P Links通道。 由於主要針對邊緣運算或電信服務部署應用，因此EPYC 8004系列僅對應單一處理器插槽，不像EPYC 9004系列能以雙插槽形式運作，而在記憶體控制晶片僅支援具有暫存器的雙列直插記憶體模組。EPYC 8004系列同樣是以台積電5nm製程技術打造，但核心區塊與L2快取記憶體合計佔用面積僅有2.48mm2，相比EPYC 9004系列佔用面積為3.84mm2小了一些。 ▲「Siena」補上第四代EPYC系列伺服器處理器的最後一塊佈局 ▲對比代號「Genoa」的EPYC 9004系列，8004系列主要針對邊緣運算或電信服務部署應用設計，因此更低耗電、高效能運算才是設計重點 ▲Zen 4c架構同樣以台積電5nm製程技術打造 對比EPYC 9004系列是以全方位運算需求設計，EPYC 8004系列則是進一步強化低耗電運作，並且可在每瓦成本達成最高效益，主要對應邊緣運算與電信服務調配使用需求。 依照核心設計與運作使用環境等規格，EPYC 8004系列分別推出8核心、16核心、24核心、32核心、48核心與64核心設計，每種核心設計更額外區分較低耗電、對應更寬幅溫度環境使用版本，總計提供12種規格，最高能使用1.152TB記憶體容量，同時均對應AVX-512指令集與同時多執行緒 (SMT)運作模式，另外也都支援AMD Infinity Fabric與Infinity ...

雖然先前有不少市場看法認為，在NVIDIA於今年Computex 2023大放異彩情況下，AMD相對顯得低調，似乎準備在6月於美國的發表活動放出大招，但從此次公布內容與相關產品策略顯示，AMD訴求方向仍與NVIDIA明顯不同。 ▲結合Zen 4架構CPU與CDNA 3架構GPU，以APU形式打造的加速器Instinct MI300A 此次AMD在美國發表內容裡，擴大EPYC伺服器處理器、Instinct系列加速器應用範疇，藉此補齊雲端運算市場需求，分別以去年11月宣布推出代號「Genoa」的第四代EPYC伺服器處理器為基礎，分別提供針對雲原生應用服務運算需求打造、代號「Bergamo」，以及針對科學運算需求推出代號「Geona-X」的衍生版本，同時也與AWS、Meta、微軟等業者合作導入。 而針對智慧邊緣運算與電信服務需求打造、代號「Siena」的伺服器處理器也準備在今年下半年進入市場，AMD表示將透過結合旗下產品線滿足雲端到裝置端的運算需求，並且帶動更多雲原生運算及開發環境應用發展。 ▲針對雲原生應用服務運算需求打造、代號「Bergamo」的第四代EPYC伺服器處理器衍生版本 至於在近期盛行的自動生成式人工智慧發展趨勢下，AMD也以Instinct MI300系列加速器應對，不僅推出以CDNA 3加速架構打造、配置高達192GB HBM3記憶體設計的Instinct MI300X，更以工業標準設計打造串連8組Instinct MI300X構成的巨大加速器，藉此對應需要更高算力的自動生成式人工智慧訓練及推論需求。 另外，今年初在CES 2023期間預覽，並且以APU形式打造的加速器Instinct MI300A，則是結合Zen 4架構CPU與CDNA 3架構GPU，藉此滿足超算及人工智慧運算佈署需求，目前已經開始向合作夥伴提供樣品測試。 「性價比」依然是重點 在整場發表活動中，AMD並未特別將其產品與競爭對手NVIDIA直接作比較，但從Instinct MI300系列加速器採模組化設計，甚至提出以APU形式打造的Instinct MI300A顯然希望與NVIDIA提出的Superchip設計抗衡。 而在宣傳說法中，AMD更以「Get more,pay less」 (獲得更多，付更少)的產品特性，對比NVIDIA一直提倡的「the more you ...

去年11月宣布推出代號「Genoa」的第四代EPYC伺服器處理器，並且針對雲原生應用服務運算需求打造、代號「Bergamo」，以及針對科學運算需求推出代號「Geona-X」的衍生版本，目前都已經進入市場應用，而針對智慧邊緣運算與電信服務需求打造、代號「Siena」的伺服器處理器也準備在今年下半年進入市場，AMD表示將藉此補齊雲端運算市場需求，並且能結合裝置端發揮更大運算效益。 ▲AMD宣布以其產品持續推動雲端、企業運算與超算應用效能 藉由第四代EPYC伺服器處理器推動更大規模運算效能 AMD強調，代號「Bergamo」的第四代EPYC 97X4系列伺服器處理器，將配置最高128組Zen 4c架構核心，將能在雲原生運算環境以最高虛擬CPU核心密度對應2.6倍運算效能，同時也能對應2.7倍電力使用效益，並且可在單一伺服器上運作3倍以上的容器化應用程式數量。 ▲代號「Bergamo」的第四代EPYC 97X4系列伺服器處理器，，將配置最高128組Zen 4c架構核心，將能在雲原生運算環境以最高虛擬CPU核心密度對應2.6倍運算效能，同時也能對應2.7倍電力使用效益 ▲藉由更小的Zen 4c架構核心設計，對應更高運算密度與更高電力使用效率 另外，透過整合3D V-Cache快取記憶體設計，更讓第四代EPYC伺服器處理器能以最高96組Zen 4架構核心，搭配1GB以上的L3快取記憶體加快一倍以上的運算工作效率，並且降低原本工作所需花費時間與電力損耗量。 ▲整合3D V-Cache快取記憶體設計，更讓第四代EPYC伺服器處理器能以更高效能運作 而在此次發表內容中，AMD更宣布與AWS合作，將使其從即日起開放預覽的Amazon EC2 M7a伺服器系統能比前一代產品提升高達50%效能表現。 另外，甲骨文旗下Oracle Cloud Infrastructure也將導入以「Geona」設計為主的Amazon E5 Instances伺服器系統，預計在今年7月正式上線運作。 至於Meta也宣布將導入以「Bergamo」為設計的伺服器系統，藉此加速旗下包含Facebook、Instagram及WhatsApp服務運作效率。 微軟則將在其Azure雲端運算平台導入以「Geona-X」設計的伺服器系統，藉此推動其以雲端架構為設計的超算效能。 ▲藉由第四代EPYC伺服器處理器與其衍生版本，AMD說明能滿足不同運算效能佈署需求 ▲藉由第四代EPYC伺服器處理器與其衍生版本，AMD說明能滿足不同運算效能佈署需求 藉由Instinct MI300系列加速器推動自動生成式人工智慧運算需求 ...