Tag: Neoverse

Arm宣布將進一步增強與NVIDIA的技術合作，正式將NVIDIA的互連技術NVLink Fusion整合至Arm旗下的資料中心級處理器平台Neoverse中，將讓採用Neoverse架構的生態系夥伴，能夠選擇NVLink高速互聯技術進行異構與協同運算，藉此消除AI系統在記憶體與頻寬上的瓶頸，並且為客戶提供更多元的資料中心架構彈性。 透過AMBA CHI C2C實現高頻寬連接 具體技術細節上，NVLink Fusion將為生態系夥伴提供AMBA CHI C2C (Chip-to-Chip)的對接介面。這項技術定義CPU與加速器 (或GPU) 之間建立一致且高頻寬連接的關鍵協定。 Arm表示，將為Neoverse平台提供最新的AMBA CHI C2C協議，並且確保與NVLink Fusion的C2C相容性。這意味採用NVLink Fusion設計方案的客戶，將能更快速地完成系統整合並加速產品上市，直接受惠於高頻寬連接所帶來的AI效能提升。 有利AWS、Google等大廠自研晶片整合 目前包括AWS、Google、微軟、甲骨文與Meta等大型資料中心與系統業者，都已先後藉由Arm Neoverse架構設計自主伺服器處理器。 雖然NVIDIA本身也投入基於Neoverse的CPU開發 (例如Grace)，但透過此次深化合作，NVIDIA將允許這些將重心放在「自行設計CPU」的大型客戶，即使不採用 NVIDIA CPU，也能透過NVLink Fusion獲得與NVIDIA GPU完整且高效的加速性能。 暗示NVIDIA加速重心仍在大規模GPU 而此策略也被解讀為NVIDIA可能暗示其技術發展重心仍聚焦於GPU本身。 對於其他Arm架構CPU業者而言，除非像Qualcomm此類早期宣布加入NVLink Fusion聯盟的客戶，多數業者可能仍會面臨市場優先選擇NVIDIA官方「CPU+GPU」完整組合方案的競爭壓力。 ...

Arm宣布推出全新車用處理器，首次將Neoverse架構導入車用領域，並且對應伺服器等級效能，同時也將Armv9指令集帶到車用處理器產品，配合立即可使用軟體生態，加速整合人工智慧技術車輛進入市場速度。 此次首度將Neoverse架構及Armv9指令集帶到車用處理器產品，分別推出提供伺服器等級效能、可處理自動駕駛運作負載的Neoverse V3AE，以及結合Armv9指令集、可用於車輛平台的Cortex-A系列處理器，包含Cortex-A720AE、Arm Cortex-A520AE，另外也推出Cortex-R82AE處理器，以及Mali-C720AE影像處理元件。 此次推出處理器產品，可用於各類以軟體定義車輛，並且強化能源使用效率與功能安全，更可提供充足的電腦視覺與人類視覺使用模式，包含Marvell、聯發科、NVIDIA、恩智浦、Renesas、Telechips及德州儀器在內業者都將以此設計打造應用產品。 同時，Arm也預告第一款針對車輛產品打造的運算子系統 (CSS)將會在2025年正式上市提供，藉此整合車用領域所需功能與IP技術資產，讓業者能以此加快車輛產品設計與驗證。 目前Arm也與AWS、益華電腦 (Cadence)、Corellium、西門子在內業者合作，同時也與 Autoware Foundation、BlackBerry QNX、Elektrobit、Kernkonzept、LeddarTech、Mapbox、Sensory、Tata Technologies、TIER IV、Vector在內業者合作，藉此強化車輛產品相關虛擬平台、雲端解決方案與軟體堆疊緊密整合，並且縮短車輛產品開發時間，加快各類軟體定義車輛進入市場速度。

Arm稍早更新Neoverse運算子系統 (CSS)，分別推出Neoverse CSS V3與Neoverse CSS N3設計，藉此推動更高運算效能，並且加速針對人工智慧技術設計的客製化處理器問世，更預告代號「Vega」、結合代號「Adonis」的V系列平台設計，以及代號「Ranger」、結合代號「Dionysus」的N系列平台設計，另外也包含代號「Lycius」的下一代E系列平台設計。 ▲Arm更新Neoverse運算子系統 (CSS)，分別推出Neoverse CSS V3與Neoverse CSS N3設計 依照說明，Neoverse CSS V3成為Arm首款結合V系列產品組合的Neoverse CSS設計，每個運算叢集採64核心設計、每組插槽設計最高可對應128組核心，支援DDR5、LPDDR5或HBM3記憶體，而每插槽相比Neoverse CSS N2高出50%的效能表現。 至於結合N系列產品組合的Neoverse CSS N3，則是採最高32組核心、最低8組核心，熱設計功耗僅在45W設計，更在每瓦效能表現相較Neoverse CSS N2高出20%。 ▲Neoverse CSS V3是Arm首款結合V系列產品組合的Neoverse CSS設計 新版Neoverse運算子系統主要因應業界越來越多客製化需求，藉此對應不同運算應用範疇，並且在運算效能、工作負載，以及持有成本取得平衡，進而加速各類客製化運算平台問推出。 目前Arm已經與AWS合作針對其網路架構運算最佳化的Graviton系列處理器，更與微軟合作針對Azure雲端服務運作最佳化的Cobalt 100處理器，與NVIDIA也合作打造結合其GPU的Grace ...

Arm公布2022財年第二季財報結果，總營收達6.56億美元，其中授權費營收達1.93億美元，而權利金營收更創下單季新高，達4.63億美元，至於息稅折舊攤銷前盈餘則是3.26億美元。 目前基於Arm架構設計晶片的季度出貨量已經達75億組，相比去年同期增加9%，而至今採用Arm架構設計晶片的累積出貨量則達2400億組。 在此次財報中，Arm說明所有業務均比去年同期呈現成長，其中在車用事業部權利金營收更締造新高，主因在於更多車輛導入先進駕駛輔助系統 (ADAS)，因此讓車載系統晶片使用需求增加。而物聯網事業部創下權利金營收同樣創下新高，原因在於物聯網裝置應用需求增加，而邊緣運算應用需求也成為許多企業應用模式。 另外，隨著資料中心導入Arm架構比例增加，同時也因為公有雲服務與混合雲架構應用規模變大，使得Arm Neoverse架構開始被廣泛採用。 雖然智慧型手機出貨量隨著市場需求萎縮下滑，但Arm強調在終端裝置的授權金營收仍呈現成長，同時也有更多基於Armv9指令集架構設計的處理器產品，驅動全新行動裝置使用體驗。至於車載系統、元宇宙等新市場領域也持續看重Arm架構應用發展，因此也讓Arm獲利動能明顯成長。 而近期與Qualcomm之間訴訟，傳出Arm將調整架構授權方式，將直接向終端設備商收取費用，並且禁用第三方技術組合，有可能改變Arm既有技術授權模式，但Arm在後續回應僅表示Qualcomm的反訴內容充滿了不準確資訊，將在未來幾週內提交的正式法律回應中，針對多項內容做出回應。

去年宣佈推出代號「Perseus」 (宙斯之子，英仙座)的Neoverse N2核心設計之後，Arm接續宣佈推出代號「Demeter」 (希臘神話中司掌農業、穀物和母性之愛的地母神狄蜜特，同時也是奧林匹斯十二主神之一)的Neoverse V2，並且預告將在2023年推出下一代Neoverse N系列CPU。 此外，Arm也確定應用在NVIDIA代號「Grace」的CPU設計，便是以Neoverse V2核心為基礎，並且藉由LPDDR5X記憶體模組的能源效率，相比傳統架構設計的伺服器，將能在每瓦運算效能提升2倍以上。 而Neoverse V2核心本質上就是鎖定超算系統打造，目標設定在不增加更多功耗與佔用更大面積前提下，可讓雲端工作負載效能大幅提升，其中採用Armv9指令集架構，搭配Arm CMN-700網狀互連技術，藉此在SPECint的CPU整數處理效能有顯著突出表現，同時也進一步強化數據安全保護效果。 除了與NVIDIA合作，Arm也強調已與諸多業者合作導入Neoverse V2核心設計，藉此推動更高每瓦運算效能表現，同時提高雲端運算效率。 同時，Arm也說明將於2023年推出下一代Neoverse N系列CPU，並且將在運算效能與能耗表現大幅提升，而對應數據處理、5G無線接取網路，以及邊緣網路與加速運算等應用需求的Neoverse E系列CPU，接下來也將藉由全新Neoverse E2平台，透過結合Arm Cortex-A510 CPU、可擴充的CMN-700網狀互連技術，以及與Neoverse N2系統等基礎設計，藉此對應更具彈性的雲端應用運算需求。 Arm更強調在接下來將更普及的雲原生應用軟體發展趨勢中，Arm架構設計將取得更大應用優勢，其中包含與更多雲端合作夥伴提升雲原生軟體基礎設施、設計框架，以及運算時的工作負載模式，更整合目前被普及應用的Kubernetes容器平台、Istio開源網路層架構，同時也能對應開源設計的TensorFlow機器學習框架，藉此推動更多元的雲端原生應用服務發展。 另一方面，Arm更強調Neoverse平台可藉由旗下AMBA的CHI連接協議，或是UCIe、CXL等互連協議，讓各類運算元件可以更容易連接協作，進而推動更龐大的運算效能，並且讓各類客製化運算解決方案得以產生。 目前在Arm架構應用之下，已經催生Ampere旗下採用Altra處理器的HPE Proliant第11代超算平台，而諸如VMware所提出Monterey產品組合、RedHat的OpenShift加入支援Arm技術架構，以及SAP HANA平台轉向使用以Arm架構驅動的AWS Graviton平台等，更讓Arm在更多企業級、雲端運算應用立足。

如同Intel強調以其處理器產品強調推動虛擬無線接取網路與邊緣網路等電信應用運算需求，Arm也強調以其低耗電架構設計推動5G網路佈署應用發展。 相較去年10月由18家5G生態系關鍵夥伴加入Arm 5G解決方案實驗室，Arm再次宣布合作加入此實驗室的業者數量已經成長超過5倍以上。而Arm更預期未來5G網路將由更智慧、安全且永續的世界所定義，同時隨著中頻段 (mid-band)、毫米波頻段 (mmWave)、企業專網與窄頻物聯網陸續部署，將促使5G網路走向更多元改革。 而依照市場數據預測，到2027年以前的5G網路覆蓋率將超過總人口近75%，成為有史以來佈署使用成長最快的行動科技。 Arm基礎架構事業部資深副總裁暨總經理Chris Bergey表示：「要滿足驟增的連網需求和多種新型頻段滲透率的提升，5G網路必須具備經濟效益。對於網路營運商而言，總擁有成本撙節與節能的網路基礎架構，更成為營運5G網路服務首要考量。而Arm向來以低功耗、高效能技術見長，藉由在有限的能耗內，提供更高的每瓦效能與數據吞吐量，藉此解決5G網路運作時所面臨挑戰。現在只是5G網路展現連網能力的開始，它未來的發展勢必將遠遠超越我們手中裝置。」 目前Arm已經著手與凱捷工程 (Capgemini Engineering)、Benetel、安培 (Ampere)、技嘉、Phluido等業者合作，透過開放無線接取網路 (Open RAN)為基礎，開發佈署微型基地台的5G專網，其中更以基於Arm Neoverse架構設計的80組核心處理器Ampere Altra節省高達75%運作成本，並且降低高達80%電力損耗。 而隨著小型蜂窩式基地台在5G網路架構扮演重要角色，同時更成為智慧城市佈署關鍵項目，以Arm架構打造、採用Qualcomm FSM100xx 5G RAN平台設計的Baicells 5G小型蜂窩式基地台產品，將能同時透過支援6GHz以下頻段與毫米波連接規格，藉此對應更龐大物聯網、車聯網等應用連接需求。 此外，在結合Arm架構CPU與NVIDIA GPU加速設計的無線接取網路 (RAN)架構中，將能使技嘉打造的伺服器產品支撐更大規模網路接取連接工作，並且透過人工智慧加速方式提升存取效率。而Marvell也藉由Arm架構打造以Marvell OCTEON Fusion處理器為基礎的虛擬無線接取網路系統，透過開放設計加速5G網路與雲端服務平台串接應用，藉此推動更龐大的雲端服務運作。 以Arm看法，其低耗電設計架構已經能順利推動龐大運算規模，藉此讓電信業者、網通設備商能以更低能耗成本打造網路基礎架構，對於目前網路運作越來越重要，同時也將前期運算延伸至邊緣網路的使用模式，使用Arm架構設計將能帶來更高每瓦效能優勢。

去年宣布在對應伺服器等級的Neoverse系列核心設計中，新增對應高效能運算需求的V系列，並且將原本核心設計歸屬於N系列，作為基礎設施核心技術擴展。Arm在稍早說明中確認代號「Perseus」 (宙斯之子，英仙座)的Neoverse N2核心設計，將會是第一款對應Armv9指令集設計的核心架構，同時也支援雲端至邊緣運算應用場景，強調在安全性、功耗效率與運算表現均有顯著提升。 從2018年擬定未來年發展佈局，並且強調將以每年提升30%效能速度增長，而從基於Cortex-A72核心設計、代號「Cosmos」 (宇宙)的基礎平台設計，進展至代號「Ares」 (戰神)的Neoverse N1核心設計，效能足足提升60%比例，因此也讓Arm更有信心持續佈局Neoverse核心發展，並且在去年宣布增加讓單執行緒效能大幅提昇、加入支援向量延伸指令集 (SVE)與支援2組256位元頻寬向量值運算的Neoverse V系列核心，同時也推出此系列首款核心設計、代號「Zeus」 (宙斯)的Neoverse V1。 而去年更新中，Arm則是在代號「Poseidon」 (波賽頓)的下一款產品與Neoverse V1之間，增加代號為「Perseus」的核心架構設計，並且以Neoverse N2作為正式名稱。Arm確認Neoverse N2將以Armv9指令集設計打造，相比Neoverse N1在相同能耗情況下的IPC效能提升40%，在非同步框架網頁伺服器的大規模雲端運算應用的執行效能則可提升1.3倍，在基於5G網路邊緣運算架構的DPDK (Data Plane Development Kit)所對應L3封包處理效率則可提升1.2倍。 至於今年預計有更多應用的Neoverse V1核心架構設計，則可藉由向量延伸指令集在相同編碼下完成自動向量化，同時鎖定百萬兆級運算需求打造，相比Neoverse N1在高效能運算等效能表現約可提升50%，機器學習效能則可提升4倍，並且可在各種向量工作負載提升1.8倍運算效率，更可透過向量延伸指令集使浮點運算吞吐量提升2倍。 另外針對建構異質運算所需部分，Arm則是提出延續Neoverse CMN-600的Neoverse CMN-700設計，同樣對應可擴充、多核心、高效能運作表現，藉此讓每個運算向量對應效能與連接功能大幅提升，其中包含可對應核心數量、快取記憶體容量、可對應記憶體容量，以及I/O埠連接裝置類型及數量，其中加入支援DDR5記憶體與HBM記憶體模組設計，並且加入支援CXL (Compute Express Link)記憶體共享設計，藉此讓多組處理器整合時能更容易透過記憶體資源共享加快運算效率。 ...

在2018年宣布推出鎖定大規模伺服器等級運算的Neoverse平台，並且從一開始採用16nm製程、代號「Cosmos」設計，並且在去年採用7nm製程、代號「Ares」設計，今年更以7nm+製程、代號「Zeus」設計打造，預計在2021年進展至5nm製程、進入代號「Poseidon」設計，Arm預期Neoverse平台將會以每年提昇30%規模的運算效能推進。 此次公布消息中，Arm更確定未來Neoverse平台將進一步劃分更著重效能的V系列，以及重視資料傳輸效率的E系列，藉此對應不同層面運算需求。 Neoverse平台已經成為Arm建構不同規模運算採用設計，相比主流Cortex架構設計，Neoverse平台主要鎖定大型數據中心、超算領域、5G網路應用，以及更大規模的邊緣運算，因此也會與日前提及鎖定基礎建設等邊緣運算應用的Project Cassini結合佈署。 而在架構設計部分，Neoverse平台的設計不見得會依照Cortex系列處理器設計藍圖安排，有可能會因應運算需求而率先採用全新設計，同時也會依照客戶需求提供客製化。甚至從「Cosmos」到「Ares」，整體運算效能足足提昇60%，相比當時的Cortex-A72有更顯著效能提昇，因此Arm預期在接下來的效能推進將能以每年約30%比例成長。 目前Arm將Neoverse N1併入N系列設計，並且定位成平衡取向的運算平台，新增加的V系列設計則是鎖定讓單執行緒效能大幅提昇，並且加入可擴展的向量延伸指令集 (SVE)，其中支援2組256位元頻寬向量值運算，藉此對應高效能運算與機器學習應用需求。 至於先前增加的E系列，則是針對資料傳輸效率提升為目標，並且減少功率損耗，藉此對應以資料交換為主的運算模式。 此外，Arm更宣布推出代號「Perseus (希臘神話中宙斯之子)」新版Neoverse N2平台，藉由橫向擴展增加更多運算核心，藉此對應更具運算效能，同時相比Neoverse N1可在相同功率損耗與面積下，在單執行緒效能提昇40%表現。 同時，在越來越多基礎建設、應用平台、開發語言與資料庫，以及網路架構都已經相容、支援Arm硬體環境運作，Arm預期將能進一步推動雲原生開發模式，並且加速更龐大運算規模成長。 在Neoverse V1與Neoverse N2平台更支援Arm與AMD、華為、Mellanox Technologies、Qualocmm及Xilinx共同推動的CCIX (快取共構存取加速)設計，以及以PCIe 5.0以後版本為設計，並且由眾多業者加入的CXL (Compute Express Link)設計規範，預期將使Neoverse平台能有更大規模應用成長。

Arm稍早宣布對應數據中心至終端邊緣運算需求的全新處理器平台Neoverse系列，相比現行採Cosmos (宇宙)平台設計、以台積電16nm FinFET製程打造的Cortex-A72與Cortex-A75，預計2019年即將推出的Ares (戰神)平台將以7nm製程打造，預計2020年推出的Zeus (宙斯)平台則將以7nm+製程技術打造，而預計在2021年推出的Poseidon (海神)平台則將近入5nm製程。 即便Arm過去強調準備進軍數據中心、伺服器等應用市場布局許久，但始終未有明確發展進程，使得過去以來在數據中心應用均以Intel旗下處理器為重心，但從今年8月中透露將在2019年推出Deimos架構、預計在2020年推出的Hercules架構，將藉由對應等同筆電等級的效能表現向Intel叫陣，此次更宣布推出全新處理器平台Neoverse系列，預計鎖定Intel佔據許久的數據中心市場，或許將使Intel開始面臨更大競爭壓力。 藉由更小製程設計，Arm預計將可在處理器內放入更多運算核心，藉此提供更高運算效能，但相對僅需以相同或更少能耗即可運作，對於數據中心等高運算密度需求建置，預期將能產生全新吸引力。 而此次提出Neoverse系列，Arm未來依然會持續擴展Cortex系列平台處理器設計，藉此在雲端數據中心至個人裝置使用模式滿足各類運算需求。