Tag: Jetson AGX Orin

今年在GTC 2022期間揭曉代號「Hopper」的H100 GPU，以及名為Superchip的設計方案後，NVIDIA在此次Computex 2022期間宣布與華碩、鴻海、技嘉、廣達、Supermicro及緯穎科技等業者合作，預計推出HGX Grace、HGX Grace Hopper設計的伺服器產品，另外也將與諸多業者合作打造具備水冷散熱能力的GPU加速設計方案。 應用Grace CPU與Hopper GPU組合的伺服器即將問世 在NVIDIA提出設計方案中，藉由Grace CPU與Hopper GPU的組合，或是兩組Grace CPU的組合方式，加上NVIDIA旗下GPU加速設計與DPU連接方式，分別可打造對應雲端繪圖、串流遊戲，以及包含超算、人工智慧訓練及推論，另外更包含對應數位雙生等Omniverse應用運算需求的伺服器機種。 其中，採用兩組Grace CPU的組合將對應500W熱設計功耗，最多可在單組機架串接84個運算節點，設計則可配置最高1TB LPDDR5x記憶體，最高對應每秒1TB資料傳輸量的記憶體頻寬，並且能以氣冷或水冷方式打造。 而採用Grace CPU與Hopper GPU的組合則對應1000W熱設計功耗，最多可在單組機架串接42個運算節點，設計則可配置最高512GB LPDDR5x記憶體，加上80GB HBM3高頻寬記憶體，最高對應每秒3.5TB資料傳輸量的記憶體頻寬，同樣能以氣冷或水冷方式打造。 至於合作業者，目前包含華碩、鴻海、技嘉、廣達、Supermicro及緯穎科技等。 在伺服器設計加入水冷散熱的GPU加速設計方案 另一方面，NVIDIA此次也針對主流伺服器產品推出對應水冷散熱設計的GPU加速設計方案，其中包含預計今年第三季推出的A100 Liquid Cooled，以及預計2023年初推出的H100 Liquid Cooled，兩者都將採PCIe形式連接，分別可對應目前已經推出的HGX A100伺服器，或是預計今年第四季問世的HGX ...

去年宣布將超級電腦帶進嵌入式裝置，利用Jetson AGX Orin人工智慧超級電腦打造可用於醫療產業的全新運算平台Clara Holoscan之後，NVIDIA在此次GTC 2022更宣布符合監管標準設計的Clara Holoscan MGX平台，提供醫療設備產業開發，並且在邊緣部署即時人工智慧應用程式。 依照說明，Clara Holoscan MGX將擴大Clara Holoscan平台應用規模，並且透過提供一站式的醫療級參考架構與長期軟體支援服務，藉此加速醫療設備業者進行各項創新。 Clara Holoscan MGX可處理高傳輸量資料流，進而即時從大量數據洞察有用資訊，另外也將更高水準的感測技術與邊緣運算結合，藉此提升機器人手術，或是強化研究生物學的方式。 在Clara Holoscan MGX設計中，NVIDIA分別採用Jetson AGX Orin人工智慧超級電腦，搭配RTX A6000 GPU，以及ConnectX-7 SmartNIC網路卡，構成可持續擴充升級的人工智慧運算平台，並且對應每秒254次至619兆次人工智慧運算表現。 而NVIDIA更在Clara Holoscan MGX平台提供長效NVIDIA元件的硬體參考設計，以及長達十年的長期軟體支援服務，其中包括軟體端的IEC62304文件，以及嵌入式運算裝置合作夥伴提供的IEC60601認證報告。 同時，包含凌華科技 (ADLINK)、研華科技 (Advantech)、Dedicated Computing、Kontron、麗臺科技 (Leadtek)、MBX ...

NVIDIA將先前DRIVE Orin設計應用在全新機器人設計，宣布推出名為Jetson AGX Orin人工智慧超級電腦，將可應用在具備自主能力的機器人、醫療設備，以及更多嵌入式邊緣運算裝置。 相比前一代Jetson AGX Xavier，NVIDIA說明Jetson AGX Orin將以相同手掌般尺寸與腳位設計，帶來6倍運算效能提升，並且對應每秒達200兆次 (200TFLOPS)的算力表現。而藉由更高算力表現，Jetson AGX Orin將對應更複雜的邊緣運算需求，或是解決機器人自然語言理解互動等應用。 Jetson AGX Orin採用Ampere顯示架構GPU，搭配Arm Cortex-A78AE CPU設計，並且搭配NVIDIA深度學習與電腦視覺加速應用技術，同樣能透過NVIDIA CUDA-X串接各類人工智慧運算模型，以及藉由JetPack軟體開發套件建構各類應用服務。 此外，NVIDIA也藉由Jetson AGX Orin打造可用於醫療產業的全新運算平台Clara Holoscan，讓開發人員輕易建立以軟體定義的醫療器材，並且在各個佈署環境下以低延遲形式執行串流應用程式，例如透過機器人執行精密手術，或是進行內視鏡檢查及診斷分析影像等需求，讓醫療人員能透過此類輔助判斷更正確的診療救護決策。 目前Jetson AGX Orin模組，以及開發人員套件將會在2022年第一季推出。