Tag: DGX

藉由雲端連接方式，NVIDIA將讓所有企業都能透過網路瀏覽器隨時取得DGX超級電腦龐大算力資源。 藉由名為DGX Cloud的訂閱服務，任何企業都能以單一執行個體以每月36999美元起跳價格取得DGX超級電腦龐大算力資源，而此項訂閱服務將率先託管於甲骨文旗下OCI雲端平台，預計在下一季增加微軟Azure託管合作，未來也計畫與Google Cloud等雲端平台合作託管。 DGX Cloud服務將以NVIDIA DGX AI超級運算叢集，搭配 NVIDIA AI軟體運作，讓企業僅需透過網路瀏覽器即可連接使用，標榜能以最簡單方式取得超級電腦運算資源，同時也能藉由訂閱方式彈性調整算力規模，藉此精簡算力資源佈署相關開銷。 而企業僅需以瀏覽器開啟NVIDIA Base Command平台軟體即可來管理、監控DGX Cloud相關工作負載。 至於DGX Cloud的單一執行個體均具備8個NVIDIA H100或A100 80GB Tensor核心GPU，每個節點配置640GB顯示記憶體，並且透過NVIDIA網路技術建構高效能、低延遲性結構，確保在互連系統叢集能快速調整工作負載大小，使得多個執行個體能夠當成一個巨大的GPU使用，進而滿足訓練先進人工智慧的效能要求。 另外，DGX Cloud更包括NVIDIA AI Enterprise軟體技術資源，提供端到端的人工智慧框架，以及預先完成訓練的模型，藉此加速推動資料科學管道與簡化生產式人工智慧的開發和部署作業。

今年上半年於GTC 2022期間正式揭曉代號「Hopper」的新一代加速運算等級H100 GPU，同時也宣佈與眾多OEM業者合作，甚至提出水冷散熱設計方案之後，NVIDIA在下半年度於線上舉辦的GTC技術大會上宣佈，首波採用H100 GPU的伺服器產品將於10月陸續出貨，而搭載H100 GPU的DGX超級電腦則會在2023年第一季出貨，同時開發者從即日起已經可以透過NVIDIA LaunchPad使用H100 GPU運算效能體驗人工智慧、資料科學、3D設計協作等應用。 ▲藉由代號「Hopper」的H100 GPU加速各類運算應用發展 依照NVIDIA說明，首波推出搭載H100 GPU的伺服器，將包含法國源訊科技 (Atos)、Cisco、Dell、富士通、技嘉、HPE、聯想與Supermicro製作產品，同時也標榜可藉由H100 GPU運算效能大幅降低運算設備所需空間、散熱系統等花費，同時也能大幅減少碳排放量。 ▲首波推出搭載H100 GPU的伺服器，將包含法國源訊科技 (Atos)、Cisco、Dell、富士通、技嘉、HPE、聯想與Supermicro製作產品，預計在今年10月開始陸續出貨 以過去320組搭載A100 GPU的HGX高效能伺服器運算平台建構的人工智慧系統為例，換成以H100 GPU建構的HGX高效能伺服器運算平台，僅需64組即可發揮相同運算效能，並且可在碳排放量減少為三分之一，運算節點數量縮減為五分之一，同時電力使用效益更提高3.5倍，對於目前著重節能減碳的企業營運模式，將能產生更大利益，甚至也能大幅降低費用支出。 另一方面，NVIDIA也強調藉由GPU加速運算能力提升，將能大幅推動各類人工智慧運算應用發展，例如可提升大型語言模型訓練精度，相比A100 GPU可帶動高達5倍以上的訓練速度，甚至可以同時對應更多人同時上線互動「溝通」需求。 ▲藉由GPU加速運算能力提升，將能大幅推動各類人工智慧運算應用發展 而在此次公佈消息中，NVIDIA宣佈推出新款NeMo LLM服務，將透過雲端協同運算方式協助企業訓練客製化的大型語言模型，藉此建構各類以人工智慧驅動的語音互動服務。 ▲以新款NeMo LLM服務，透過雲端協同運算方式協助企業訓練客製化的大型語言模型 針對醫學應用方面，NVIDIA更宣佈推出BioNeMo服務，透過GPU加速方式研究、預測分子、蛋白質與DNA生成方式，同時也宣佈與麻省理工學院、哈佛大學所屬，位於美國馬薩諸塞州劍橋市的生物醫學和基因組研究中心—Broad研究所 (Broad Institute)合作，將NVIDIA旗下CLARA醫學人工智慧技術帶到研究生物醫學的Terra平台，讓gatk變異探索工具分析效率能大幅提升，藉此推動醫學應用發展。 ▲藉由BioNeMo服務，透過GPU加速方式研究、預測分子、蛋白質與DNA生成方式 ...