Tag: GTC 2022

針對日前於下半年舉辦GTC 2022期間揭曉的GeForce RTX40系列顯示卡背後設計，以及名為RTX Remix技術背後運作原理，NVIDIA稍早進一步對此做了詳細解說。 ▲同樣也是GeForce RTX40系列顯示卡重點應用功能的RTX Remix技術，將能讓PC遊戲藉由更精緻、自然的MOD模組增加更多遊玩樂趣 在先前說明裡，NVIDIA已經詳細解釋為什麼只有GeForce RTX40顯示卡支援DLSS 3深度學習技術，同時也強調比照讓GeForce GTX系列顯示卡也支援Ray Tracing即時光影追跡技術應用，理論上也能使既有GeForce RTX20、10系列顯示卡對應DLSS 3完整功能，只是實際成效並不會很好，甚至造成遊戲體驗更差的情況，因此在此情況考量下，最終還是會依照產品規格作功能應用區隔。 此次更新的GeForce RTX40顯示卡，除了在基本電晶體等硬體設計不同，加上DLSS 3支援與人工智慧應用模式上的差異，更包含額外導入原本在專業繪圖卡使用的光流加速器 (Optical Flow Accelerator)，藉此讓影像畫面中的光線流動、光影追跡效果可以變得更加流暢，同時也能讓GPU運算效能集中應用在渲染處理需求。 另外，此次更新重點更包含可針對每組畫格之間，插入以人工智慧自動生成內容，讓每秒畫格數可以大幅增加，相較先前在GeForce RTX30系列可達穩定的4K 60fps表現，此次更強調可在GeForce RTX40系列推動4K 100fps以上顯示效果，讓遊戲玩家可以感受更穩定的畫面，同時也能符合目前畫面更新率越來越高的電競螢幕設計，讓玩家在遊玩注重即時操作的遊戲內容時，可以大幅減少操作失誤情況。 其他更新則包含透過提升Shader Core、RT Core及Tensor Core設計，讓即時光影追跡效率大幅提升，同時配合SER (Shader ...

針對近期EVGA表態將退離顯示卡市場，其中有部分因素與NVIDIA未能協助顯示卡業者舒緩庫存壓力有關，NVIDIA執行長黃仁勳在稍早接受訪談時回應，強調先前顯示卡供應短缺時，甚至沒有因應成本增加GPU單價，並且預先承擔更長的產品交貨等待成本，並未將此類壓力移轉給顯示卡業者。 依照黃仁勳說明，雖然市場始終認為因為近年挖礦熱潮，使得NVIDIA因此增加不少營收，但實際上NVIDIA藉此熱潮獲利佔比並不高，其中包含顯示卡供應短缺時，並未連帶增加GPU單價，甚至也強調盡可能讓消費者能以正常價格購買顯示卡，並未在顯示卡定價作明顯調整，也未將成本轉嫁給顯示卡業者。 同時，黃仁勳也說明NVIDIA在市場因為挖礦熱潮降溫，使得需求大幅減少之後，本身也承擔了10億美元的資產減計，同時也透過投入數億美元經費進行市場宣傳，讓銷售管道價格恢復正常，強調NVIDIA並未對顯示卡業者施壓。 由於EVGA在北美顯示卡市場佔據40%比例，在西歐地區也有相當高的市佔比例，因此宣佈退出顯示卡市場，顯然將造成不小影響，尤其對NVIDIA可能也會造成一定衝擊。 就先前EVGA透露說法，認為NVIDIA對待OEM顯示卡業者並不公平，甚至NVIDIA後來自行推出創始版 (Founder Edition)顯示卡，更搶走不少顯示卡業者生意，而因為挖礦熱潮降溫，使得顯示卡業者面臨大量生產顯示卡難以出清，而NVIDIA卻不願對此幫忙，更是成為EVGA決定退離顯示卡市場的最後一根稻草。

針對今年推出的代號「Grace」的CPU，以及代號「Hopper」的GPU，其命名方式分別來自著名電腦科學家Grace Hopper的姓名，而後續推出面向消費端市場的GPU產品，則是以代號「Ada Lovelace」為稱，NVIDIA執行長黃仁勳表示未來確實會依循此方式繼續為日後推出產品命名。 產品命名會依照不同定位決定 黃仁勳解釋，過去NVIDIA確實會以歷史上著名電腦科學家姓名作為其產品名稱，而過去因為主力在GPU產品發展，因此多半是以科學家們的姓作為產品代稱，但今年推出的「Grace」CPU則是因為隸屬不同類型產品，因此採用科學家的名作為產品代稱，而未來產品也會以此原則命名。 至於過去在2018年針對超算領域使用的GPU以「Volta」為稱，但是在對應消費者，以及鎖定創作者市場需求的專業繪圖卡均使用代號「Turing」的GPU，在2020年則是以「Ampere」分別作為超算領域與消費市場使用需求的GPU名稱，而今年則是分別以「Hopper」與「Ada Lovelace」對應不同領域產品的GPU名稱，黃仁勳則解釋主要還是看當時的GPU設計定位，通常還是會針對不同市場定位產品採用個別的代號名稱，藉此作為區隔。 但「Ampere」在當時確實是個例外，主要在鎖定超算領域產品以台積電7nm製程生產，並且創下當時最多電晶體的處理器晶片設計記錄，密度達6600萬/mm2，而對應消費市場使用版本，則是以三星8nm製程生產，電晶體密度則縮減為4500萬/mm2，依然比2018年推出、以台積電12nm製程打造的「Turing」有更高電晶體密度。 另外，此次宣佈以超級車載電腦「Thor」直接取代原本「Atlan」產品定位，是為了讓應用「Grace」CPU與「Hopper」GPU的設計更快進入市場，無須再多等，藉此加速自駕車市場應用成長。 與諸多市場供應鏈維持深度合作，不會憑一己之力企圖拿下所有市場 而針對目前市場供應鏈因為疫情、戰爭、中美貿易關係等因素影響，黃仁勳則強調目前NVIDIA與各地區市場供應鏈維持深度合作關係，除了與台積電合作先進製程，同樣也會透過三星製程打造產品，同時在自駕車市場與中國業者深度合作之餘，同時也與日本機器人產業有深度合作關係，更說明除了透過美國研發單位設計產品，在台灣等地區更部署多名技術人才，藉此推動旗下產品持續發展，因此並不擔心其產品供應會面臨市場限制。 此外，即便目前與Arm架構深入合作打造「Grace」CPU、Tegra系列CPU產品，黃仁勳更說明很早就已經投入RISC-V架構發展，即便目前仍非市場主流使用架構，但未來勢必會在特定領域有發展空間，例如近期越來越多業者開始透過RISC-V架構打造伺服器產品，甚至對應自有客製化處理器設計。 依照黃仁勳說明，未來並非僅侷限在GPU技術發展，在加入「Grace」CPU、Bluefield DPU等產品之後，預期NVIDIA日後發展策略將會更加明確，將會以更完整技術佈局各類運算領域，但同時也會持續與業者維持合作關係，例如目前在旗下產品依然會與Intel、微軟、Google、AWS等業者維持深度整合，不會憑一己之力企圖拿下所有市場。 看重日後Omniverse運算平台發展、不擔心VMware被博通收購影響合作關係 另外，對於Omniverse運算平台發展，黃仁勳再次強調此為未來的人工智慧運算應用表現，同時也將成為日後重要運算平台之一，透過模擬真實場景，藉由數位雙生 (digital twins)形式，讓科學研究、市場分析等應用需求，可以藉此探索更多可能性，同時對於能源探勘、工業自動化、自駕車模擬訓練，乃至於未來將廣泛成長的元宇宙應用發展，預期Omniverse運算平台都能發揮充足應用成效。 此次宣佈強化Omniverse Cloud雲端服務，更計畫讓更多創作、應用需求需求，可以透過雲端虛擬化方式取得Omniverse運算平台資源，無須大費周章斥資建置自有Omniverse運算平台，因此預期接下來將能透過虛擬化方式廣泛推動Omniverse運算平台應用發展。 至於針對日前博通宣佈收購VMware，是否會擔心未來合作關係生變？黃仁勳則表示過去與VMware有著深入合作關係，同時與博通也有深度合作模式，因此不認為此合作關係會受影響。同時，黃仁勳更說明與VMware的合作，最主要聚焦在vSphere相關應用，同時也透過整合Bluefield DPU，讓執行vSphere虛擬化應用服務的伺服器能以更高運算效能運作，藉此實現更完善的容器化應用服務發展。

去年宣佈以水行俠之父命名的超級車載電腦「Atlan」之後，NVIDIA在此次線上GTC技術大會上接續宣佈推出以雷神索爾為稱的超級車載電腦「Thor」，標榜將能發揮「Atlan」2倍以上運算效能。 ▲以雷神索爾為稱的超級車載電腦「Thor」 依照說明，「Thor」搭載770億組電晶體，在FP8 (8位元浮點運算)精度可達2000 TFLOPS，相較去年4月揭曉的「Atlan」運算效能可達1000 TFLOPS，約提高足足2倍以上，預計在2024年以後正式推出，並且將直接取代「Atlan」產品定位。 而在配置方面，「Thor」直接採用「Grace」CPU，並且搭配今年揭曉的「Hopper」GPU，但也預留可使用下一代GPU的設計彈性，作業系統則可對應Linux、Android與QNX，同時也能透過NVLink-C2C介面進行算力擴充。 ▲「Thor」搭載770億組電晶體，在FP8 (8位元浮點運算)精度可達2000 TFLOPS，相較去年4月揭曉的「Atlan」運算效能可達1000 TFLOPS，約提高足足2倍以上 ▲「Thor」預計在2024年推出，預計取代「Atlan」成為更高運算效能的自駕車平台選擇 NVIDIA更強調「Thor」採簡化模組設計，因此能輕易套用在諸多車款上使用，並且標榜整體負重相當輕盈、容易佈線，同時能精簡非必要開銷與碳排放量，對於未來電動車設計將能有更大利益。 此次宣佈消息中，NVIDIA更宣佈與吉利汽車旗下電動車品牌極氪 (Zeekr)、小鵬汽車 (XPeng)，以及輕舟智航 (Qcraft)等中國電動車業者合作，先前更已經與AEVA Technologies、AEYE、CARLA、CEPTON、CERENCE、大陸集團、d(risk)、HELLA旗下FORVIA等車輛設備供應商合作。 ▲NVIDIA宣佈與吉利汽車旗下電動車品牌極氪 (Zeekr)、小鵬汽車 (XPeng)，以及輕舟智航 (Qcraft)等中國電動車業者合作 在其他車輛應用發展中，NVIDIA也宣佈藉由升級代號「Hopper」的H100 GPU，將使DRIVE Sim自駕車模擬訓練平台能以更短時間完成車輛訓練。 ▲藉由升級代號「Hopper」的H100 GPU，將使DRIVE Sim自駕車模擬訓練平台能以更短時間完成車輛訓練 另外，NVIDIA更針對工業自動化應用需求提供IGX運算平台，同時也將Jetson Orin ...

除了宣佈代號「Hopper」的H100 GPU應用產品即將進入市場，並且宣佈推出新一代超級車載電腦「Thor」，NVIDIA在此次線上GTC技術大會再次重申對於未來元宇宙應用看法，並且強調將以Ominverse平台作為未來驅動元宇宙，乃至於下一代運算平台發展的基礎。 ▲強調將以Ominverse平台作為未來驅動元宇宙，乃至於下一代運算平台發展的基礎 而為了推動Ominverse平台應用發展，NVIDIA此次宣佈推出第二代OVX運算平台，主要針對數位雙生 (digital twins)應用打造，其中搭載8組下一代GPU設計，整合3組CoonnectX-7 SmartNIC智慧網路卡負責處理資料吞吐，並且搭配2組Intel Xeon Platium 8362 CPU，以及16TB容量的NVMe。 配合Omniverse運算平台應用，第二代OVX運算平台更能以32組節點構成OVX SuperPOD，同時也具備可持續擴充部署彈性，並且與浪潮集團 (inspur)、聯想與Supermicro合作打造不同OEM設計產品。 ▲NVIDIA此次宣佈推出第二代OVX運算平台，主要針對數位雙生 (digital twins)應用打造 至於針對有元宇宙、數位雙生等運算應用需求，卻無法有足夠經費採購OVX運算平台的使用需求，NVIDIA也宣佈持續擴充Ominverse Cloud雲端服務，透過架構即服務 (Infrastructure as a Service)方式，讓企業、開發者能透過上雲連接方式，藉此提供諸如使用Ominverse Farm運算叢集效能、Ominverse Replicator模擬環境，以及對應工業自動化需求的Issac Sim，另外也能對應自駕車模擬訓練需求的DRIVE Sim應用模式。 ▲持續擴充Ominverse Cloud雲端服務，透過架構即服務 (Infrastructure ...

今年上半年於GTC 2022期間正式揭曉代號「Hopper」的新一代加速運算等級H100 GPU，同時也宣佈與眾多OEM業者合作，甚至提出水冷散熱設計方案之後，NVIDIA在下半年度於線上舉辦的GTC技術大會上宣佈，首波採用H100 GPU的伺服器產品將於10月陸續出貨，而搭載H100 GPU的DGX超級電腦則會在2023年第一季出貨，同時開發者從即日起已經可以透過NVIDIA LaunchPad使用H100 GPU運算效能體驗人工智慧、資料科學、3D設計協作等應用。 ▲藉由代號「Hopper」的H100 GPU加速各類運算應用發展 依照NVIDIA說明，首波推出搭載H100 GPU的伺服器，將包含法國源訊科技 (Atos)、Cisco、Dell、富士通、技嘉、HPE、聯想與Supermicro製作產品，同時也標榜可藉由H100 GPU運算效能大幅降低運算設備所需空間、散熱系統等花費，同時也能大幅減少碳排放量。 ▲首波推出搭載H100 GPU的伺服器，將包含法國源訊科技 (Atos)、Cisco、Dell、富士通、技嘉、HPE、聯想與Supermicro製作產品，預計在今年10月開始陸續出貨 以過去320組搭載A100 GPU的HGX高效能伺服器運算平台建構的人工智慧系統為例，換成以H100 GPU建構的HGX高效能伺服器運算平台，僅需64組即可發揮相同運算效能，並且可在碳排放量減少為三分之一，運算節點數量縮減為五分之一，同時電力使用效益更提高3.5倍，對於目前著重節能減碳的企業營運模式，將能產生更大利益，甚至也能大幅降低費用支出。 另一方面，NVIDIA也強調藉由GPU加速運算能力提升，將能大幅推動各類人工智慧運算應用發展，例如可提升大型語言模型訓練精度，相比A100 GPU可帶動高達5倍以上的訓練速度，甚至可以同時對應更多人同時上線互動「溝通」需求。 ▲藉由GPU加速運算能力提升，將能大幅推動各類人工智慧運算應用發展 而在此次公佈消息中，NVIDIA宣佈推出新款NeMo LLM服務，將透過雲端協同運算方式協助企業訓練客製化的大型語言模型，藉此建構各類以人工智慧驅動的語音互動服務。 ▲以新款NeMo LLM服務，透過雲端協同運算方式協助企業訓練客製化的大型語言模型 針對醫學應用方面，NVIDIA更宣佈推出BioNeMo服務，透過GPU加速方式研究、預測分子、蛋白質與DNA生成方式，同時也宣佈與麻省理工學院、哈佛大學所屬，位於美國馬薩諸塞州劍橋市的生物醫學和基因組研究中心—Broad研究所 (Broad Institute)合作，將NVIDIA旗下CLARA醫學人工智慧技術帶到研究生物醫學的Terra平台，讓gatk變異探索工具分析效率能大幅提升，藉此推動醫學應用發展。 ▲藉由BioNeMo服務，透過GPU加速方式研究、預測分子、蛋白質與DNA生成方式 ...

如先前傳聞，NVIDIA在此次線上舉辦的下半年場GTC技術大會中，宣佈推出代號「Ada Lovelace」的新款GPU設計，藉由台積電4nm製程打造，並且採用美光提供的GDDR6X顯示記憶體，本身具備760億組電晶體，並且搭載第三代RT Cores與第四代Tensor Cores設計，更對應包含DLSS 3在內的第三代RTX即時光影追跡技術。此外，NVIDIA也宣佈搭載新款GPU設計的GeForce RTX40系列顯示卡。 ▲揭曉代號「Ada Lovelace」的新款GPU設計之餘，NVIDIA執行長黃仁勛更正式揭曉搭載新款GPU設計的GeForce RTX40系列顯示卡 相比「Turing」、「Ampere」帶來翻倍以上顯示效能躍進 依照NVIDIA執行黃仁勳說明，相比第二代DLSS 2技術可讓遊戲維持在穩定的62fps顯示表現，第三代DLSS 3可讓遊戲畫面提升至101fps穩定表現。 ▲代號「Ada Lovelace」的新款GPU設計 ▲以著名英國數學家、作家，更是史上最早的程式設計師之一的Ada Lovelace命名 此外，在圖像渲染部分更導入全新串流多道處理器，對應90 Shader TFLOPS渲染運算效能，同時電力損耗僅為前一代產品的一半。而即時光影追跡部分，則是藉由第三代RT Cores設計對應200 RT TFLOPS即時光影追跡效能。 至於在深度學習應用部分，則是透過第四代Tensor Cores設計對應1400 Tensor TFLOPS張力運算效能，並且加入光流加速器，藉此讓光影生成效率大幅提升。而針對遊戲等影像處理過程複雜的渲染執行工作，在此次渲染功能設計更增加可重新排序，讓系統能依照動態變化的重點項目優先進行渲染處理，讓整體影像生成時間大幅縮短。 ▲代號「Ada Lovelace」的新款GPU設計在渲染、即時光影追跡與深度學習應用效能均有大幅提升 ▲透過SER ...

NVIDIA稍早透過其位於澳洲及紐西蘭的Twitter官方帳號張貼包含「Boot sequence initiated.」、「the future has a past …」、「This number will self destruct...」等描述貼文內容，而其中更出現用於解釋隨機變數等情況的白努利數 (Numbers of Bernoulli)，似乎暗示接下來即將揭曉產品，將是以Ada Lovelace為代稱的新款GeForce RTX40系列顯示卡。 實際上，NVIDIA並未直接透露即將揭曉新品細節，但先前有不少傳聞指稱NVIDIA將於下半年的GTC技術大會揭曉新款GeForce RTX40系列顯示卡，並且以Ada Lovelace為代稱。 而稍早透過NVIDIA位於澳洲及紐西蘭的Twitter官方帳號張貼內容，則是出現一張標示白努利數的紙張，另外也透露一組疑似電話號碼的數字「(208) 629-7538」。 目前無法猜測疑似電話號碼的數字代表意義，但不少人從白努利數是由Ada Lovelace於1842年提出猜測，認為接下來將推出新款顯示卡，確定將是代號「Lovelace」的新款GeForce RTX40系列顯示卡。 若沒意外的話，NVIDIA將會公佈包含GeForce RTX 4080、GeForce RTX 4090兩款主要顯示卡產品，前者將區分配置12GB或16GB ...

NVIDIA稍早釋出預告，透露將舉辦「#ProjectBeyond」發表活動，有可能準備揭曉GeForce RTX 40系列顯示卡。 目前暫時還無法確認具體細節，而NVIDIA日前已經確認將在9月20日舉辦下半年度的GTC技術大會，因此屆時將可能公布與顯示卡，或是專業繪圖卡相關產品。 稍早公佈2023財年第二季財報時，NVIDIA執行長黃仁勳證實將推出下一款針對遊戲市場打造的顯示卡產品。另一方面，黃仁勳也說明確實先前生產過多顯示卡產品，因此目前透過調整價格方式減少庫存壓力。 NVIDIA並未透露下一款顯示卡具體細節，但預期會基於先前有不少傳聞的「Lovelace」架構設計，並且提供比「Ampere」架構更高的顯示效能 #ProjectBeyond pic.twitter.com/aPTrpi8BXa— NVIDIA GeForce (@NVIDIAGeForce) September 7, 2022

針對此次GTC 2022公布代號「Hopper」的H100 GPU，以及名為Superchip的設計方案，NVIDIA團隊在後續釋出技術白皮書與進一步深入解說文章中，詳細說明新款GPU所帶來改變，同時也進一步在訪談說明更多細節。 H100 GPU的加速運算效能並非僅在硬體提升 其中，可以確認此次推出的H100 GPU同樣區分採SMX介面與PCIe介面設計，其中僅在SMX介面版本能以700W運作功率發揮更高加速效能，而PCIe介面設計則是為了配合現有x86架構設計的Intel及AMD處理器，因此效能會相對受限PCIe介面傳輸頻寬，同時整體運作功率也會較低，因此效能自然會有所打折。 而在技術團隊說明中，更透露採Superchip設計方案時，將能進一步解放H100 GPU運算加速效能，其中不僅是因為配合「Grace」CPU提高指令集執行效率，更因為藉由第四代NVLink設計，而使H100 GPU能以全速形式運作。 從技術團隊另外說明Superchip的設計方案搭配其他業者的處理器的話，則會走Intel等業者推動的UCIe設計規範，因此效能在某種程度上也會打折，但強調依然會有一定加速效能表現，只是言下之意要發揮完整加速運算效能，依然要選擇NVIDIA所提供設計方案。 H100 GPU的價速運算效能並非僅在硬體提升 回到H100 GPU本身，NVIDIA強調相比先前推出的A100 GPU，在加速運算效能約提升6倍，其中搭載800億組電晶體，並且以台積電4nm製程打造，完整效能版本最高可構成144組SM (Streaming Multiprocessor)運算單元，同時對應更高運作時脈與傳輸頻寬。 但此次大幅提高加速運算效能的背後，除了採用第4代Tensor Core設計，更藉由新增加的Transformer Engine設計，讓H100 GPU加速運算效能有顯著躍升。 結構方面，H100 GPU的每個SM運算單元涵蓋128組FP32 CUDA核心，代表完整版本將總計具備18432組FP32 CUDA核心，同時配合256KB L1快取記憶體、50MB L2快取記憶體，以及採用每秒可對應3TB資料量傳輸的HBM3高頻寬記憶體，同時對外透過第4代NVLink或PCIe Gen 5規格，本身更支援高度安全的機密運算，藉此在MIG虛擬化模式下對應更安全運算表現。 ...