• 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
2025 / 12 / 06 08:49 Saturday
  • Login
mashdigi-科技、新品、趣聞、趨勢
  • 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
No Result
View All Result
  • 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
No Result
View All Result
mashdigi-科技、新品、趣聞、趨勢
No Result
View All Result
首頁 市場動態

Meta公布用於自動生成式人工智慧的硬體基礎設施,採用近5萬組NVIDIA H100 GPU
形成可對應大型數據中心算力規模的運算叢集

撰文: 楊又肇 (Mash Yang)
2024-03-13
in 市場動態, 生活, 硬體, 網路, 處理器, 軟體
A A
0
分享至 Facebook分享至 Twitter分享至 LINE

Meta公布其用於自動生成式人工智慧的硬體基礎設施,其中包含兩個各自採用2萬4576組NVIDIA H100 GPU、可對應大型數據中心算力規模的運算叢集。

相較Meta在2022年公布用於人工智慧運算叢集、採用1.6萬組NVIDIA A100 GPU的AI Research SuperCluster (RSC),此次公布規格幾乎提升超過2倍以上,並且能運作更大、更複雜的人工智慧模型。

其中一個運算叢集基於Arista 7800、Wedge400,以及Minipack2開放運算計畫 (OCP)機架交換器構成的RDMA over Converged Ethernet (RoCE)解決方案,另一個運算叢集則是基於NVIDIA的Quantum2 InfiniBand網路架構,兩個運算叢集均對應400 Gbps的端點互連傳輸速率,並且能以不同網路架構,評估不同類型的互連型態對於大規模人工智慧訓練的適用性及可擴展性,同時也能作為日後設計、建置更大規模運算叢集的參考依據。

此運算叢集除了網路架構,其他均以Meta內部設計建構,並且對外貢獻給開放運算計畫的GPU硬體平台Grand Teton,藉此讓更多人工智慧系統採用,可在單一機箱內整合包含變電源、控制系統、運算架構與傳輸介面,同時也能對應更好運算效能及訊號完整性,更可對應更良好的熱效能。

而在儲存架構則採用Meta內部Tectonic分散式儲存解決方案,透過其中Linux Filesystem in Userspace (FUSE) API資源對應人工智慧運算叢集資料,以及檢查點相關需求,讓多數GPU能同步儲存、載入檢查點,藉此提資料載入時的彈性,以及提供EB儲存規模吞吐量。

另外,Meta也與全球資料共用平台Hammerspace合作打造平行網路檔案系統佈署技術,其中運用可讓工程人員透過數千個GPU資源進行執行任務除錯,並且讓程式有所變動時,可讓佈署應用環境所有節點同步存取,藉此對應龐大人工智慧運算使用模式。

Meta計畫持續擴大自動生成式人工智慧的硬體基礎設施,預計在今年底增加使用35萬組NVIDIA H100 GPU,並且計畫發揮等同60萬組NVIDIA H100 GPU的運算效能。

Tags: AIgenerative AIGPUH100MetaNVIFIA人工智慧自動生成式人工智慧
ShareTweetShare
楊又肇 (Mash Yang)

楊又肇 (Mash Yang)

mashdigi.com網站創辦人兼主筆,同時也是科技新聞業學習者。

Leave a Reply Cancel reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

  • 熱門
  • 留言
  • 最新
同時支援6GHz以下頻段與毫米波 Sony揭曉開發中旗艦手機Xperia PRO

同時支援6GHz以下頻段與毫米波 Sony揭曉開發中旗艦手機Xperia PRO

2020-02-24
訪談/Sony定調全新旗艦手機的Xperia 5,究竟是否歸類「Compact」定位?

訪談/Sony定調全新旗艦手機的Xperia 5,究竟是否歸類「Compact」定位?

2019-09-07
Raspberry Pi基金會宣布推出Raspberry Pi 5開發板,顯示供應鏈問題已經獲得改善

Raspberry Pi基金會宣布推出Raspberry Pi 5開發板,顯示供應鏈問題已經獲得改善

2023-09-28
Google從明年5月起將讓非AMP格式網頁也能優先納入行動搜尋結果

Google從明年5月起將讓非AMP格式網頁也能優先納入行動搜尋結果

2
Ubuntu母公司確認計畫上市募股 但仍未有具體時程表

Ubuntu母公司確認計畫上市募股 但仍未有具體時程表

1

索尼互動娛樂證實PlayStation 5僅向下相容絕大多數的PlayStation 4平台遊戲

0
Meta承認客服系統「未達預期」,將導入AI支援助理與全新支援中心修復帳號問題

Meta承認客服系統「未達預期」,將導入AI支援助理與全新支援中心修復帳號問題

2025-12-06
傳亞馬遜考慮與美國郵政終止合作,不滿「反向競標」機制、自建物流已足以獨當一面

傳亞馬遜考慮與美國郵政終止合作,不滿「反向競標」機制、自建物流已足以獨當一面

2025-12-06
Netflix震撼宣布以827億美元高價收購華納兄弟,囊括HBO、DC宇宙與哈利波特IP資產

Netflix震撼宣布以827億美元高價收購華納兄弟,囊括HBO、DC宇宙與哈利波特IP資產

2025-12-05
mashdigi-科技、新品、趣聞、趨勢

Copyright © 2017 mashdigi.com

  • 關於 mashdigi.com
  • 投放廣告
  • 聯繫 mashdigi.com

追蹤我們

Welcome Back!

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In
No Result
View All Result
  • 關於 mashdigi.com
  • 投放廣告
  • 聯繫 mashdigi.com

Copyright © 2017 mashdigi.com