• 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
2025 / 11 / 10 02:14 星期一
  • Login
mashdigi-科技、新品、趣聞、趨勢
  • 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
No Result
View All Result
  • 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
No Result
View All Result
mashdigi-科技、新品、趣聞、趨勢
No Result
View All Result
首頁 生活

微軟攜手NVIDIA建造全球最大單一規模語言模型,能以簡單問句構思完整解答

撰文: 楊又肇 (Mash Yang)
2021-10-13
in 生活, 軟體
A A
0
分享至 Facebook分享至 Twitter分享至 LINE

微軟攜手NVIDIA打造全球最大單一規模的變形金剛 (Transformer)語言模型MT-NLG (Megatron Turing Natural Language Generation Model),標榜具備5300億組參數,成為Turing NLG後繼語言模型,更是目前普遍使用、具備1750億組參數的GPT-3語言模型近三倍規模。

依照說明,MT-NLG語言模型將能對應語意預測、閱讀理解、知識推論、自然語言推論,以及分析詞義消歧意,藉此更深度理解人類自然語言表意,更能從中判斷特定所指內容,不會因為不同語言、地理文化背景差異產生理解落差。

而背後訓練則是透過NVIDIA的GPU加速運算,透過分散式深度學習發揮高效率訓練成果,進而建構高精度自然語言模型,並且能發揮穩定互動效果。

透過NVIDIA DGX SuperPOD建構的Selene超級電腦,背後總計以560組DGX A100進行運算,透過NVLink、NVSwitch串接每台DGX A100所搭載80GB記憶體,藉此對應龐大自然語言模型運作時所需巨量資料,並且透過分散式訓練讓系統以更高效率完成學習。

目前研究人員更進一步讓MT-NLG語言模型能透過簡單問句構思完整解答內容,若以過往的語言模型進行此類運算的話,可能需要花費更多時間得出結果,甚至結果可能會是答非所問內容。

另一方面,微軟目前提供語言翻譯工具中,已經支援100種語言,同時語言使用人口約覆蓋56.6億人,近期更加入巴什基爾語、迪維希語、藏語、土庫曼語、維吾爾語和烏茲別克語等語種。

而目前微軟在其翻譯機制內採用名為Z-code的多語言人工智慧模型,可將相同語系語言進行整合學習,例如將印地語、馬拉地語和古吉拉特語等印度語系交互訓練,即可讓不同語言互譯品質提升,而藉由訓練法語、葡萄牙語、西班牙語和義大利語,即可讓屬於相同語系的羅馬尼亞語互譯品質提升。

微軟表示,透過這樣的方式將能改善相同體系語言,或是相近語系語言翻譯品質,甚至可以藉此保留更多使用人口逐漸減少的少數語言。

您可能感興趣的內容 (GeoFlow Pro 推薦)

  • 三星揭曉Galaxy Book 3系列筆電,強化Galaxy裝置連動體驗、首度增加「Ultra」規格機種
  • OpenAI將於2025年轉型成為以獲利為主要發展的營運型態
  • 觀點/為什麼微軟要大力推動開放數據架構?
  • 經過多年之後,NVIDIA終於將GeForce NOW雲端串流遊戲服務帶進日本市場
  • 名稱專利曝光 Windows傳轉型付費訂閱

分享此文章到您的社群

FacebookTwitter
Tags: DGX SuperPODDGX-A100MicrosoftMicrosoft TranslatorNvidia人工智慧微軟微軟翻譯深度學習自然語言
ShareTweetShare
楊又肇 (Mash Yang)

楊又肇 (Mash Yang)

mashdigi.com網站創辦人兼主筆,同時也是科技新聞業學習者。

發佈留言 取消回覆

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

翻譯 (Translate)

  • 熱門
  • 留言
  • 最新
同時支援6GHz以下頻段與毫米波 Sony揭曉開發中旗艦手機Xperia PRO

同時支援6GHz以下頻段與毫米波 Sony揭曉開發中旗艦手機Xperia PRO

2020-02-24
訪談/Sony定調全新旗艦手機的Xperia 5,究竟是否歸類「Compact」定位?

訪談/Sony定調全新旗艦手機的Xperia 5,究竟是否歸類「Compact」定位?

2019-09-07
Raspberry Pi基金會宣布推出Raspberry Pi 5開發板,顯示供應鏈問題已經獲得改善

Raspberry Pi基金會宣布推出Raspberry Pi 5開發板,顯示供應鏈問題已經獲得改善

2023-09-28
Google從明年5月起將讓非AMP格式網頁也能優先納入行動搜尋結果

Google從明年5月起將讓非AMP格式網頁也能優先納入行動搜尋結果

2
Ubuntu母公司確認計畫上市募股 但仍未有具體時程表

Ubuntu母公司確認計畫上市募股 但仍未有具體時程表

1

索尼互動娛樂證實PlayStation 5僅向下相容絕大多數的PlayStation 4平台遊戲

0
蘋果推出搭載M5晶片的新款14吋MacBook Pro,AI效能提升3.5倍、電池續航達24小時

2026年迎15款新品?OLED觸控Mac、折疊iPhone、預計放棄Qualcomm提供數據晶片

2025-11-10
iPhone 17系列與最輕薄的iPhone Air開賣,這次如何挑選最適合的新機?

報導指稱蘋果研發5款iPhone衛星新功能,包含地圖導航、傳送照片、室內連線與5G NTN

2025-11-10
AWS公布與OpenAI合作380億美元策略協議細節,提供EC2 UltraServers、數十萬顆NVIDIA GPU

AWS公布與OpenAI合作380億美元策略協議細節,提供EC2 UltraServers、數十萬顆NVIDIA GPU

2025-11-09
mashdigi-科技、新品、趣聞、趨勢

Copyright © 2017 mashdigi.com

  • 關於 mashdigi.com
  • 投放廣告
  • 聯繫 mashdigi.com

追蹤我們

Welcome Back!

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In
No Result
View All Result
  • 關於 mashdigi.com
  • 投放廣告
  • 聯繫 mashdigi.com

Copyright © 2017 mashdigi.com