• 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
2025 / 12 / 05 22:12 Friday
  • Login
mashdigi-科技、新品、趣聞、趨勢
  • 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
No Result
View All Result
  • 頭條話題
  • 人工智慧
  • 自動駕駛
  • 網路
  • 處理器
  • 手機
  • 展覽活動
    • CES
      • CES 2014
      • CES 2015
      • CES 2016
      • CES 2017
      • CES 2018
      • CES 2019
      • CES 2020
    • MWC
      • MWC 2014
      • MWC 2015
      • MWC 2016
      • MWC 2017
      • MWC 2018
      • MWC 2019
    • Computex
      • Computex 2014
      • Computex 2015
      • Computex 2016
      • Computex 2017
      • Computex 2018
      • Computex 2019
    • E3
      • E3 2014
      • E3 2015
      • E3 2016
      • E3 2017
    • IFA
      • IFA 2014
      • IFA 2015
      • IFA 2016
      • IFA 2017
    • TGS
      • TGS 2016
  • 關於我們
    • 關於mashdigi
    • mashdigi網站聯繫方式
No Result
View All Result
mashdigi-科技、新品、趣聞、趨勢
No Result
View All Result
首頁 App

結合Llama 3.1開源模型、搭配NVIDIA AI Foundry服務與NIM微服務,更快打造各類客製化AI應用功能
加快人工智慧技術應用發展

撰文: 楊又肇 (Mash Yang)
2024-07-24
in App, 市場動態, 生活, 網路, 觀察, 軟體
A A
0
分享至 Facebook分享至 Twitter分享至 LINE

針對Meta稍早公布可對應4050億組參數規模的大型自然語言模型Llama 3.1,NVIDIA在稍早對外說明Llama 3.1以超過16000組NVIDIA H100加速器、超過15兆個詞元 (token)資料集訓練而成,並且透過NVIDIA AI Foundry服務與NVIDIA NIM微服務讓企業打造各類客製化人工智慧應用功能。

▲結合Llama 3.1開源模型、搭配NVIDIA AI Foundry服務與NIM微服務,更快打造各類客製化AI應用功能

NVIDIA表示,其NVIDIA AI Foundry服務是以NVIDIA DGX Cloud AI平台建構而成,並且能依照人工智慧運作規模等需求擴展。另一方面,則是藉由NVIDIA NIM微服務快速佈署人工智慧模型應用,藉此快速建構各類以人工智慧驅動的網路服務。

▲NVIDIA AI Foundry服務是以NVIDIA DGX Cloud AI平台建構而成,並且能依照人工智慧運作規模等需求擴展
▲藉由NVIDIA AI Foundry服務與NVIDIA NIM微服務打造客製化人工智慧服務的流程
▲NVIDIA NIM微服務將能對應各類應用服務設計

而透過此次Meta推出的大型自然語言模型Llama 3.1,結合NVIDIA旗下軟體、運算技術,即可針對特定應用需求建構客製化的「超級模型」,例如藉由NVIDIA Nemotron Reward模型所產生合成資料,用於訓練不同客製化的「超級模型」。

▲Meta稍早宣布推出的Llama 3.1模型,可對應4050億組、700億組或80億組參數規模,同時也能結合NVIDIA NIM微服務運作使用

企業目前可透過NVIDIA官網下載適用於Llama 3.1的NVIDIA NIM微服務,藉此建構包含人工智慧數位助理、數位分身等應用功能,而全球專業服務公司Accenture目前已經率先採用NVIDIA AI Foundry服務,透過其Accenture AI Refinery框架建立客製化的Llama 3.1應用模型,藉此加快人工智慧技術應用發展。

▲對應更快的人工智慧運作效率

至於需要額外訓練資料,藉此創建特定領域模型應用的企業,則可同時使用Llama 3.1 4050億組參數版本,搭配NVIDIA Nemotron-4 3400億組參數版本所生成合成資料,進而在建立客製化「超級模型」時提高其運作精準度,而擁有自身訓練資料的企業,則可透過NVIDIA NeMo服務打造客製化的Llama 3.1模型。

另外,NVIDIA與Meta也合作提供Llama 3.1的精簡方案,讓開發人員能藉此構建更小規模的客製化Llama 3.1模型,讓企業能在工作站或筆電端佈署小規模自動生成式人工智慧技術。

▲可對應多元人工智慧應用場景

目前包含醫療保健、金融服務、零售、運輸和電信領域公司已經開始使用NVIDIA NIM微服務,而首波採用Llama 3.1與新版NVIDIA NIM微服務的企業包括沙烏地阿拉伯國家石油公司、AT&T、Uber,以及其他業者,藉此對應更快執行反應速率。

Tags: AILLaMALlama 3.1MetaNvidiaNVIDIA AI FoundryNVIDIA NIM人工智慧微服務
ShareTweetShare
楊又肇 (Mash Yang)

楊又肇 (Mash Yang)

mashdigi.com網站創辦人兼主筆,同時也是科技新聞業學習者。

Leave a Reply Cancel reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

  • 熱門
  • 留言
  • 最新
同時支援6GHz以下頻段與毫米波 Sony揭曉開發中旗艦手機Xperia PRO

同時支援6GHz以下頻段與毫米波 Sony揭曉開發中旗艦手機Xperia PRO

2020-02-24
訪談/Sony定調全新旗艦手機的Xperia 5,究竟是否歸類「Compact」定位?

訪談/Sony定調全新旗艦手機的Xperia 5,究竟是否歸類「Compact」定位?

2019-09-07
Raspberry Pi基金會宣布推出Raspberry Pi 5開發板,顯示供應鏈問題已經獲得改善

Raspberry Pi基金會宣布推出Raspberry Pi 5開發板,顯示供應鏈問題已經獲得改善

2023-09-28
Google從明年5月起將讓非AMP格式網頁也能優先納入行動搜尋結果

Google從明年5月起將讓非AMP格式網頁也能優先納入行動搜尋結果

2
Ubuntu母公司確認計畫上市募股 但仍未有具體時程表

Ubuntu母公司確認計畫上市募股 但仍未有具體時程表

1

索尼互動娛樂證實PlayStation 5僅向下相容絕大多數的PlayStation 4平台遊戲

0
亞馬遜「Thank My Driver」回歸,直擊AWS re:Invent物流科技、車廂內AI視覺成「找貨神器」

亞馬遜「Thank My Driver」回歸,直擊AWS re:Invent物流科技、車廂內AI視覺成「找貨神器」

2025-12-05
從亞馬遜執行長的「堅持」哲學看AI代理佈局,AWS如何讓企業在缺工潮中以代理式AI突圍?

從亞馬遜執行長的「堅持」哲學看AI代理佈局,AWS如何讓企業在缺工潮中以代理式AI突圍?

2025-12-05
華納兄弟探索頻道將使其串流影音服務Max再次更名為「HBO Max」

傳Netflix以每股28美元獨家洽談收購華納兄弟探索,鎖定影視與串流資產、力壓派拉蒙天舞

2025-12-05
mashdigi-科技、新品、趣聞、趨勢

Copyright © 2017 mashdigi.com

  • 關於 mashdigi.com
  • 投放廣告
  • 聯繫 mashdigi.com

追蹤我們

Welcome Back!

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In
No Result
View All Result
  • 關於 mashdigi.com
  • 投放廣告
  • 聯繫 mashdigi.com

Copyright © 2017 mashdigi.com