展覽 市場動態 網路 觀察 軟體

VMware如何協助企業以更安全、可信賴的模型框架打造合適的人工智慧應用服務?
目的同樣放在加快企業在雲端佈署應用服務效率

此次在VMware Explore 2023宣布推出Private AI架構方案,讓企業能在導入人工智慧技術應用之餘,同時確保資料隱私安全與服務符合法規需求。而VMware的實際作法,除了與NVIDIA、Hugging Face等外部業者合作,更透過內部成立的AI Labs提供合適的模型框架,讓企業能更快採用投入應用訓練,藉此打造符合需求的人工智慧應用服務。

人工智慧, VMware如何協助企業以更安全、可信賴的模型框架打造合適的人工智慧應用服務?<br><span style='color:#848482;font-size:16px;'>目的同樣放在加快企業在雲端佈署應用服務效率</span>, mashdigi-科技、新品、趣聞、趨勢
▲VMware透過Private AI架構方案向企業提供合適的人工智慧運算模型框架

不過,VMware要如何確保提供的模型框架值得信賴,或是更符合企業實際使用需求?

VMware副總裁暨AI Labs負責人Chris Wolf表示,由VMware提供的模型框架都會透過AI Labs進行檢查,確認不會造成隱私問題,或是使用訓練資料來源有問題,同時不會與當前法令衝突,才會提供給企業使用,避免造成更大問題。

但Chris Wolf也強調並非意味VMware會介入主導僅能使用特定模型框架,實際上還是會與企業持續溝通,透過了解主要使用需求,藉此決定在Private AI架構方案提供那一些合適模型框架,因此主要還是站在企業需求上作考量,不會因此干涉企業或開發者應用發展。

另一方面,VMware除了與Meta、NVIDIA等業者大型自然語言模型框架,在接下來的規劃中也會持續對外合作開源模型框架,或是由大型科技業者提供值得信賴的模型框架,甚至針對Azure或AWS在內公有雲業者自行建立模型框架,未來也都是VMware考慮加入合作對象。

人工智慧, VMware如何協助企業以更安全、可信賴的模型框架打造合適的人工智慧應用服務?<br><span style='color:#848482;font-size:16px;'>目的同樣放在加快企業在雲端佈署應用服務效率</span>, mashdigi-科技、新品、趣聞、趨勢
▲VMware目前已經在容器化應用與開源架構的Kubernetes深度整合,而目前在人工智慧、深度學習應用也與ChatGPT背後的開源模型框架Ray有更進一步應用
人工智慧, VMware如何協助企業以更安全、可信賴的模型框架打造合適的人工智慧應用服務?<br><span style='color:#848482;font-size:16px;'>目的同樣放在加快企業在雲端佈署應用服務效率</span>, mashdigi-科技、新品、趣聞、趨勢
▲藉由Ray框架,建構在vSphere基礎上的Project Taiga

在Private AI架構方案之下,VMware希望協助想要導入人工智慧應用,但沒有足夠預算、能力建構合適模型框架的企業,更快擁抱人工智慧應用發展機會,同時減少企業可能使用開源模型框架,卻無法符合需求,甚至有違反當地法規,以及造成內部資料隱私外洩等風險發生情況。

人工智慧, VMware如何協助企業以更安全、可信賴的模型框架打造合適的人工智慧應用服務?<br><span style='color:#848482;font-size:16px;'>目的同樣放在加快企業在雲端佈署應用服務效率</span>, mashdigi-科技、新品、趣聞、趨勢
▲目前包含GPT-3.5、GPT-4,以及Llama 2等開源模型框架不僅以更快速度成長,同時也成為許多企業信賴使用模型框架,但仍有不少開源模型框架可能造成資料外洩、建構時使用訓練資料有問題,甚至無法合乎當地法規,都可能讓企業直接採用後產生更大問題

除了確保企業、開發者能以VMware服務快速、安全地導入人工智慧應用資源,VMware此次也與Hugging Face合作結合自動生成式人工智慧技術的SafeCoder輔助工具,讓企業、開發者能透過自然語言生成程式編碼,同時也能主動檢查程式編碼是否有誤,藉此加快企業在雲端佈署應用服務效率。

人工智慧, VMware如何協助企業以更安全、可信賴的模型框架打造合適的人工智慧應用服務?<br><span style='color:#848482;font-size:16px;'>目的同樣放在加快企業在雲端佈署應用服務效率</span>, mashdigi-科技、新品、趣聞、趨勢
▲結合自動生成式人工智慧技術的SafeCoder輔助工具,讓企業、開發者能透過自然語言生成程式編碼,同時也能主動檢查程式編碼是否有誤,藉此加快企業在雲端佈署應用服務效率
楊又肇 (Mash Yang)
mashdigi.com網站創辦人兼主筆,同時也是科技新聞業流浪漢。

發表迴響