Tag: Red Hat Enterprise Linux AI

Red Hat宣布與AMD擴大策略合作，雙方將結合Red Hat在開放原始碼與AI軟體平台的領導優勢，以及AMD在高效能運算架構的深厚技術，共同為企業用戶提供更靈活且具備效能優勢的AI與虛擬化解決方案，協助因應日益多樣化的混合雲與生成式AI佈署需求。 在 AI 工作負載方面，Red Hat表示其OpenShift AI解決方案已經全面支援AMD Instinct GPU，企業無需投入大量資源，即可透過高效能的GPU進行加速，並且在跨混合雲架構中快速導入、佈署生成式AI模型。 雙方也在微軟Azure ND MI300X v5平台上，搭載AMD Instinct MI300X GPU，成功展示基於Red Hat Enterprise Linux AI的小型與大型語言模型推論能力，能於單一虛擬機器上佈署多個GPU，有效降低跨多虛擬機部署的複雜度與成本。 針對vLLM (開源高效語言模型推論框架)，Red Hat與AMD更積極參與上游社群協作，透過最佳化Triton核心、FP8支援與核心函式庫上游化，提升模型推論效能，強化多 GPU環境下的集體通訊與負載調度表現。 而Red Hat也將推出自家企業級vLLM發行版「Red Hat AI Inference ...

今年5月在丹佛舉辦的技術大會中公布以開源形式加速推動自動生成式人工智慧成長的Red Hat Enterprise Linux AI服務平台，並且更新Ansible自動化平台，讓人工智慧可在混合雲環境以符合特定原則運作，Red Hat今日 (11/5)活動上表示未來的人工智慧技術發展將建構在混合雲環境下成長，而混合雲架構也將使人工智慧能輕易佈署於任何場景使用。 ▲左起：Red Hat 台灣區總經理孫媛音、Red Hat 全球副總裁暨大中華區總裁曹衡康、Red Hat首席資深解決方案架構經理游政杰 Red Hat全球副總裁暨大中華區總裁曹衡康指出，目前市場對於人工智慧的需求，就如同過去眾人談論的數位轉型，但是相較近年諸多人認為發展人工智慧必須先堆疊硬體軍備的情況，目前有更多人開始思考需要什麼樣的人工智慧，以及應該使用哪些人工智慧。 曹衡康認為，目前許多人工智慧技術應用主要建構在既有功能加強，許多企業其實都還是在探討「人工智慧能作什麼」，因此認為當前的人工智慧技術發展更傾向協助提升工作效率，後續才會逐漸全面朝向具代理性質的人工智慧應用發展。 而在此情況下，以GPU、CPU等硬體堆疊更高的算力就不見得是必備要素，甚至在既有硬體架構上佈署人工智慧就已經能滿足相應需求，同時相關應用佈署也能先投入規劃，並且視實際應用狀況再來建構更高執行算力。 就目前市場發展來看，曹衡康表示金融、保險等產業導入人工智慧的速度會較快，至於更具體的人工智慧應用則預計會在未來3-5年才有較大爆發情況。 另外，就目前各地區法規不同情況，曹衡康也指出目前各地政府都陸續針對人工智慧技術應用提出相關法規，尤其在歐洲、中東等地區對於隱私等內容管控較敏感地區會有不同規範，甚至像是美國地區可能還會涉及晶片相關供應議題，因此也預期未來的人工智慧技術應用發展可能會因地而異，使得目前市場仍大致處於觀望階段。 針對目前台灣市場發展部分，Red Hat台灣區總經理孫媛音則強調接下來將會持續強化人工智慧加速導入，並且推動結合容器化與虛擬化技術應用發展，另外也將整合Ansible自動化平台推動代理人工智慧應用佈局，而這些發展都將建立在開放架構的混合雲平台，同時也與Red Hat諸多合作夥伴生態推動龐大的人工智慧應用導入成效。

強調以開源技術加速推動人工智慧應用發展之餘，Red Hat技術長Chris Wright說明相比過往全面以應用服務發展的情形，當前企業發展已經處於一半維持應用服務，另一半則已經轉向人工智慧應用的趨勢，而Red Hat接下來也會持續藉由開源方式持續探索未來人工智慧技術應用可能性。 ▲Red Hat技術長Chris Wright說明持續藉由開源方式持續探索未來人工智慧技術應用可能性 同時，Chris Wright更預期從2023年到2026年這段時間內，人工智慧應用需求將會有10倍以上的成長幅度。 ▲當前企業發展已經處於一半維持應用服務，另一半則已經轉向人工智慧應用的趨勢 ▲預期從2023年到2026年這段時間內，人工智慧應用需求將會早多達10倍以上成長幅度 以開源理念加速推動應用服務在各個環境佈署 在目前發展規劃中，Red Hat持續以開源形式推動各類技術發展，並且相信藉由開源吸引更多資源加入，將能加速推動人工智慧技術成長。而Red Hat扮演角色，則是透過其Red Hat Enterprise Linux AI、OpenShift AI平台持續媒合諸多技術資源，讓企業能以更快速度投入人工智慧技術發展。 而與Intel、NVIDIA、AMD及三星等硬體業者，以及諸如AWS、微軟Azure、Google Cloud等雲端服務與眾多伺服器業者深入合作，Red Hat秉持理念是讓企業能更容易依照需求將服務佈署在不同位置，甚至可藉由混合雲、跨雲型態運作。 在與這些業者的合作中，將深入核心層級，因此將使企業透過Red Hat平台佈署其應用服務時，能使難度門檻大幅降低，得以用更快速度、更少成本進行建置，另外也能藉由開源形式縮短服務更新時間，讓新服務可以更快進入市場提供使用。 無伺服器形式發展並非當前主軸，原因在於企業仍有不同選擇需求 至於被問到是否進一步考慮投入無伺服器形式發展，亦即透過雲端平台形式讓企業用戶無須進行佈署、組建服務運作模式，同時也無須額外花費時間等成本管理、維護伺服器，所有服務背後編碼程式內容均由雲端平台運作。 Chris Wright對此表示，由於企業仍有不同服務佈署應用需求，因此現階段目標還是協助讓企業有更多選擇，例如將服務佈署於地端，或是應用在公有雲環境，甚至以混合雲架構形式運作。而若企業服務有更大的無伺服器形式運作需求，目前會傾向透過其OpenShift平台提供的Kubernetes容器化服務對應，使其能有更多元佈署應用選擇。 ▲藉由OpenShift平台提供的Kubernetes容器化服務對應無伺服器形式運作需求，使其能有更多元佈署應用選擇 ...

在此次Red Hat技術大會中，Red Hat除了宣布釋出Red Hat Enterprise Linux AI服務平台預覽內容，更進一步擴大其OpenShift AI平台資源應用整合範疇，另外也強調將持續助企業藉由橫跨混合雲的基礎架構佈署各類人工智慧應用服務。 ▲Red Hat強調將持續助企業藉由橫跨混合雲的基礎架構佈署各類人工智慧應用服務 如同Red Hat Enterprise Linux AI (RHEL AI)服務平台，藉由開源形式讓企業能更容易存取各類自動生成式人工智慧模型，以平台即服務 (PaaS)形式運作的OpenShift AI平台也同樣透過開源加快企業及開發者取用各類人工智慧資源的流程。 Red Hat表示，當前的人工智慧技術應用已經不再處於評估階段，各個企業已經開始構思應該何時導入人工智慧技術，因此提供更快、更容易取用人工智慧技術資源的服務平台就顯得更加重要，並且透過橫跨混合雲的基礎架構，使其能在任何位置佈署人工智慧應用服務，並且依照需求進行擴展或微調。 ▲強調以其平台資源協助企業加速佈署人工智慧應用服務 在此次更新的OpenShift AI平台中，企業可將邊緣運算模型佈署於單一節點，藉此強化各類邊緣運算應用，另外也加入支援基於Kubernetes的機器學習服務模型服務框架KServe，藉此讓企業更容易取用各類大型自然語言模型，進而佈署多元自動生成式人工智慧技術，並且從中簡化佈署應用流程，進而讓服務佈署成本降低。 而針對分散式工作負載方面，則是增加支援IBM的無伺服器開源框架CodeFlare，以及在Kubernetes集群佈署Ray加速框架的開源工具組KubeRay，讓多個運算叢集節點能對應更快、更有效率的資料處理與模型訓練。 ▲以橫跨混合雲基礎架構形式加速人工智慧應用成長 目前IBM已經在其企業級人工智慧工具集watsonxwatsonx.ai整合OpenShift AI平台資源，同時Red Hat也持續與各個業者、機構合作，例如整合Run:ai、Stability AI、Elastic、Intel、AMD、NVIDIA等業者的人工智慧模型或平台資源，透過開源方式讓更多人工智慧應用服務能在更多場景佈署使用，同時也更多平台可取用更多人工智慧技術，並且協助推動更多人工智慧服務創新，包含與瑞典政府推動的AI ...

在此次於丹佛舉辦的Red Hat技術大會上，Red Hat總裁暨執行長Matt Hicks強調開源依然是Red Hat發展重要基礎，並且將在當前人工智慧浪潮藉由開源方式，讓開發者能以更具彈性、兼具安全形式推動多元人工智慧應用發展，同時也說明將在混合、跨雲基礎架構與更多業界夥伴深入合作，藉此作為現代化運算的穩健基石。 ▲針對人工智慧應用浪潮，Red Hat釋出Red Hat Enterprise Linux AI服務平台 Matt Hicks表示，將透過提供開源環境、更多選擇，並且藉由賦予更多控制權形式，讓開發者、企業能更容易運用人工智慧運算資源。 ▲Red Hat強調將以開放、更多選擇與控制權推動人工智慧應用發展 ▲強調將扮演協助企業導入更多人工智慧的服務平台 此次公布消息中，Red Hat宣布推出Red Hat Enterprise Linux AI (RHEL AI)服務平台，讓企業能更容易存取開源形式的自動生成式人工智慧模型，並且藉由同樣以開源架構運作的InstructLab模型校準工具簡化企業測試、調整自動生成式人工智慧模型難度，同時更與Intel、AMD、NVIDIA在內處理器業者合作，使採用其處理器運作的執行環境能更完整相容開源形式的人工智慧運算需求。 透過Red Hat Enterprise Linux AI，企業將能更直覺地以開源形式降低開發、測試及佈署自動生成式人工智慧模型的門檻，此服務平台可佈署於橫跨混合雲基礎架構的單一伺服器環境，並且涵蓋OpenShift AI平台資源，以及Red ...