Tag: micro services

去年在Computex 2024期間展示的遊戲內助理服務Project G-Assist，稍早開始以實驗版本透過NVIDIA App對外提供使用，同時也提供開發者、獨立軟體供應商以此打造應用服務，包含微星、羅技與HP等業者都已經以此打造相關助理服務。 Project G-Assist最早雛形是以NVIDIA過往曾在愚人節提出想法為基礎，結合當前自動生成式人工智慧技術打造，並且以各類微服務建構而成，可在特定規格的「GeForce RTX AI PC」環境下執行運作，同時標榜無須連網也能順利使用，可讓使用者透過聲控、文字輸入指令方式操作裝置設定，或是針對遊戲內容進行遊玩操作等。 而Project G-Assist背後也導入NVIDIA ACE技術，並且結合小型自然語言模型，搭配GeForce RTX顯示卡加速運作，目前僅對應配置12GB以上顯示記憶體的GeForce RTX 30、GeForce RTX 40與GeForce RTX 50系列顯示卡使用，主因必須配合能使用具備80億組參數規模的Llama模型。 目前Project G-Assist將透過NVIDIA App提供使用，同時也允許使用者額外安裝擴充程式增加應用功能，並且能配合「Alt」+「G」按鍵組合快速呼叫，執行過程會佔用一定GPU運算資源，因此可能會影響部分遊戲執行效能。 提供應用功能，則包含針對PC硬體進行狀態診斷與設定建議，並且能針對遊戲設定最佳化，或是針對GPU進行超頻，另外也能製作FPS、延遲、GPU使用率、溫度等資訊製作報告，使用者也能透過聲控或文字互動要求Project G-Assist回答PC硬體或NVIDIA軟體相關問題，甚至可與羅技、Corsair、Nanoleaf等硬體與軟體進行連動。 另外，NVIDIA目前也向開發人員、獨立軟體供應商提供Project G-Assist設計資源，例如微星已經以此打造名為AI Robot的功能，羅技也以此打造名為Streamlabs Intelligent Streaming Assistant的串流直播助理，而HP更以此在Omen ...

印度各地的生命科學與醫療照護業者開始導入自動生成式人工智慧技術，藉此開發能在印度國內和全球各地拯救生命的應用服務。 這些重要機構包括印度理工學院馬德拉斯分校 (IIT Madras)和德里因陀羅資訊科技大學 (IIIT-Delhi)的研究中心、智慧生命科學公司Innoplexus，以及人工智慧主導的醫療診斷平台供應商5C Network。 而這些機構利用NVIDIA NIM微服務作為各項工作的核心，包括在適用於印地語20億至80億組參數模型類別基準中，可達到最高準確度的Nemotron-4-Mini-Hindi 4B微服務，藉此用於以印地語建立主權人工智慧應用程式與大型語言模型 (LLM)。 印度醫療照護市場預計將從去年的1800億美元，成長至2028年的3200億美元規模，而全新的人工智慧模型則可讓更多人接受醫療照護服務，以及提高這些服務的效率。 為了滿足不斷成長的需求與更快幫助更多病患，印度政府正透過IndiaAI Mission等計畫，大力投資建立在印度境內設計與開發的基礎人工智慧模型，包括用於醫療照護領域的模型。 在人工智慧的幫助下，印度醫療照護生態系的成員帶頭推動神經科學研究、對抗抗生素抗藥性、加速藥物探索、自動化診斷掃描分析等領域的發展。 其中，包含印度理工學院馬德拉斯分校利用人工智慧推動神經科學研究，印度理工學院馬德拉斯分校則利用研究出版物中的真實資料與合成資料開發出高品質、具獨立性的兒科及青少年神經病學護理服務Neuro Voyager，至於德里因陀羅資訊科技大學帶領的聯盟更透過自動生成式人工智慧與NVIDIA DGX運算資源，研究對抗抗生素抗藥性的威脅。 另外，位於班加羅爾與哥印拜陀的醫療診斷平台供應商5C Network，透過電腦視覺與大型語言模型技術開發Bionic醫療影像工具套件，透過閱讀、偵測與分析醫療掃描影像，並且產生綜合性的醫療紀錄，藉此提出可供後續採取行動的診療建議，藉此協助臨床醫師做出更合適診療決策，同時也能協助改變放射科的報告方式。 身為NVIDIA Inception計畫成員之一的Innoplexus，目前利用AlphaFold2 NIM在內NVIDIA NIM微服務分析蛋白質交互作用打造人工智慧生命科學藥物探索平台，透過比傳統方式快500倍的速度，利用NVIDIA H100 Tensor核心的GPU進行加速，可在短短幾秒內分析兩億個蛋白質交互作用，並且能在特定治療藥物中找出最有效、最安全的組合，準確率高達90%。 Innoplexus也透過Nemotron-4 Hindi模型開發工具，讓使用者可以根據關鍵儲存庫的印地語內容，輕鬆使用和瞭解有關印度本土傳統醫學系統阿育吠陀 (Ayurveda)的資訊，另外也透過印地語模型建立另一個大型語言模型應用服務，以簡單易懂的文字向使用者解釋照片上處方和醫療報告的細節。 此外，包括Infosys、塔塔顧問服務公司 (Tata ...