前Google TPU開發者、AI新創Groq創辦人Jonathan Ross帶槍投靠NVIDIA,雙方簽署推論技術授權
以極速推論晶片LPU聞名的AI新創Groq稍早宣布,已與NVIDIA簽署一項關於推論技術的「非獨佔授權協議」。 更令人驚訝的是,Groq的靈魂人物、同時也是前Google TPU核心開發者身分的創辦人Jonathan Ross,將帶領部分核心團隊直接加入NVIDIA。這雖然不是一場傳統意義上的公司併購,但「人才與技術」的實質轉移,無疑將對AI推論市場造成重大影響。 創辦人「跳槽」去合作夥伴?Groq強調公司獨立性 根據公告內容,這項協議是非獨佔性質的,意味著Groq作為一家公司仍將繼續獨立運作。然而,人事變動卻相當劇烈:包含執行長Jonathan Ross與營運長兼總裁Sunny Madra等主要核心成員,將轉戰NVIDIA,負責推動授權技術的開發與普及。而原財務長 (CFO) Simon Edwards將接任成為新Groq執行長,繼續帶領公司營運,旗下的GroqCloud雲端服務也不受影響。 關於Groq:專為LLM推論而生的LPU Groq成立於2016年,總部位於加州山景城。創辦人Jonathan Ross曾是Google的 TPU (Tensor Processing Unit) 團隊創始成員之一。 與NVIDIA GPU採用平行運算處理圖形與AI不同,Groq研發了名為LPU (Language Processing Unit) 的專用處理器,採用確定性 (Deterministic) 架構,專門針對大型語言模型 (LLM) 的「推論」 (Inference)環節進行優化。其展現出的Token生成速度往往令市場驚艷,Jonathan ...
