展覽 市場動態 手機 生活 硬體 網路 處理器 軟體 頭條話題

專訪/Qualcomm希望以無縫佈署方式讓更多終端裝置擁抱人工智慧

相比華為、蘋果與聯發科對於端點學習運算加速的想法不同,雖然Qualcomm認為採用獨立學習運算元件提高效率的作法也很重要,但目前主要還是著重於以既有CPU、GPU與其他運算元件,配合軟體與學習框架達成等同,甚至更高的機器學習運算能力,同時也較不受限於獨立運算元件版本能力限制,藉此能讓更多基於Snapdragon運算平台裝置均可快速佈署人工智慧應用。

batch resize IMG 6510 專訪/Qualcomm希望以無縫佈署方式讓更多終端裝置擁抱人工智慧

在與Qualcomm人工智慧暨機器學習產品管理總監Gary Brotman訪談裡,除了進一步說明目前Qualcomm在裝置端的機器學習應用,乃至於在行動裝置的人工智慧技術佈署看法,Gary Brotman更表示裝置端的人工智慧應用、深度學習將成為未來趨勢,除了強化裝置端的運算效率,降低大幅仰賴雲端協同運算的限制,同時也能確保裝置端的個人隱私安全,並且可讓裝置端有更具效率的運作表現,以及更低的電力損耗表現。

以目前Qualcomm在裝置端的人工智慧技術佈署,主要聚焦在客製化核心架構設計的Kryo CPU、Adreno GPU,以及Hexagan DSP三大硬體結構,並且配合軟體銜接Snapdragon NPE (類神經網路運算引擎)SDK、Android NN API、Hexagan NN API,同時也相容支援既有常見學習框架,例如Facebook主導的Caffe、Caffe 2,或是Google的TensorFlow、TensorFlow Lite,以及微軟等廠商共同推動的ONNX (Open Neural Networking Exchange),藉此推動裝置端的學習運算應用,進而可發揮更具運算效率的效能表現。

同時,Qualcomm也與包含商湯科技、Face++等服務廠商合作,在雲端應用也與騰訊 (QQ)、百度 (Duer OS,語音識別)、亞馬遜與微軟 (ONNX)、Google (TensorFlow Lite、物件識別)、Facebook (Caffe 2、擴增實境應用)等應用項目合作,藉此擴展、落實裝置端學習運算的具體應用。

batch resize IMG 6506 專訪/Qualcomm希望以無縫佈署方式讓更多終端裝置擁抱人工智慧
Qualcomm在終端裝置上的人工智慧暨應用,主要聚焦既有CPU、GPU、DSP等既有硬體架構,搭配軟體定義與學習框架應用推動人工智慧運算能力,並且預期能發揮相同或更高的運算效果

而針對Qualcomm本身對於裝置端學習運算應用模式,與華為、蘋果及聯發科等廠商採取模式明顯不同,Gary Brotman表示並非代表Qualcomm不看好獨立學習運算元件的重要性,只是基於技術擴展與更多合作機會發展面向,認為藉由運算平台內既有Kryo CPU、Adreno GPU與Hexagan DSP,搭配軟體及學習框架所建構的端點學習運算模式更具發展彈性,同時也能在更廣泛硬體設備上呈現高度相容表現,並且確保資料互通性與效能最佳化。

Gary Brotman認為藉由獨立學習運算元件達成加速效果並非不好,只是就長遠發展來看,一旦面臨硬體版本更新就可能產生額外研發時間、費用等成本,同時還需要考量是否產生相容問題,相較Qualcomm目前採用設計僅需在軟體、學習框架做調整,即可藉由現有硬體資源達成相近或更高的學習運算效能,縱使運算平台版本更新,原本人工智慧運算服務也不會因為硬體版本因素產生無法相容問題。

對於Qualcomm而言,如何協助更多合作夥伴打造更多銜接人工智慧技術應用的產品才是當前重要方向,因此Gary Brotman認為並非Qualcomm不重視以獨立學習運算元件達成加速效果的優勢,而是考量其背後所面臨風險,因此將發展重心放在以軟體、學習框架驅動既有硬體的人工智慧應用模式,藉此擁抱更具彈性的人工智慧技術佈署,但其實本身也不排斥在特定應用需求導入獨立學習運算元件的設計模式。

batch resize IMG 6511 專訪/Qualcomm希望以無縫佈署方式讓更多終端裝置擁抱人工智慧
Qualcomm人工智慧暨機器學習產品管理總監Gary Brotman

新增Snapdragon 700系列是為了讓更多裝置也能有人工智慧運算能力

至於針對此次宣布在Snapdrafgon 800系列與600系列之間,新增結合人工智慧運算能力的全新Snapdragon 700系列運算平台,Qualcomm除了希望能在產品應用進一步細分之外,同時也期望能讓更多應用產品都能導入人工智慧運算效能,特別在中國市場需求也希望連接更多應用模式。

而在目前Snapdragon 600系列也開始導入人工智慧應用,是否意味未來也會持續下放到400系列或200系列運算平台?Gary Brotman對此表示其實Snapdragon全系列運算平台架構設計,都能相容使用Snapdragon NPE、Hexagan NN API,未來若Google進一步釋出原生整合Android NN API的Android P (9.0),同樣可讓不同運算平台裝置能以人工智慧運算模式驅動。

只是其中較明顯差異在於400系列、200系列並未導入Hexagan DSP設計,因此在整體學習運算效能表現終究會有落差,但主要還是看終端裝置實際應用而定,並非每一種學習運算都必須搭配即時的反應效率。此外,Qualcomm未來也可能不排除將Hexagan DSP等元件加入400系列、200系列運算平台,進而產生不同學習運算應用模式。

batch resize IMG 6507 專訪/Qualcomm希望以無縫佈署方式讓更多終端裝置擁抱人工智慧
即便Snapdragon 400系列、200系列依然可使用Snapdragon NPE等運算資源,只是在執行效率、效能表現可能會因為缺乏Hexagan等DSP輔助運算,以及在CPU、GPU運算效能表現不同而產生學習運算效果落差

未來將推出可公平評比裝置端人工智慧運算能力的評測工具

另外,針對許多人對於不同人工智慧技術應用所產生效益有所質疑,Gary Brotman透露Qualcomm目前已經著手打造可公平評比的測試工具,讓合作夥伴能以此判斷不同人工智慧運算平台所能呈現效率、精準度、電力損耗表現,以及可支援學習框架模式等數據,藉此決定針對不同應用需求採用個別合適的運算平台。

而類似的評測工具,日前Futuremark也曾表示計畫推出可依據深度學習效能評斷其人工智慧技術應用表現的測試工具,但如何在諸多學習框架、運算加速模式,以及硬體差異間找到合適評測基準,並且制定統一計分標準,其實是相當龐大且費時工程。

不過,Gary Brotman並未說明Qualcomm針對裝置端學習運算效能表現所打造的評測工具預計推出時程,同時也未說明進一步細節內容。

廣告
楊又肇 (Mash Yang)
楊又肇 (Mash),大學主修電機、輔修資管,畢業後只幫人修過電腦,卻沒有當過一天工程師,誤打誤撞進入聯合新聞網擔任科技頻道主編多年,報導領域廣泛,從晶片到手機、筆電,或從AI到新創產業軟硬兼吃。目前仍是科技新聞業流浪漢身分,除mashdigi.com網站創辦人兼主筆之外,同時也為UDN.com、癮科技、Inside、數位時代、ePrice、Stuff等媒體供稿或撰寫特稿內容,喜歡研究別人不懂的黑科技、把玩各種3C產品,是果粉也是G粉。

發表迴響