廣告

終端、雲端連接更快 Qualcomm強調5G網路將能驅動更大人工智慧應用

在上週於舊金山舉辦的AI Open Day活動中,Qualcomm分別宣布推出針對雲端運算加速應用的Cloud AI 100系列處理器,並且推出三款整合Snapdragon AIE人工智慧引擎等應用的終端處理器Snapdragon 730、Snapdragon 730G與Snapdragon 665,而在兩種面向不同應用需求的處理器之間,則是藉由5G網路進行串接,讓整體人工智慧運算效益發揮到最大。

其實藉由網路串接終端與雲端之間的運算模式,早已發生在現行的4G聯網應用,只是藉由5G網路傳輸可以實現更大資料傳輸頻寬、更低延遲表現,讓終端裝置上的人工智慧運算可以更快與雲端連接,而雲端上的人工智慧運算結果也能更快回傳到終端裝置上呈現。

雖然過往處理器始終在運算效能進行提升,甚至融合人工智慧技術應用,讓終端裝置可以有更快感知運算能力,但受限於電池續航、裝置尺寸等條件,終端裝置運算效能即便再高,依然會有其侷限性,因此更多巨量運算會透過雲端作為輔助,諸如亞馬遜、微軟、Google等雲端運算服務便是以此想法建立,透過雲端運算資源彌補終端裝置運算效能不足之處。

而透過5G連網技術將終端與雲端運算串接,則可進一步提昇整體人工智慧運算效能,同時也能讓終端裝置端的人工智慧運算應用表現更加多元,並且確保終端裝置長時間續航運作表現。

不過,一旦將更大運算效能交給雲端,意味在數據中心端的運算所產生電力損耗、熱能將會造成更大運作成本、環境等影響,因此相比NVIDIA、AMD、Intel在內廠商分別藉由顯示卡或FPGA形式進行雲端運算加速,Google雖然透過旗下TPU以更低功耗發揮更高運算效能,但主要還是僅能針對TensorFlow框架設計應用內容加速,使得整體應用多少會受到限制。

Qualcomm針對雲端運算加速應用打造的Cloud AI 100系列處理器,相比FPGA架構處理器搭配GPU的推算能力則約提昇10倍左右,整體運算效能約可達100 TOPs (每秒兆次運算),峰值運算表現約可達350 TOPs,分別為Snapdragon 855或Snapdragon 820的3至50倍,同時也具備Arm架構處理器低耗電運作、可嵌入使用特性,以及支援ONNX、Glow、XLA,以及包含TensorFlow、PyTorch、Keras、MXNet、PaddlePaddle等市面常見學習框架,將可對應更多元領域場景,並且降低數據中心運作過程所造成電力損耗、熱能增加等影響。

同時,Qualcomm也持續提昇終端裝置的運算效能與人工智慧技術應用,例如去年宣布推出的Snapdragon 855、Snapdragon 8cx均導入更高效能與人工智慧運算能力,而不久前在AI Open Day活動上推出的Snapdragon 730、Snapdragon 730G與Snapdragon 665也陸續加入更高運算效能、應用場景,以及更多人工智慧技術應用,同時藉由5G連網將終端運算與雲端運算串接,讓人工智慧運算可以在終端及雲端之間無縫銜接,進而可讓人工智慧應用彈性更大,並且不具侷限性。

以Qualcomm過去以來持續著重連接應用發展,預期藉由5G連網技術實現端到端之間的人工智慧應用連接,並且以低延遲形式提供更快運算效率,進而可在終端裝置、雲端平台之間驅動更大運算規模。

廣告

發表迴響

%d 位部落客按了讚: