- Advertisement -
首頁 標籤 全面運算

全面運算

- Advertisment -

Arm分享AI時代的Total Compute大策略

Arm IP產品事業群總裁Rene Haas發表「全面運算引領AI成長」主題演說。探討AI運算在各個市場所面臨的複雜挑戰,以及Total Compute解決方案為何能夠同時滿足AI效能提升與應用開發的需求。 Rene 一開始即指出一個重大趨勢:AI核心平台邁向異質化時代。現在的智慧型手機已經內建許多人工智慧和機器學習(ML)的基礎功能,包括即時影像擷取、人臉辨識等,但在全球將近四十億只的智慧型手機中,目前約有85%的手機還是將機器學習的工作負載交由CPU或者CPU + GPU (圖形處理器) 執行的。 而根據Arm對AI處理器工作負載的研究,為達成更佳的應用效能和使用體驗,發揮AI和ML的優勢,未來智慧型裝置的AI運算核心,將以CPU為中心,再整合運用GPU、NPU (類神經網路處理器)、DPU (資料流處理器)、FPGA (現場可編程邏輯閘陣列)等運算資源。 從產業轉型方面來看,不論是自動駕駛、5G引爆的邊緣伺服器需求、AI型穿戴裝置和虛擬實境 (VR)、擴增實境 (AR)、高畫質遊戲體驗、5G 智慧手機等,都帶來超高的運算效能與智慧功能要求。此外,安全也是一項極大的考驗,前述各種市場領域的設備與裝置,都儲存了大量的個人資訊,沒有人希望竊取個人機密資料的事件再次發生。 Rene指出,這些大規模運算流程、跨處理元件的運用、安全保護要求,以及特定領域運算 vs 通用運算等,都將讓應用開發變得越來越困難且成本越來越高,市面上太多不同軟體的選擇,造成開發人員/生態系統碎片化的擴大,增加了推動裝置AI化的困難。 針對上述的AI運算與體驗挑戰,Arm提供從系統整體出發,結合硬體IP (矽智財)、軟體架構和最佳化工具,一次解決未來運算複雜性的「全面運算」(Total Compute)解決方案。 一方面,Total Compute解決方案能以CPU為任務控制核心,再透過System IP確保AI運算的工作負載能達到最佳分配。例如影像搜尋作業由NPU執行,將比CPU更快、更有效率。再加上 Arm 的GPU、ML 處理器、顯示處理器、Arm...
0
- Advertisement -
- Advertisement -

最新文章

- Advertisement -

熱門文章

- Advertisement -

編輯推薦

- Advertisement -