VWW
晶心偕同Deeplite推生活應用深度學習模型
晶心科技與新創公司Deeplite日前宣布將攜手合作,在基於AndeStar V5架構的晶心RISC-V CPU核心上配置高度優化的深度學習模型,使AI深度學習模型變得更輕巧、快速和節能。
晶心科技技術長暨執行副總蘇泓萌博士表示,發現越來越多的行業需要在該公司具有DSP指令的RISC-V核心如A25和D25F上運行嵌入式、優化的深度學習模型以加速深度學習演算,Deeplite提供一個可以在晶心內部使用的解決方案,同時也可以讓客戶將在晶心RISC-V CPU核心上的深度學習演算法,運用至資源有限的邊緣裝置。
近年來,諸如支援人工智慧(AI)的家庭助理等智慧裝置如雨後春筍般普及,為將極精簡的深度學習模型應用至日常生活提供了理想平台。為追求低功耗和低計算資源且有效運行,智慧裝置必須易於使用並能實時回應使用者請求。如今,因應複雜的AI模型計算和功耗需求,大多數智慧裝置必須將用戶數據和需求發送至雲端執行AI處理,再將結果傳回智慧裝置。
Deeplite的CEO Nick Romano表示,對於這次合作感到非常興奮,Deeplite不僅在最小精度的影響下提供高達69倍深度學習模型的最佳化,也自動化以前費時又容易出錯的人工的神經網路架構設計。過去需要花費數週反覆測試才能完成的工作,現在可以在幾個小時內自動完成。結合Deeplite的Lightweight Intelligence和晶心的CPU,使雙方更進一步將AI推廣於日常生活中。
晶心科技和Deeplite聯手推出解決方案,使諸如智慧家庭助理的人機互動界面可以在本地操作,且幾乎不需要連線至雲端;當智慧家庭助理通過小型攝像機偵測到人時,裝置將會自動喚醒。其目標為優化在第一個採用DSP SIMD ISA的商業RISC-V核心Andes A25和D25F上運行的深度學習模型,適用於低成本的AI邊緣運算應用。該團隊從在13MB大的VWW(Visual Wake Words)視覺喚醒關鍵詞數據集上訓練的MobileNet模型開始,使用Deeplite的硬體感知最佳化引擎,在精準度只降低1%的情況下,自動發現、訓練和運用小於188KB的新模型。
透過將Deeplite的最佳化技術與晶心的RISC-V CPU相結合,為如語音識別或人員偵測等所需的微控制器級記憶體及運算要求,原始設備廠商(OEM)和應用開發人員可以提供讓使用者可將數據保留在裝置上,亦同時仍能提供在世界各地真實環境下AI需有的實時且無縫響應等優勢。