AI
新思針對晶片設計開發AI應用
新思科技(Synopsys)近日推出「設計空間優化AI」(Design Space Optimization AI)—DSO.ai,第一個針對晶片設計而開發出的自主人工智慧應用。新思科技的DSO.ai解決方案受到AlphaZero的啟發,是一種具備人工智慧和推理的引擎,能在較大量的晶片設計解決方案中,尋找優化目標。DSO.ai徹底改變晶片設計,透過大量探索設計工作流程的可能選項同時自動執行後續決策,讓SoC團隊能以專家級的水準運作,並顯著提升整體產能。
三星電子晶圓代工設計平台開發執行副總裁Jaehong Park表示,新的矽晶技術不斷挑戰物理極限,而該公司的客戶也在尋求能實現創新產品的製造解決方案。在設計環境中,新思科技的DSO.ai有系統地找到優於先前功率/效能/空間(Power-performance-area; PPA)表現的良好解決方案。此外,DSO.ai能在短短三天內達成上述成果,而這在以前需要數名專家進行一個多月的實驗才能達成。這種AI導向的設計方法,讓客戶充分利用三星矽晶技術優勢,進行SoC晶片設計。
當前AI可以透過自然語言與人類互動、能辨識銀行詐騙並保護電腦網路安全、能駕車上路,也可以玩西洋棋和圍棋等智慧遊戲。同樣的,基於AI的晶片設計也擁有廣大的潛在解決方案空間(Space of Potential Solutions),其規模可以是圍棋遊戲的數兆倍。
搜尋這廣大空間是較費力的工作,通常需要花上數周的實驗,而且往往要靠過去的經驗值和不為外界所知的知識。晶片設計的工作流程通常會使用並產生萬億位元(Terabytes, TB)的高維度數據,這些數據在許多個別優化的數據孤島(Silo)中進行分區和分段;而為了建立最佳的設計流程方案(Design Recipe),工程師必須獲取大量而高速的運算數據,並在缺乏完整性的情況下,即刻做出複雜的分析與決策,而這往往導致決策疲勞(Decision Fatigue)和設計制約(Design constrain)。
在當今市場競爭異常激烈及嚴苛的矽晶製程要求下,一般的製程方案與最佳的製程方案造成的差異,可能是100MHz的效能、電池壽命時數以及數百萬美元的設計成本。
藉由實現廣大設計空間的自主性優化,新思科技的DSO.ai解決方案為搜尋最佳解決方案帶來革命性的創新。DSO.ai引擎能擷取晶片設計工具產生的大數據,並加以運用以探索搜尋空間,觀察設計如何隨時間變化並調整設計選擇、技術參數與工作流程,藉此引導探索過程朝多面向優化的目標發展。DSO.ai使用新思科技所研發的先進機器學習技術來進行大規模搜索,能即時地自主運作數萬個探索向量,同時獲取十億位元(Gigabytes, GB)的高速設計分析數據。
意法提升STM32微處理器性能 強化產品生態系統
意法半導體(ST)日前為STM32MP1系統微處理器(MPU)產品增加了新的授權合作夥伴和軟體功能,並顯著提升處理性能,將時脈速度增加至800MHz,軟體和650MHz產品相容。
Qt資深副總裁Petteri Holländer表示,Qt HMI工具包及其QML的GUI應用軟體可部署在STM32 MCU和STM32MP1平台上,在大幅降低開發成本的同時,加快客戶產品出貨週期。ST和Qt的可擴充工具套件可以輕鬆利用STM32MP1的硬體資源,尤其是3D硬體GPU加速器,為工業/物聯網應用帶來一個流暢的人機介面解決方案。
新STM32MP1 MPU搭載800MHz Arm Cortex-A7雙核心應用處理器和209MHz Cortex-M4處理器,具有優異的語音和音訊處理功能,解碼品質達到高解析度視訊級別,在神經網路和機器學習應用中,能夠帶來更強大的AI(人工智慧)功能,還能為Android系統提供更佳的使用者體驗。新產品整合運算及3D圖形加速器,兼具高效能即時控制和高整合度。
透過STM32MP1的靈活架構,新產品強化了程式碼安全保護功能,例如身分驗證安全啟動、客戶可使用一次性可程式熔絲,以及安全作業系統,意即可信賴執行環境(Open Portable Operating System Trusted Execution Environment, OP-TEE)。密鑰產生成器、數位簽章工具、STM32CubeProgrammer和硬體安全模組(STM32HSM)等整套安全工具,可將客戶的加密數據安全載入使用裝置。
OpenSTLinux Distribution為一個主線開源Linux作業系統,具備在應用處理器內核心上執行軟體所需的全部基本構件,幫助客戶加快開發週期,而現在又新增Android開發者軟體包和雲端運算的支援。意法半導體將繼續積極參與Linux社群研發,跟隨主線的策略。
AI邊緣催出記憶體市場需求 宜鼎2933/3200 DRAM點燃成長動能
AI技術所衍生的邊緣應用,持續在汽車電子、人工智慧、影音串流、智慧物聯等領域發酵,也逐漸成為備受矚目的趨勢。市場預估,2018年至2022年全球邊緣運算相關市場規模的年複合成長率(CAGR)將超過30%,強大的運算與儲存需求也將同步推升全球記憶體市場,而隨著新興應用產能的排擠效應,加上供給面的持續短缺,都將成全球DRAM繼續上漲的重要推手。
需求持續看漲,宜鼎(Innodisk)3200 DDR4成功導入AI邊際語音應用。宜鼎全球記憶體事業部副總張偉民表示,宜鼎長期專注於工業用DRAM產品,並在全球DRAM市場排名前十大的重要地位。隨著2020年AI邊際應用持續看漲,市場需求預估也將一路延續,而看好AI邊際應用所帶來的商機,宜鼎自去年即率先推出的工業等級記憶體3200 DDR4全系列產品,近期也已經應用於AI邊際語音產品中,對於相關AI應用的崛起早已做好萬全準備。
宜鼎預測,面對網通與5G興起的龐大市場需求,市場仍引頸期盼Intel 3200 CPU加速推出,因此現階段市場更看好2933需求崛起。宜鼎2933/3200 DRAM 全系列產品規格齊全,工業級記憶體包含UDIMM、SODIMM、RDIMM、ECC UDIMM與ECC SODIMM等,除8G,16G常見規格,連近期需求量大增的4G特殊小容量也即將推出。
此外,宜鼎2933/3200 DRAM全系列採用高等級原廠DRAM IC,產品皆經過嚴謹測試,並配合寬溫、抗硫化技術。採用宜鼎工業級記憶體,將可為戶外嚴苛環境運作的AI邊緣裝置,提供較佳效能與防護。
Google開源框架加速AI訓練 最高節省80%成本
近日Google研究人員發表一篇說明SEED RL框架的文章,該架構可將人工智慧(AI)模型的訓練擴及數千個機器。並且促進每個機器達到每秒訓練數百萬個框架的速度,同時減少80%的成本,可望為過去無法與大型AI實驗室競爭的新創公司帶來平等的發展機會。
圖 近日Google研究人員發表一篇說明SEED RL框架的文章。來源:Google AI
在雲端進行複雜的機器學習非常昂貴。華盛頓大學曾經為了訓練用來製作/辨別假新聞的AI模型Grover,在兩週內花費了25,000美元。人工智慧研究組織OpenAI每小時支付256美元來訓練語言模型GPT-2,而Google支出大約6912美元訓練雙向轉換器模型BERT,用以重新定義11種自然語言處理任務的最新狀況。
SEED RL建構在Google的TensorFlow 2.0框架之中,透過集中模型使用圖形卡與張量處理器(tensor processing units, TPU)。為了避免遇到數據傳輸瓶頸,其使用分散式推論(distributed inference)訓練模型的學習元件,集中執行AI推論。目標模型的變量和狀態資訊保留在原本的位置,而每個步驟的觀察結果則會回傳給學習者,並且基於開源的通用RPC框架網路庫,維持在延遲最低的狀況。
為了評估SEED RL,研究團隊在常見的Arcade環境,以及DeepMind實驗室/Google Research Football三種環境中進行基準測試。團隊表示,他們解決了在Google Research Football中未解決的任務,並透過64個雲端TPU核心,達到每秒240萬幀的處理速度,此成果是目前最先進的分散式代理人機制的80倍。
貿澤2019年2月新品集錦
貿澤電子(Mouser)身為原廠授權代理商,致力於快速推出新產品與新技術,為客戶提供優勢,協助加快產品上市速度。受到超過800間半導體及電子元件製造商的信賴,幫助他們將新產品賣到全世界,貿澤為客戶提供100%通過認證的原廠產品,且能完整追溯至產品的各個製造商。
貿澤在2020年2月發表超過460項新產品,且這些產品均可在訂單確認後當天出貨。
貿澤2020年2月發表的部分產品包括Texas Instruments UCC12050隔離式DC-DC轉換器,TI UCC12050 DC-DC轉換器提供5 kVRMS強化隔離,並具備低EMI和高效率;Arduino Nano 33 BLE Sense是一款尺寸45×18mm,可啟用AI功能的開發板,其搭載Nordic nRF52840 SoC,提供Bluetooth低功耗功能和一系列的嵌入式感測器。
同時亦推出TE Connectivity PCIe Gen 4直接插入連接器,TE PCIe Gen 4直接插入連接器符合業界的PCI-SIG Card Electromechanical(CEM)4.0規格,支援最高16Gbps頻寬;此外,亦包含Murata Electronics汽車資訊娛樂產品,貿澤電子供應多樣化的Murata Electronics汽車資訊娛樂產品,如適用於車內資訊娛樂(IVI)、導航及電子節氣門控制(ETC)的高可靠性產品。
破解四大迷思 5G跨界發現新大陸
2020年2月,隨著台灣兩個階段的5G頻譜競標作業底定,也意味著台灣將正式進入5G元年。事實上,最近兩年以來,5G就一直是科技媒體、論壇、展會、新創圈最熱門的主題之一,不管與5G的關聯性有多高,業界似乎都希望藉由5G議題的高關注度來吸引注意。不過,與其盲目地蹭5G、跟流行,不如好好思考如何善用5G,發揮真正的優勢。
5G只是比4G更快?
許多對5G一知半解的人,經常說5G就是比4G更快的新一代行動通訊技術。這句話其實只講對了一部分,總結來說,5G技術有三大特色:高頻寬、低時延、大連結。所謂的高頻寬,指的是5G傳輸速率比4G提升10~100倍,達到1Gbps以上;另外低延遲是指5G的時間延遲比4G減少10分之1以上,達到0.001秒;大連結則是指每平方公里可支援上百萬個裝置。
因此,如果拿5G跟4G相比,除了速度更快之外,很重要的差異有兩個:第一是時延更低、幾乎達到同步,這樣就能達到一些過去4G較難做到的事,例如遠端開刀,醫生不會因為影像延遲而影響用刀的精準度,自駕車也不會因為時延太長而影響車聯車(Vehicle to Vehicle, V2V)通訊,可大幅加快反應速度;第二是可同時支援的裝置更多,得以串連非常多的物聯網裝置,包括所有的家電、水表/電表、汽車、路燈、監視器、工業機台都能聯網,真正實現萬物聯網的目標。
從這個角度出發,如果業者要發展5G的相關應用,就不應該只是關注速度更快這件事,而是可以思考如何發揮更低時延、更多連結的特點,從智慧醫療、工業4.0、智慧城市、車聯網、物聯網等方向去探索創新的商業模式,如此能夠擁有跳脫現有4G網路基礎建設之下競爭格局的機會(圖1)。
圖1 5G關鍵技術及應用場景
5G的焦點還是手機?
在5G主題的成功案例或應用場景中,最常見到的大概就是球場的5G VR/AR互動體驗、明星5G直播陪伴等消費性應用,儘管這樣的畫面對民眾而言比較有感,也更容易掌握5G的技術特性,但不免讓消費者或業者有種誤解—5G還是聚焦在手機的應用。
如果回顧行動通訊技術,從2G、3G、4G一路到5G的演化歷程,人們可能有注意到,過去2G到4G幾乎都是以手機應用為主,讓消費者的溝通方式從語音、文字影像到視訊,並且實現隨時隨地高速上網的目標;但進入5G世代後,將從人與人的連結邁向萬物聯網的願景,包括人與物、物與物之間的通訊將日益緊密,焦點絕對不會只有傳統的手機及平板電腦。
以此觀察,5G在各種垂直產業的應用,將更具潛力、且有更高附加價值的切入點。舉例來說,5G在車聯網的應用就相當受到矚目,一旦具備高頻寬及低延遲的5G聯網能力,就可實現車聯車、車聯基礎設施(V2I)、車聯行人(V2P)等V2X(Vehicle to Everything)應用,不僅可快速下載圖資及掌握即時路況,車用多媒體娛樂系統也將大幅升級,並可從車聯網延伸到智慧交通和智慧城市等領域。
台灣大哥大總經理林之晨就認為,5G的發展歷程將有三個階段—2019~2020年將以影音串流、VR/AR內容及雲端遊戲等娛樂應用為主;2020~2022年開始出現緊急醫療、無人機運輸、工業安全、智慧製造等專屬網路產業應用;2022年之後則將邁向智慧城市、智慧交通、智慧電網、智慧機器人等巨量聯網應用(圖2)。
圖2 5G裝置成長圖
電信業者仍是老大?
從4G時代開始,業界就一直在討論電信業者的角色轉變,已經不能再當「笨水管」(Dumb Pipe),而是要積極轉型,發展多元型態的內容、產品及服務,尤其是5G商業化之後,更要結合大數據、人工智慧、物聯網等技術,在消費市場以外拓展更多的應用版圖及商業模式。
儘管電信業者仍掌握核心的基礎建設及行動通訊服務,但可以預期的是,為了讓各種垂直產業的場景落地實現,電信業者勢必得擺脫過去的老大心態,尋求與不同產業進行跨界合作與業務融合,包括媒體、娛樂、公用事業、金融、醫療、交通、教育、農業等產業在內;但以公司規模及產業生態來說,電信業者如何放下身段,尊重或倚重不同業別的領域知識、通路、分潤模式,確實還需要不少磨合。
儘管5G的產業應用可能不會像一般消費市場發展那麼迅速,但電信業者已注意到相關商機,也開始吸納更多元專長的人才(圖3)。遠傳電信總經理井琪就曾表示,迎向5G新世代,遠傳將超越傳統電信商角色,轉型為數位服務提供者,組織人才不僅要擁有基礎資訊工程知識,還要具備多方面的斜槓技能,才能跟上這一波的數位轉型,例如之前派遣許多員工前往越南,協助織布廠進行智慧驗布,透過5G服務為傳統產業進行升級。
圖3 不同行動通訊技術之預估用戶分布圖
5G是神科技?
在部分業者勾勒的5G願景中,一般民眾的生活及各行各業都會帶來很大的變革,把5G描繪成一種神科技,似乎期待5G能帶來劃時代的突破;但其實光是5G技術並無法完整實現這些美好想像,必須搭配人工智慧(AI)、邊緣運算(Edge Computing)一起發力,才可能真正改變科技世界甚至人類的生活樣貌。
高通(Qualcomm)副總裁暨台灣與東南亞區總裁劉思泰就表示,5G與AI密不可分,未來終端產品將變得更加聰明與多元,且在邊緣運算的網路架構下,可以提供過去做不到的智慧應用服務,無論效能、隱私、安全都會提升,網路傳輸也會更有效率。根據高通預估,2018年具有AI功能的終端裝置只有10%,但到了2025年將會達到100%。
舉例來說,在智慧醫療應用方面,5G固然可以實現遠距醫療、居家照護等服務,例如藉由5G高速傳輸4K現場影像及零時差生理數據,並在遠端進行手術教學,但還必須搭配AI影像辨識、邊緣運算、室內精準定位等技術,才能完整實現智慧急診室、智慧開刀房的場景。
又如VR/AR的產業應用,也有賴5G與AI的整合,在深山峻嶺或其他危險地區,可透過5G無人機基地台傳輸訊號,透過AR來引導現場工作者進行危機處理;在機場、車站、球場等大型場域,如要提供VR/AR廣告或其他服務,光有大頻寬的5G網路還不夠,還需要AI電腦視覺、空間感知、室內定位導航等技術的配合,才可能創造全新的虛實整合場景體驗。
Mythic採用Mentor平台設計AI處理器
Mentor近日宣布人工智慧(AI)處理器公司Mythic已在Mentor的Analog FastSPICE平台上為其自訂電路驗證與元件雜訊分析進行了標準化作業。此外,Mythic已選用Mentor的Symphony混合訊號平台來驗證其智慧處理器(IPU)中整合類比和數位的邏輯功能。
Mythic公司工程副總裁Ty Garibay表示,Mythic IPU利用類比運算來執行快閃記憶體陣列中深度神經網路(DNN)推論所需的計算。因此需要以較高的準確度規格來模擬數千個類比數位轉換器(ADC)。該公司選擇Mentor的Analog FastSPICE平台,是因為與其他的解決方案相比,它可提供奈米級的SPICE準確結果,以及5倍的生產力提升。此外,全光譜元件雜訊分析則展現了與量測矽晶結果之間有出色的相關性。Symphony混合訊號平台可擴展驗證覆蓋範圍,把IPU中的類比─數位介面涵蓋在內。
Mentor的Analog FastSPICE平台可為奈米類比、射頻(RF)、混合訊號、記憶體和自訂數位電路提供電路驗證。該平台已通過晶圓代工廠的5奈米製程驗證,與平行式SPICE模擬器相比,能以兩倍的速度提供奈米級的SPICE準確度。為了確保矽晶級準度的Characterization,該平台包括全面的全頻譜元件雜訊分析。Mentor的Symphony混合訊號平台是由Analog FastSPICE解決方案提供支援,能以業界標準的HDL模擬器提供快速、準確的混合訊號驗證,並具備直覺式的使用模型、強大的除錯功能以及配置支援,以為複雜的奈米級混合訊號積體電路(IC)提供驗證。
美國占世界過半量子專利 他國仍有競爭機會
量子電腦是未來人工智慧(AI)的運算平台,而各國的量子專利數量可以反映該國在此領域的研發能力。根據光電協進會(PIDA)分析2019年的專利數,美國以110件保有領先地位,占世界量子專利數的52%,位居第二的中國僅有50件。另外,從申請歷史與總數來看,加拿大廠商D-Wave的實力也不容小覷。
圖 加拿大廠商D-Wave。圖片來源:D-Wave
量子電腦可處理急劇增長的數據,同時被視為終極運算工具與未來AI的運算平台,依據日本經濟新聞調查,美國仍是此領域的領頭羊。pida指出,2019年的量子專利中,美國即占全世界申請數的52%,達110件。相較之下,排名第二的中國只有美國申請量的一半(50件),顯示美國的電子專利幾乎等於世界他國申請量的總和。
就公司的專利申請歷史與總數來看,加拿大的D-Wave是世界上第一家成功將量子電腦商業化的廠商,過去D-Wave的量子電腦專注於優化,例如選擇最短的商業路線以及創建飛機和火車的時間表,但近期發展落後於Google及IBM。
Google在量子電腦的技術發展,從2013年向D-Wave購買量子計算機後開始全力發展。2014年加州大學聖塔芭芭拉分校的John Martinis教授等人加入Google團隊,並著手開發商用的量子電腦,自此Google的研究逐漸超前。
目前Google量子計算雖已達到53個量子位元,但實際使用時還需要增加100或1000倍,技術仍有大幅進步空間,其他廠商如IBM已經透過雲端提供通用量子計算服務。日本方面,NEC則宣布對D-Wave投資1000萬美元,兩家公司將聯合開發軟體,力圖與Google競爭。
安提國際2020 Embedded World秀GPU方案加速AIOT創新
GPGPU和邊緣AI運算解決方案供應商安提國際(Aetina)於2020年度德國紐倫堡Embedded World展會展示全套的人工智慧運算解方,和物聯網中的智慧操作案例。
在2020年的Embedded World,安提的展會攤位展出一個巨大的平台,展示三隻機器人,這是專屬於SparkBot的展示區域。首先在展台的後半部,以倉儲工廠作為背景,安提TX2機器人Line和Nano機器人Dot所負責的區塊。Line以安提TX2-AN310平台打造,能夠接收肢體動作的指示,並依照指令移動、夾取特定物件;Dot則是以Nano-AN110平台打造,負責入口處的安防控制,以人臉辨識的演算法來進行人員進出的黑、白名單,同時機器人上安裝有環境監測感測器,可以實時掌控工廠內的空氣品質。再來,展台前方區塊則規畫有戶外意象的道路規畫,展示安提Xavier機器人Surface。Surface機器人以安提Xavier-AX710平台打造,並搭配三個4K相機,以自動車為概念並設定為物流車,可以自動行走在展台上,偵測環境事物外,遇到停止指示亦會暫停移動。三隻機器人皆透過5G無線通訊解決方案連結至後台iCAP雲端監控系統,有效提供實時的裝置監測,並達到良好的邊緣裝置管理。
此外,不僅有Jetson平台的展示,安提國際也設置GPGPU相關解決方案的展示區域。其中包括PCIe工業用顯示卡系列、嵌入式MXM繪圖模組,無不展現出它們高效能的圖形運算能力。未來針對GPGPU解決方案,安提國際將持續升級其運算效能,為開發者提供更高效能的產品外,也根據Nvidia開發的腳步,逐步推出持續進步的加速工具。
即時/安全/可靠 邊緣運算執行高效機器學習
舉例來說,如ILSVRC影像分類競賽(圖1),在這場競賽中即是使用一種稱為機器學習(ML)的人工智慧─AlexNet早在2012年就贏得這場競賽,成為第一個使用深度神經網路和GPU來進行訓練的模型;而ResNet-152在2015年的影像分類競賽中亦擊敗人類。
圖1 影像分類中機器與人類的比較
電腦優於人類的其他範例還包含遊戲,表1中的範例是機器擊敗人類冠軍以及人類仍較優秀的非競賽情境。
機器學習無疑為智慧家庭、智慧零售、智慧工廠和智慧城市之類的應用情境帶來全新美好的必要功能,且現今各種企業都能利用這項技術。運用此技術的相關機器學習雲端服務供應商有亞馬遜(Amazon) AWS、SageMaker、微軟(Microsoft) Azure ML和Google Cloud ML,而這類機器學習雲端服務的成長都極為驚人。
邊緣執行ML流程簡化
直到最近,因為推出各種運算和儲存資源,機器學習的重心都集中在執行大量集中式電腦中心的雲端,其快速移轉至邊緣有以下幾個原因:
.雲端處理、儲存空間與頻寬的成本無法將資料傳送到雲端,以執行人工智慧功能的決策。
.較完善的使用者體驗需要在邊緣進行快速的人工智慧功能決策。
.隱私權和安全性考量會限制在雲端中儲存的資料類型。
.提升可靠性。
以上這些因素讓邊緣無庸置疑成為機器學習處理許多應用的顯著位置。這也是半導體廠商推出運用專屬高效能機器學習加速器之應用處理器的原因之一,像恩智浦(NXP)的i.MX 8M Plus使用14nm FinFET製程技術,提供高效能與低功耗,並具備雙鏡頭ISP在內的各種新功能,可支援兩個低成本的HD相機感測器或一個4K相機感測器,以執行臉部、物件和手勢辨識的機器學習任務。其中也整合獨立800MHz Cortex-M7來支援即時任務與低功率、H.265和H.264的影片編碼和解碼、800MHz HiFi4 DSP,以及用於語音辨識的8PDM麥克風接口。工業物聯網功能包含Gigabit乙太網路與時效性網路(TSN)、兩個CAN-FD介面和ECC。
另一方面,資料科學家正為在邊緣上部署的資源限制裝置最佳化特定演算法,進而協助加速移轉到邊緣。MobileNet是由Google開發的影像分類演算法,著重在高準確度,同時又能大幅減少所需的運算資源數量。圖2中顯示處理過程中大幅減少的趨勢。從VGG-16模型到MobileNet v2模型的轉變讓在邊緣所需的運算數量減少50倍,協助在邊緣的資源限制硬體解決方案,執行複雜的機器學習處理。
圖2 針對邊緣最佳化的NN演算法
同樣地,使用行動電話在邊緣執行MobileNet v1比起在雲端中執行MobileNet v1的速度明顯更快,此差異的成因是將雲端網路延遲降到最低,而網路往返延遲的新增範圍可以輕易橫跨200毫秒到超過1.4秒(大幅延遲回應時間)。該演算法的目標是達低於100毫秒的回應,以即時向使用者顯示(圖3)。
圖3 在邊緣更快速的使用者體驗
以下是i.MX 8M Plus支援的應用程式,這些應用程式會在邊緣執行機器學習。如圖4所示,這些使用案例都需要特定層級的效能來判斷需要哪種層級的執行硬體。這就是應用處理器須具備專屬機器學習加速器的主因。
圖4 機器學習使用案例
因為上述原因,便可較易理解為何要在邊緣執行機器學習應用。然而,必須符合幾個額外需求才能順利完成部署:
・機器學習開發人員的生態系統─讓實作變得簡單。
・硬體安全性─保證隱私權與安全性。
・全新、創新的混合SoC架構─提供符合成本效益的解決方案。
・可擴充和安全的邊緣部署─讓部署變得容易。
打造適用於機器學習部署的全面性生態系統
機器學習應用的重大突破需要結合設計與部署的生態系統來負責處理任務,這也是半導體業者打造創新邊緣智慧工具環境的原因,以恩智浦eIQ為例,該工具支援各種機器學習處理元件,包含Arm Cortex-A和Cortex-M處理器、圖形處理器(GPU)、DSP和機器學習加速器。eIQ機器學習軟體環境包含推論引擎和程式庫,兩者皆利用開放原始碼機器學習技術中的改善技術,像是TensorFlow Lite、OpenCV、CMSIS-NN和Arm NN;而針對較熱門的i.MX RT應用處理器,則透過適用於MCUXpresso和Yocto(Linux)的開發環境進行評估,為應用開發過程提供順暢的支援;在物件偵測和語音辨識中的範例應用程式中會隨附eIQ軟體,作為邊緣機器學習的起點(圖5)。
圖5 eIQ機器學習開發環境
確保邊緣安全性
邊緣的安全性至關重要,其所需的功能包含安全啟動信賴起點、晶片內建加密、安全布建、相互裝置驗證、安全裝置管理、OTA或無線安全更新與生命週期管理。為了支援這樣的安全性,半導體業者打造了可擴充的EdgeLock組合,其中包含安全元件、安全驗證器和應用處理器的嵌入式安全以及MCU。像是i.MX 8M Plus具備進階EdgeLock嵌入式安全系統(含資源網域控制器、信任區、HAB、加密啟動、使用RSA的公開金鑰加密與橢圓曲線演算法),其可為邊緣節點提供完整性、驗證確實性和隱私,並提供從邊緣到閘道和雲端的安全性。
AI/ML領域更迭不斷 加速人們生活便利性
人工智慧領域的變化步調正逐漸加快。如圖6來自「2018年人工智慧指數」和Monster.com所示的圖表呈現深度學習職缺方面的趨勢。
圖6 2015~2017年所需人工智慧技能的職缺成長
至於圖7則顯示在公司盈餘會議中提到人工智慧和機器學習的次數。
圖7 2007~2017年公司盈餘會議提到次數-IT公司
人工智慧與機器學習為電腦產業中帶來劇烈的改變,這樣的改變可使人們的生活更便利完善。新應用處理器如i.MX 8M...