神經網路
- Advertisment -
Maxim推神經網路加速器晶片 於電池供電設備實現IoT人工智慧
Maxim宣布推出帶有神經網路加速器的MAX78000低功耗微控制器，支援電池供電的嵌入式物聯網(IoT)設備在邊緣透過快速、低功耗人工智慧(AI)推理來制定複雜決策。與軟體方案相比，這種快速、低功耗的決策實施使得複雜的AI推理能耗降低到前期方案的百分之一以內，採用AI技術的電池供電系統可大幅延長其執行時間，有助於實現之前無法逾越的新一代電池供電AI應用。此外，MAX78000並沒有影響延遲指標和成本：其成本只是FPGA或GPU方案的零頭，而執行推理的速度比低功耗微控制器上實施的軟體方案快100倍。
AI技術使機器能夠以之前完全不可能的方式來觀察、聆聽和感知世界。過去，將AI推理布置到邊緣意謂著從感測器、相機和麥克風收集資料，然後將資料發送到雲端實現推理演算法，再將結果送回到邊緣。由於延遲和能耗較大，這種架構對於邊緣普及極具挑戰。作為替代方案，低功耗微控制器可用於實施簡單的神經網路運算，但延遲會受到影響，且只能在邊緣執行簡單任務。
透過整合專用的神經網路加速器，MAX78000克服了這些局限性，憑藉在本地以低功耗即時執行AI處理，使機器能夠看到和聽到複雜的型態。由於MAX78000執行推理的功耗不到微控制器軟體運行功耗的百分之一，大幅提高了機器視覺、語音和臉部識別等應用的工作效率。MAX78000的核心是專用硬體，其設計旨在最大程度地降低卷積神經網路(CNN)的能耗和延遲。該硬體運行時幾乎不需要任何微控制器的介入，意味著操作的流線化程度極高。能量和時間僅用於實施CNN的數學運算。為了將外部世界的採集資料高效輸入到CNN引擎，使用者可使用兩種整合微控制器核之一：低功耗ARM Cortex-M4 核心，或功耗更低的RISC-V核心。
有鑑於AI開發的挑戰性，Maxim Integrated提供了工具，實現平穩的評估和開發體驗。MAX78000EVKIT#包括音訊和相機輸入，開箱即用的展示平台支援大字表關鍵字檢索和臉部識別。完備的文件可協助工程師訓練MAX78000網路，且採用其日常使用的工具：TensorFlow或PyTorch。
恩智浦發表Glow神經網路編譯器 實現邊緣機器學習
恩智浦半導體(NXP)宣布eIQ機器學習(ML)軟體對Glow神經網路(Neural Network, NN)編譯器的支援功能，針對恩智浦的i.MX RT跨界微控制器，帶來能夠實現占用較低記憶體並提供更高效能的神經網路編譯器應用。Glow編譯器由Facebook開發，能夠整合特定目標的最佳化，恩智浦利用這種能力，使用適用於Arm Cortex-M核心和Cadence Tensilica HiFi 4 DSP的神經網路運算元庫(NN Operator Libraries)，最大程度地提升i.MX RT685以及i.MX RT1050和RT1060的推論效能。此外，此功能已整合至恩智浦的eIQ機器學習軟體開發環境中，於恩智浦的MCUXpresso軟體開發套件(Software Development Kit, SDK)中免費提供。
2018年5月，率先開發PyTorch的Facebook導入Glow(Graph Lowering神經網路編譯器)，作為開源社區(Open Source Community)專案，其目的是藉由最佳化提高一系列硬體平台上的神經網路效能。作為神經網路編譯器，Glow能在尚未最佳化的神經網路的基礎上，生成高度最佳化的代碼。此特點有別於典型的神經網路模型處理(Neural Network Model Processing)，後者採用即時編譯，因此需要更高的效能，並增加記憶體消耗。像Glow這樣直接運作最佳化的代碼可以顯著降低處理與記憶體要求。恩智浦也在Glow開源社區中扮演著積極角色，幫助推廣和普及Glow的新功能。
恩智浦針對機器學習的邊緣智慧環境解決方案是一個全面的工具包(Toolkit)，提供開發人員需要的建構模組，幫助他們高效地在邊緣裝置中實現機器學習。Glow整合到eIQ軟體後，機器學習開發人員將擁有全面的高效能框架，可在包含i.MX RT跨界微控制器和i.MX 8應用處理器在內的恩智浦邊緣處理解決方案上進行擴展。客戶擁有更強大的工具，能夠在i.MX...
三向直搗技術/智慧應用難關 聊天機器人起腳射門
時至今日，全球各地，從制定相關決策的政府機關，大型上市公司與夾縫求生存的中小企業，無一不提出數位轉型、扶植新創、組織創意轉型等方向。而此篇文章將試圖探討在現今的技術條件與市場期待心理下，是否能夠因為使用新技術、或者開闢新賽道進行聊天機器人的市場突圍？
聊天機器人無法滿足使用者期待
科技的快速發展來自人追求快速、方便的本性，但人類的想法與思緒十分複雜，因此聊天機器人難以全面滿足使用者的需求。回想日常生活的溝通情境，當人們在日常溝通的時候，除了說出口的字句，對方的肢體動作與眼神有沒有影響到自身的判斷？讀者是否會自行腦補一些情境？尤其跟老闆、同事或下屬進行具目的性的談判對話時，語句之外的線索顯得更重要。
聊天機器人不夠聰明的原因，是它距離人類多模態交互的能力還很遙遠。現今最普遍和流行的生活應用，當屬智慧音箱(如Amazon的Echo)，一般人在買回去的當下充滿興奮感，嘗試各種指令來挑戰智慧音箱的極限後，就將它放置在屋裡的某一角落，成為一個可有可無的家用品，無法實際融入使用者的生活情境中。即便仰賴大數據和人工智慧(AI)的相關技術持續更新，用戶體驗也漸入佳境，但仍缺乏具代表性的現象級App，無法滿足多數人的使用需求。另一方面，若人們嘗試降低自己對產品的期待，單純利用聊天機器人詢問明確的問題(如天氣)，請它做一件明確的事情(如播放音樂)，這樣的基本需求可以被滿足。
聊天機器人技術發展三向剖析
聊天機器人是一項技術整合的產物，其中牽涉的技術範圍有電腦視覺、自然語意、機器學習(Machine Learning, ML)與深度學習(Deep Learning, DL)等。本文根據市場調研機構Gartner所提供新興科技發展週期報告，來審視各個技術目前位處的位置、困境、與待解決的問題。
電腦視覺
電腦視覺(Computer Vision, CV)目前處於泡沫化的谷底階段，意即此技術無法滿足使用者的期待，導致大家對於它的創新了無興趣。CV從實驗室的前沿技術，到如今能夠聽懂人類的指令，花了整整半個多世紀，產生瞄準在新零售、醫療、工業製造和網路娛樂等應用的期待。然而，人工智慧情緒識別離開人類的干預，對複雜情感的理解和表達能力，仍須持續的技術突破。其中，利用AI判斷並理解實體環境的CV，不僅是辨識情緒的關鍵技術之一，也被公認為未來三至五年最重要的技術之一，不僅眾多新創企業投入，大企業也紛紛利用自己既有的優勢企圖先布局並搶占先機，現階段大約聚焦在下列4個發展方向：
1. 服務平台：提供機器學習開發工具和雲端服務的商業型平台，讓開發者毋需從頭自行建構。
2. 影音資料庫：利用海量資料進行機器學習的模型訓練，將使用者上傳的相片和影音資料，與個人特徵資訊進行連結，大量使用電腦視覺技術客製化廣告投放以增加營收。
3. 硬體製造：如NVIDIA、英特爾(Intel)的晶片製造。
4. 消費性產品：近期可期待者為手機人機互動的介面。
自然語意
自然語意(Natural Language Procession, NLP)與CV處於泡沫化谷底階段。自然語意發展分為兩大階段，一種是應用傳統的分詞執行自然語言處理，第二階段則是近年由於機器學習快速發展，大家開始應用機器學習執行NLP。透過NLP所能實現的功能包含神經機器翻譯(Neural Machine Translation)、智慧人機交互(就是所謂的聊天機器人，受限於技術，目前只能在特定場景實現多輪次的對話)、機器閱讀理解與機器創作。但如前言所述，現實狀況下，人與人當面溝通，仍會有語意上的誤解，在此情況下，如何期待科技可以奇蹟似地解決這一切？自然語言處理首先透過斷詞、理解詞，接下來是分析句子，包含語法和語義的自然解析這兩個步驟，再轉化為電腦容易處理與計算的形式。上述在處理時，需耗費大量的人力成本，除此之外，還牽涉建構者本身對於所屬領域的專業度、邏輯與理解能力(所謂的人工智慧訓練師)。此外，NLP毫無疑問的是一個未來巨大的市場，無論電腦視覺或是語音識別，想要實現更人性化的功能，就需要NLP的加持，同時可預期隨著NLP技術的不斷發展，將會逐漸呈現NLP、語音與視覺融合發展的趨勢。
機器學習/深度學習
機器學習與深度學習位處在過度期望的高峰階段，各方話題與議題熱度竄升。機器學習指的是可以從資料中歸納規則的方法，是第三波人工智慧發展的代表技術，而在眾多機器學習演算法中，深度學習則是近幾年成長最快，表現最好的技術。遺憾的是，截至目前為止，幾乎每個深度學習實踐者都認同的一件事是：深度學習模型數據效果有限。要實現真正的深度學習需要滿足下列三點，這三點可以協助讀者辨別此項技術到底是人工智慧還是科幻小說。
1. 大量的數據與活動：為了使神經網路能發現新的模型，就需要有大量的數據，這些數據可以透過反覆試驗來處理和分類。
2. 運算能力：假設已有一定量的有意義數據，則需要運算能力，所幸目前已有一系列更低成本的選擇，如微軟Azure等雲端託管服務。
3. 新的敏捷方法：最後，也是最重要的一點，需要採用新的敏捷方法思考和解決問題。
大型資料庫用於訓練精確模型的必要性已成為一個非常重要的問題，同時，需要低效的人工標注數據成為一個更大的挑戰。在當前的深度學習應用中，數據的問題無處不在，由於建基於大規模數據，當滿足所需環境和約束條件時，這些系統會產出令人驚豔的成果；但若不符合上述場景，它也可能完全失效。舉例來說，若有人試圖解決大量翻譯或無人駕駛的問題，則需花很長時間來思考重要數據中的所有因素，需先建構演算法，而在過程中有很高的失敗機率。雖說如此，深度學習和先進模型的興起仍是一次革命性的進步，加速了那些針對以前無法解決的問題之技術解決方案出現，在思維上邁出重要的一步。
聊天機器人短期內破局可能性具困難度
產業中的廠商若以業務角度分析，主要分為三類：
1. 2C公司：產品直接面對用戶，如Amazon的Echo，由於未能滿足人類對於AI的美好想像，距離規模化應用上有大段距離。
2. 2B公司：如金融領域的智慧監管系統、醫療領域的醫療問答和診斷助理等。但是實際效果仍牽涉上述自然語意建構的縝密度，與場景應用設計的順暢度而有不同。
3. 2G公司：為面向政府執行行政業務類的知識庫建構和問答業務，如政府服務大廳的引導型聊天機器人、一站式辦公機器人等。
從生態系統來看，聊天機器人可分為產品，框架(Framework)和平台三類；其中框架是為了加速產品的研發，以SDK或SAAS服務的型態，提供有市場敏感度，或創意點子的需求者可快速架構特定場景和領域的聊天機器人。
短期若要大規模地拓展市場，恐怕有一定的困難度，除非在上述的關鍵技術中突然有突破口，縱然如此，各式場景應用與垂直深化探索仍不斷地激起人們對未來的想像。相信未來的聊天機器人與虛擬生命，將會以更好的體驗和型態呈現在人們面前。
(本文作者任職於優拓資訊)
「贏向」AIoT時代大商機 RISC-V產業鏈力推共享/共榮
當產業進入PC與智慧手機之後的後手機時代，人工智慧(AI)與物聯網(IoT)結合的AIoT應用成為第三波科技發展浪潮，AIoT時代強調用高效能、低功耗嵌入式系統實現特定AI功能，而開放式指令集的新興嵌入式CPU架構RISC-V，可讓IC設計業者依照需要，增加專用指令集，正迅速在消費電子、通訊與物聯網、電腦運算與儲存、工業應用與影像監控等領域攻城掠地。
台灣RISC-V聯盟為讓相關產業深入瞭解嵌入式系統設計最新趨勢，邀集物聯網領域專家與代表廠商，從策略、技術跟實作等面向，分享RISC-V架構最新進展與市場動態，同時探討嵌入式系統業者如何面對AIoT多元、破碎、少量多樣的市場需求下，最佳的設計趨勢、實作對策與成功案例。
AIoT引領科技典範轉移
IoT帶領科技產業走向新世代，集邦科技董事長劉炯朗(圖1)觀察科技的發展趨勢，1960年代計算機網路崛起，網路在產業中扮演的角色越來越重要，從學術網路高等研究計劃署網路(Advanced Research Projects Agency Network, ARPAnet)到商業的網際網路(Internet)，開啟計算機互聯時代，然後發展到文件交換，再進展到社群網路蓬勃發展，個人行動網路興起，人與人透過網路連結成為常態，下一步將進展到萬物互聯的IoT時代。
圖1 集邦科技董事長劉炯朗認為，科技發展與偉大的研究或發明息息相關，歷屆的諾貝爾物理獎與圖靈獎便紀錄了科技發展的脈絡。
科技發展也與偉大的研究或發明息息相關，劉炯朗認為，歷屆的諾貝爾物理獎與圖靈獎紀錄了科技發展的脈絡，包括：電晶體(Transistor)、積體電路(Integrated Circuit)、光通訊、影像感測器、精簡指令集(Reduced Instruction Set Computing, RISC)、TCP/IP、全球資訊網(World Wide Web, WWW)、人工智慧(AI)、神經網路(Neural Networks)，一步步引領人類資訊科技的步伐。而在IoT世界，硬體架構應該更加開放與精簡，以便將複雜龐大的萬事萬物聯結起來。
開放/共享為RISC-V最大優勢
AIoT無疑是下一波產業的大浪潮，物聯網破碎化的特性，讓軟硬體架構醞釀新的典範轉移，芯原微電子董事長戴偉民(圖2)表示，PC時代的x86架構自主性低、不可控，軟硬體掌握在微軟與Intel手中；因此，行動通訊時代來臨時，訴求省電的RISC架構結合Android系統，以智慧手機為載體，帶領行動通訊時代的發展。物聯網更強調開放，於是從運算核心底層就更開放且架構更為精簡的RISC-V，成為各界看好的物聯網時代硬體主流。
圖2 芯原微電子董事長戴偉民表示，物聯網更強調開放，於是開放且架構更為精簡的RISC-V，成為各界看好的物聯網時代硬體主流。
Arm架構在過去發展的歷程中，建構了一個名為Linaro的產業推動聯盟，配合IBM、Google等大廠，投資大量的金錢和人力，讓Arm的軟硬體架構在聯盟的平台上獲得良好的發展。戴偉民直言，RISC-V產業鏈的完整性與豐富度現階段發展與Arm還有一段差距，希望可以仿造Linaro的模式，推動軟硬體平台與人才的發展。台灣與大陸在AIoT的趨勢之下，可以自身的優勢為基礎，進行緊密的合作，物聯網裝置與商機規模預期將遠大於PC或智慧手機，掌握物聯網的軟硬體架構核心，就能掌握AIoT的發展契機。
RISC-V 2013年發表之後，一直到2016年以後才受到產業矚目，戴偉民指出，其與x86、Arm架構並不存在取代與競爭的問題，透過合作甚至可以共用某些基本指令集，在多樣化的物聯網產業中發展更彈性且具高度成本效益的解決方案，未來RISC-V產業鏈將更加開放，並且強調研究成果共用，以共用推動產業與市場發展。而在中美貿易衝突的背景下，RISC-V本質是一套開放、免費的指令集，定義處理器軟硬體之間的介面規範，相當於一套開放標準。
精簡/開放架構聯結複雜IoT
IoT在Internet與Mobile Internet的基礎上發展，其規模也將更加龐大，而從雲端到邊緣終端，網路結構的複雜度大幅提升，晶心科技技術長蘇泓萌(圖3)說，物聯網是由數百億裝置聯結組成，雲端、霧端、邊緣終端都有各式各樣的平台、場域、應用與裝置，要能在這麼多不同的架構裡互聯互通，需要更開放的架構，RISC-V的基本指令只有四十多條，而且完全開放，透過這類精簡、開放的架構為基礎，才能將複雜的物聯網架構聯結。
圖3 晶心科技技術長蘇泓萌說，RISC-V的基本指令只有四十多條，而且完全開放，可以將複雜的物聯網架構進行良好的聯結。
針對物聯網的發展趨勢，蘇泓萌解釋，IoT裝置需要有效率地處理終端蒐集到的資料、具備長效電池續航力、裝置/通訊安全性、支援雲端運算、創新的應用模式等；而開放式架構也有助於滿足未來更多創新的應用，低功耗則能彈性地進行電源管理，並提升裝置的安全性。RISC-V基金會積極嚴謹管理規格標準，並允許所有參與的會員廠商在特定領域架構(Domain-Specific Architectures, DSA)進行客製化的延伸。
而分析AIoT嵌入式系統架構與RISC-V的應用趨勢，蘇泓萌進一步說明，晶心科技已推出基於RISC-V架構的AndeStar V5系列處理器核心，包括支援Linux的AndesCore A25/AX25，可用在無人機、智慧無線通訊、網通、影像處理、先進駕駛輔助系統(ADAS)、儲存設備、深度學習等範圍；以及有高效浮點運算的AndesCore N25F/NX25F，可用於語音處裡、馬達控制、衛星導航、高精度感測器融合以及高階智慧電表等應用。
產業合作豐實產業鏈為制勝之道
AIoT的發展更強調開放與產業鏈的合作，因此本活動透過產業座談希望凝聚產業發展共識，座談主題為：開放式架構與AIoT產業雙贏策略。由交通大學教授李鎮宜擔任主持人，邀請劉炯朗、戴偉民、蘇泓萌、Cortus台灣分公司總監楊鎮源、台灣西門子數位工業總經理Tino Hildebrand與談(圖4)。對於AIoT裝置強調高效能、低功耗，必須透過彈性、可模組化的硬體架構協助，但從數以百億的終端節點來看，少量多樣與應用破碎化是主要的特色，過去大量標準化的設計架構勢必有所變革，蘇泓萌說，RISC-V的開放特性將持續吸引更多廠商加入，並壯大產業鏈。
圖4 活動透過產業座談希望凝聚產業發展共識，由交通大學教授李鎮宜擔任主持人，座談主題為:開放式架構與AIoT產業雙贏策略。
再者，開放式架構RISC-V產業鏈的建立與串連更是一大重點，戴偉民建議可以學校教育為基礎，建設像Linaro一樣的產業生態系，在各領域吸引更多廠商投入與發展，並貢獻研發成果。而在多樣化的應用領域上，Tino...
搶攻AIoT商機 邊緣運算模組大舉現身
AI走出資料中心 產業應用價值浮現
AI在本次物聯網共創峰會中，無疑是最熱門的議題之一，從工業製造到零售，再到醫療、能源產業，每個主題論壇幾乎都有機器學習(Machine Learning)、神經網路(Neural Network, NN)這類AI關鍵字。這也顯示各產業未來的日常運作，都將或多或少使用到AI技術。
不過，目前絕大多數的AI推論都是在雲端資料中心上執行，對許多產業應用而言，這種系統架構未必符合需求。因此，直接在嵌入式裝置上執行模型推論的邊緣運算架構，成為許多產業評估AI部署方式時的首選，也連帶使得低功耗AI處理器/加速器方案成為半導體業者不能缺席的重要戰場。
英特爾物聯網事業群(IoT Group)副總裁Jonathan Ballon(圖1)表示，許多基於AI的新應用出現，使得物聯網架構出現轉變。在過去，AI運算只發生在資料中心或雲端，這意味著如果某種應用需要AI功能，必然要仰賴雲端來提供。但現在AI正在從雲端走向終端，走進實體世界。
圖1 英特爾物聯網事業群副總裁Jonathan Ballon認為，AI正在從雲端資料中心走向邊緣節點，並創造出更大的產業應用價值。
在過去4年，GPU在AI領域取得巨大成功，特別是在資料中心跟演算法訓練上，由GPU和CPU組合而成的異質運算架構，無疑是最主流的解決方案。不過，這只是AI發展的第一個階段，在這個階段，人工智慧演算法在ImageNet這類固定、已知的龐大資料集進行訓練，證明自己在圖像辨識上的能力可以超越人類。
但這些技術上的突破，距離產業應用跟創造價值，還有一段距離。就以圖像辨識為例，對產業應用來說，這項技術真正的價值在於用機器判讀沒有看過的圖像，並取得正確的判斷結果，也就是AI推論。
英特爾觀察到，在過去12個月，不同領域企業已經把重點轉向這個領域，例如智慧城市、醫療、工業製造相關企業。然而，這些從物聯網蒐集而來的不特定資料，因為種種原因，大約有45~50%無法上傳到雲端，自然無法在雲端進行推論。因此，這些資料的處理、分析跟推論，必然要在本地端執行，也就是所謂的邊緣運算。
在邊緣運算的情境中，GPU未必是最理想的處理器選擇，因為很多應用情境不會允許設備內有散熱風扇這類可動的零部件，或是功耗預算極為有限，無法支撐GPU運作。因此，邊緣運算的異質化程度會比資料中心更高，除了CPU、GPU之外，還有各種專用加速器存在的市場空間。
但Ballon認為，隨著邊緣裝置的運算能力越來越強，「訓練在雲端，推論在邊緣」的狀況會出現變化，有些AI的訓練也可能在邊緣直接進行。
機器視覺結合AI最成熟 模組方案搶食升級商機
在各種AI應用中，機器視覺結合AI是進展速度最快的領域，而且可以發展出來的應用功能也最多。以零售業為例，從店鋪內的人流偵測、貨架上的商品存量檢查，甚至商品是否放錯位置，都可以用AI搭配機器視覺來檢測。在製造業，AI加上機器視覺最主要的應用則是生產線的品管檢查。在智慧城市、醫療等領域，AI結合機器視覺的應用也越來越多，從交通流量偵測、自動停車到判讀醫學影像等。
要讓這些應用加快普及，強大的開發工具是非常重要。為此，英特爾已經推出OpenVino開發工具，並免費提供給開發相關應用的客戶。這項工具支援CPU、GPU、FPGA與Movidius等各種硬體處理器，讓應用開發者可以把運算任務配置給最適合的處理器核心或加速器，提升應用的執行效能。該工具支援目前業界常用的各種框架、模型，還有大量的演算法參考範例，可以讓應用開發的速度明顯提升。
但除了軟體工具之外，硬體本身的效能也必須跟著提升，才能讓機器視覺結合AI真正落實到各種應用上。英特爾近期發表的Myriad X視覺處理器(VPU)，本身的封裝尺寸僅8×8mm，卻具備4TOPS運算效能，且功耗低於2瓦。對許多機器視覺應用來說，1顆Myriad X的效能已經相當足夠，但如果應用需要更高效能，該VPU還可支援雙路到八路不等的配置。由於研華是英特爾的重要合作夥伴，因此在英特爾發表該VPU之際，研華已同步推出搭載單VPU的板卡模組，未來研華還會提供搭載多路VPU的模組。
英特爾和研華有很深遠的夥伴關係，而且彼此有共同的願景。例如英特爾的Market Ready解決方案和研華的物聯網應用解決方案(SRP)，在本質上就有許多類似之處。這使得英特爾跟研華能在許多領域進行深度合作，甚至在產品還沒正式發表前，就進行共同研發。
AI模組大軍蜂擁而上
模組方案對加快AI走向真實世界的速度相當關鍵。如果沒有模組方案，已經部署到現場的設備將難以就地升級，只能汰換成新設備。但如果有模組卡，既有設備只要有保留介面，就可以立刻升級。以單VPU的模組為例，研華的模組卡就是採用業界標準的M.2規格；搭載多路VPU的模組，則料將採用mini PCIe或標準PCIe。
研華網路通訊事業群協理林俊杰指出，對應用或設備製造商而言，晶片只是關鍵零組件之一，如果應用開發商要獨力將晶片整合到設備上，需要投入相當的設計研發人力，產品開發的時間也會拉長。因此，市場對AI模組解決方案的需求，可望隨著AI從雲端走向邊緣裝置的趨勢而提升。
不過，物聯網應用本質上是一個多元而分散的市場，因此對推論運算的需求也會有所出入。有些嵌入式裝置可能需要非常高的運算能力，功耗預算也比較寬裕，採用GPU或FPGA擴充卡會是可行的選項。有些嵌入式裝置對功耗的要求比較嚴格，運算效能的需求較低，這時候加速器模組方案會比較有吸引力(圖2)。
圖2 各種AI處理器/加速器優劣勢比較
因此，除了和英特爾合作推出搭載Myriad X的模組外，研華跟索思未來(Socionext)、瑞薩(Renesas)、賽靈思(Xilinx)、NVIDIA等晶片業者，也保持密切合作的關係，並已陸續推出搭載上述晶片商產品的模組或板卡，以協助各家應用開發商快速將AI推論功能導入到產品中。
SigmaStar導入CEVA電腦視覺/深度學習平台
CEVA近日宣布，晨星半導體的全資子公司SigmaStar Technology已獲得CEVA-XM6電腦視覺和深度學習平台的授權，並已部署於其SAV538人工智慧(AI)相機系統單晶片(SoC)中，以實現先進的電腦視覺和基於神經網路的應用。
SAV538 SoC採用CEVA-XM6和CEVA深度神經網路(CDNN)技術，可為各種相機應用(包括監控、汽車和虛擬實境)提供智慧的視訊內容分析。CEVA平台可有效支援電腦視覺演算法和神經網路的組合，為SigmaStar的客戶提供差異化的可編程解決方案，以開發基於AI的相機應用。這款SoC現已供應，並已獲多家OEM/ODM業者用於一系列智慧相機應用。
SigmaStar協理副總裁鄭漢銘表示，對於所有希望在設備中嵌入基於視覺AI的人來說，SAV538智慧相機SoC可為他們提供出色性能和超低功耗。CEVA的電腦視覺和神經網路平台是我們這款SoC的關鍵，使我們和客戶能以簡單且效率高的方式，在邊緣設備上部署高性能電腦視覺演算法和神經網路，而無需連接到雲端。