市場話題
- Advertisement -
專訪萊迪思亞太區事業發展協理陳英仁 安全/低功耗為AIoT發展關鍵
萊迪思亞太區事業發展協理陳英仁(圖)表示，隨著AI不斷往各種嵌入式裝置推進，應用開發商將在安全跟效能上面對更大的挑戰。安全可靠的硬體設計，是推動AIoT普及的先決條件；更好的推論效能，則可讓應用開發商推出使用者體驗更好的終端應用產品。因此，萊迪思近日宣布推出可於眾多應用中保障系統韌體安全的MachXO3D FPGA，以及推論效能比前一代提升10倍的sensAI解決方案。
萊迪思亞太區事業發展協理陳英仁指出，安全與推論效能，將是AIoT應用能否更加普及的兩大關鍵。
元件的韌體已逐漸成為網路攻擊最為常見的目標。在2018年，超過30億各類系統的晶片由於韌體安全性漏洞問題，面臨資料竊取等威脅。不安全的韌體還會因為分散式阻斷服務攻擊(DDoS)、設備篡改或破壞等隱憂。若不及時處理這些風險，可能會對企業的聲譽以及財務狀況產生不良影響。
sensAI的低功耗AI推理功能則可針對OEM的應用要求進行最佳化，幫助他們與現有設計無縫接軌。由於只需要發送相關資訊即可做進一步處理，使用本地智慧處理能夠降低雲端分析帶來的成本。目前sensAI最主要的終端應用產品為智慧門鈴和安全攝影機等即時線上的IoT設備。藉由在本地端進行AI推論，這些設備的回應時間更快，且因為資料沒有傳輸到雲端，因此更難被竊取。
新版的sensAI解決方案與上一版相比，效能提升10倍，並支援更多新的神經網路和機器學習框架，例如Keras。此外，新版sensAI還提供全新客製化的參考設計，以加快物件計算和人員檢測等常見應用的開發速度。
工業+AI發展潛力大 訓練資料集建置仍為瓶頸
然而，對製造業應用而言，目前以雲端資料中心為基礎的人工智慧，通常是不符合需求的。在生產現場，絕大多數的控制命令跟判斷，都有很強的即時性，如果要把資料上傳到雲端，在雲端進行推論，再從雲端向現場機台下達控制命令，在時效上往往拖延太久。因此，直接在網路邊緣節點進行推論，將是面向工業應用的人工智慧所實行的主流架構，也就是俗稱的邊緣運算或AIoT(AI+IoT)。
這也使得有意進軍工業市場的人工智慧晶片業者，諸如NVIDIA、英特爾(Intel)與賽靈思(Xilinx)等，紛紛推出低功耗、低成本，適合部署於生產現場的晶片解決方案，如NVIDIA的Jetson TX系列、英特爾的Movidius系列、Cyclone/Stratix FPGA，以及賽靈思的Zynq 7000與部分Zynq UltraScale+系列晶片，都可讓部署在現場的嵌入式設備直接進行推論。這三家領導晶片所提供晶片方案，也正好代表了AI運算晶片的三大流派--GPU、ASIC與FPGA，在應用開發上各自有其優勢與限制。
GPU應用開發速度最快 開發工具/IP限制卻不少
對人工智慧應用的開發者來說，GPU是用來快速創建原型跟驗證設計概念的不二選擇。因為開發者只需要撰寫程式碼、甚至直接套用開發工具裡面的現成模型，稍微調整一下參數，就可以讓GPU開始進行訓練跟推理。因此，在應用開發的早期階段，GPU是目前最理想的選擇。
然而，GPU的成本高，功耗也偏高，是許多工業設備製造商在AI軟體發展完成，設備準備量產時，繼續沿用GPU做為系統核心的主要疑慮所在。GPU的散熱對於在工業環境下運作的嵌入式設備，是一個很大的問題。工業環境的溫度變化大，且現場往往沒有空調設備。如果環境的背景溫度本身就偏高，在這個情況下，採用被動式散熱的效果將大打折扣。
採用主動式散熱，例如散熱風扇，則意味著設備的機構設計可能需要保留開口，這會對設備的防水防塵能力造成負面影響。此外，某些工業環境中還有大量粉塵存在，如果設備內有風扇，不僅容易故障，還有引發粉塵爆炸的風險。
也因為上述種種環境條件的限制，GPU若想應用在工業設備上，低功耗是最重要的規格。散熱功耗(Thermal Power Dissapation, TPD)低於10瓦是設備得以採用被動式散熱的基本門檻，但如果能做到更低，工業設備採用GPU的疑慮也會跟著減少。這也是NVIDIA的第一代Jetson TX將功耗定在10瓦，並將新推出的Jetson TX2(圖1)功耗進一步壓低到7.5瓦的主要原因。
圖1 GPU的散熱問題是嵌入式應用開發商在選用GPU時最主要的疑慮之一。
除了功耗跟散熱問題外，GPU廠商的開發工具、參考設計跟協力廠商軟體資源雖然已經相當完整，但如果設備製造商想在這個基礎上進行客製化開發，還有智財(IP)方面的問題必須克服。有業界人士指出，跟NVIDIA合作，會受到很多限制。該公司提供的模型跟演算法資源相當豐富，也有為數眾多的協力廠商夥伴，但這些資源的智財權均控制在NVIDIA及其合作夥伴手上，如果要在產品上使用這些演算法，除了有可能需要額外支付權利金，NVIDIA對晶片的用途管控也相當嚴格。
另外，工業設備所使用的演算法跟模型，如果需要客製化調整，也可能需要跟演算法的開發者或GPU供應商進一步洽談，設備供應商不能自行隨意修改，這也是另一個潛在的成本來源，可能需要額外支付更高的權利金，或是耗費更多時間。
不過，倘若功耗跟智財都不成問題，對工業設備開發商來說，直接在設備上使用GPU，是最快將產品推向市場的途徑，因為產品從開發到最終量產使用的是同一個平台、同一套源碼，相容性基本上可以保證，不用擔心原本在GPU上開發的軟體，換到FPGA或ASIC之後會出現相容性問題。
ASIC算力/功耗比最優 演算法綁定不利發展多樣化應用
自從人工智慧浪潮興起後，許多IC設計公司都推出神經網路處理器(NPU)或ASIC加速器，想分食人工智慧應用的市場大餅。這些專為某些特定演算法或模型提供加速的晶片，在執行對應演算法的時候，有非常高的能源效率，功耗5瓦、甚至2瓦以下的解決方案都已經出現在市面上，為人工智慧應用的普及做出重要貢獻。
不過，也因為這類NPU或ASIC加速器只專門針對特定演算法或模型做優化，因此其泛用性很低。如果工業設備製造商對演算法或模型的更動幅度較大，甚至想套用自己發展出來的演算法，在這類平台上不是執行效果不佳，就是根本無法執行。
舉例來說，目前這類泛ASIC解決方案，最主要的應用市場是安全監控領域(圖2)，例如人流偵測、人臉識別，或是對敏感區域劃設虛擬圍籬等。但對工業應用來說，這些方案除了適用于廠區的安全監控系統之外，像是生產線上的產品檢測、引導機器手臂作業等典型的機器視覺應用，很難採用這類ASIC方案來實現。至於微電子、半導體等級的自動光學檢測，這些ASIC方案就更難派上用場了。
圖2 安全監控的市場規模龐大，吸引眾多ASIC廠商為其開發AI演算法加速器方案。
對IC設計業者而言，針對少量多樣的工業市場開發ASIC產品，成本效益是最大的難題。因此，晶片業者的發展策略必然是利用安防產業所創造的經濟規模，向外拓展出部分工業或產業用嵌入式設備的應用市場。
近期英特爾跟IC設計新創公司耐能(Kneron)，都分別與工業電腦業者結盟，試圖將NPU與加速器推進智慧零售應用，因為智慧零售的需求跟安防基本上相通，不需要太大幅度的設計修改。但有工業電腦業者認為，在未來三到五年內，NPU或ASIC加速器方案在產業領域的應用，大概也只會到這裡為止，要進一步跨入變異性更高的工業應用，機會應該不大。
FPGA限制最少 考驗設備商IC設計功力
過去幾年，有鑒於人工智慧需求興起，FPGA業者在自家開發工具跟協力廠商生態系夥伴的建構上投入不少心力，成果也陸續展現。在資料中心端，利用FPGA來加速神經網路或深度學習演算法，已經是很多網路巨擘所實行的作法，因此，FPGA廠商自然也將下一步發展重心放到邊緣運算上。
對工業應用來說，FPGA是個很理想的選擇。由於工業應用向來是個少量多樣的市場，很難期待晶片供應商針對工業設備業者的需求，推出對應的晶片解決方案。也因為這個緣故，某些研發實力較強的工業設備業者，一直都是靠FPGA來實現自己所需要的晶片功能。最典型的例子就是高階的運動控制設備，或是某些需要大量I/O的控制器。
而在人工智慧從雲端走向邊緣的過程中，工業設備製造商自然不會忽視用FPGA來實現人工智慧這個選項。且在FPGA業者陸續推出機器學習開發環境，協力廠商業者的軟體智財也逐漸到位後，利用FPGA在嵌入式裝置上執行人工智慧應用，困難度已經相對降低。不過，就和利用GPU平台上的協力廠商資源一樣，設備開發商如果要使用協力廠商開發的演算法，通常會有額外的授權費用產生。
FPGA最大的優勢在於硬體功能的配置非常彈性，如果工業設備開發商已經有自己的人工智慧演算法，開發團隊可以利用FPGA實現對應的硬體加速器，達到最高程度的系統設計優化。但相對來說，當軟體設計有所更動時，硬體可能也需要做對應的調整，而這個時間是相對耗時的。
事實上，要把FPGA的潛力發揮到淋漓盡致，開發團隊必須相當熟悉積體電路的設計作業，諸如電路合成、時序收斂、繞線佈局等。雖然FPGA供應商的開發工具多半已經可以將相關作業自動化，但要進一步將設計優化，設計人員還是需要具備相關知識，而且為了因應軟體設計反覆運算，硬體也要跟著頻繁反覆運算，這是很花時間的。
因此，比較理想的開發流程還是先從GPU開始，等軟體設計反覆運算到相對穩定的階段，再針對已經穩定的軟體做對應的硬體加速設計。而非直接從一開始就用FPGA平台做軟硬體同步開發。
訓練資料集建置不易 AI走進工業應用還需醞釀
雖然各晶片大廠對於人工智慧走向邊緣的發展趨勢都有很高的期待，並已推出對應的邊緣運算解決方案，但對工業應用來說，最麻煩的問題不是缺乏硬體或演算法，而是缺乏訓練用的資料集。
不像一般針對消費性或安防領域的人工智慧應用開發商，可以用低廉的人力成本找來大量資料標籤員，快速完成訓練資料集的建置。工業用的人工智慧應用處理的是各種專業領域的資料，一般人無法判讀這些資料。
以藉由機器視覺來檢視金屬加工件這項應用為例，工業相機可以輕而易舉地取得成千上萬張金屬加工件的影像，但這些影像對一般人來說看起來都差不多，只有業內專家能夠看出其中的些微差異，進而區別出良品跟不良品。
高品質的訓練資料集才能確保人工智慧判斷的準確性，但工業領域的高品質資料集不容易建置，是目前工業設備業者、乃至有心導入人工智慧的製造業者所共同面臨的問題。而且，由於這些資料往往涉及營業秘密，因此只能用內部有限的專家人力來建置資料集，無法外包給外部專家，這使得資料集的建置工作需要耗費更長的時間。
綜合多家國際工業設備巨擘與大型製造業者的觀點，即便目前人工智慧軟硬體方案已經比過去成熟許多，但相關廠家現階段大多還停留在研發前期或中期階段，僅有少數動作比較快的業者，已經開始在實驗產線上進行測試。因此，工業領域普遍導入人工智慧，可能還需要2~3年時間醞釀。
專訪新思科技設計事業群聯席總經理Deirdre Hanford 萬物智慧化讓EDA工具更吃重
新思科技設計事業群聯席總經理Deirdre Hanford(圖)表示，各種智慧應用的蓬勃發展，是帶動半導體產業成長的主要動力來源，但這個趨勢也使得晶片設計變得更加複雜，晶片開發者必須要有新的設計工具輔助，才能趕得上客戶要求的產品上市時程，進而抓住商機。
新思科技設計事業群聯席總經理Deirdre Hanford表示，萬物智慧化讓IC設計更加複雜，IC設計業者需要更強大的EDA工具。
為此，新思推出了融合設計平台(Fusion Design Platform)，並在推出的第一年即達到超過100個產品投片(Tapeout)，寫下7奈米製程的重要里程碑。該平台協助客戶提升20%的設計結果品質(Quality-of-Results, QoR)，並達到超過2倍的結果效率(Time-to-Results, TTR)。融合設計平台整合新思科技的數位設計工具，並重新定義傳統設計工具的範疇，包括共享引擎、用於邏輯及物理表現(Logical and physical representation)的單一數據模型。
此外，新思也與安謀國際(ARM)擴展合作關係，推出支援新思Fusion Compiler解決方案的QuickStart實作套件(QIK)。這是一個從RTL到GDSII完全整合的實作系統，可讓採用ARM架構的SoC設計達到最快速的結果效率，並改善功耗、效能與晶片面積，能快速實現具備安謀最新核心架構的高度差異化產品。這項合作已讓採用內含Cortex-A76與Neoverse N1處理器的SoC先期用戶，成功實現投片。
而為了協助推動AIoT晶片研發，新思在台灣也已經與台灣大學、清華大學、交通大學、中央大學以及成功大學等五所頂尖大學共同啟動「AIoT設計實驗室」產學合作計劃，捐贈各校晶片開發核心套件與人工智慧/機器學習教材(AI/Machine learning)，以誘發學界對於AIoT設計的強大研發能量，並培育先進半導體設計人才。
政策傾力推動 中國AI晶片實力飛漲
中國大陸目前投入人工智慧晶片的業者大致可分為三個類別，第一為既有晶片廠商發展人工智慧晶片，如華為海思於2018年推出自行研發的人工智慧晶片架構Da Vinci；第二種則為網路服務大廠投入研發人工智慧晶片，如中國大陸三大網路服務業者百度、阿里巴巴、騰訊皆針對人工智慧晶片有所布局，百度以合作及自主研發為主，2018年7月發布了自主研發的人工智慧晶片「昆侖」；而阿里巴巴在併購中天微、並大舉投資多家人工智慧晶片業者後，於2018年9月宣布成立半導體公司，投入人工智慧晶片的研發；騰訊在人工智慧晶片的布局雖不若百度、阿里巴巴積極，但亦投資比特大陸、Barefoot Networks等業者。
第三種則為人工智慧晶片新創業者，其創辦人有來自國家的研究院、頂尖大學的畢業生，或者是從網路服務業者離開後自行創業。雖然不像大廠擁有豐富資金，但卻具備技術基礎，因此多間新創業者成立後備受關注，憑藉技術優勢獲得大量的資金投資，成為人工智慧晶片領域的獨角獸，亦讓全球關注中國大陸在人工智慧晶片的發展動向。
華為三大產品線力攻AI市場
華為為中國大陸重要的通訊設備廠商，旗下的海思半導體亦為中國大陸重要IC設計廠商之一，產品包含手機、有線網路、無線網路、數位多媒體等IC應用領域。
目前華為海思與人工智慧晶片相關的主要有三個產品線，一個為整合寒武紀神經網路晶片IP的手機處理器Kirin系列，2017年華為海思與寒武紀合作，推出整合人工智慧加速器的手機處理器Kirin 970，2018年再度推出Kirin 980；第二個則為海思針對影像SoC推出的Hi 3599A，整合雙核心的NNIE運算引擎，用於物件分類與屬性辨識等功能；最後則是自主研發的人工智慧晶片架構「Da Vinci」，為華為2018年10月發布的人工智慧戰略的一環，華為的人工智慧戰略中除了晶片外，華為更將提供從晶片到應用的開發工具，透過更完善的開發支援，推動人工智慧在全場景的實現。
寒武紀主攻NPU
2016年於北京成立，為人工智慧晶片IP業者，創辦人陳天石及陳雲霽為中科院計算所研究員，2012年兩人與法國研究所教授合作人工智慧加速器研發項目DianNao，並以此為基礎在中科院計算所的支持下成立中科寒武紀科技(後簡稱寒武紀)，於成立同年推出深度神經網路處理器(NPU)1A，奠定了其在人工智慧晶片的發展基礎。
寒武紀在獲得了中科院的天使輪投資成立，而後在2016年8月pre-A輪募資時獲得了科大訊飛、元禾原點、湧鏵投資的投資。2017年8月的A輪投資除了上述的業者持續投資之外，再獲得了阿里巴巴、聯想、國科投資、中科圖靈等業者共1億美元的投資，成為人工智慧晶片領域的獨角獸企業，2018年6月再度進行B輪募資，強大的資金吸引能力讓寒武紀的發展受到關注。
地平線演算法/晶片並行
2015年於北京成立，為人工智慧晶片及演算法業者，目前在北京、南京、深圳、上海設有研發中心，創立之初團隊成員皆為互聯網的背景，創辦人余凱為前百度研究院執行院長，曾領導團隊進行多媒體技術、影像搜尋技術的開發，因此地平線機器人科技(後簡稱地平線)是以演算法結合晶片的角度出發，發展從晶片、演算法等一體整合的嵌入式方案供應商，提供的是「應用場景的平台」，而並非僅是硬體運算平台，希望透過自身的技術實力，協助系統整合商、設備廠商發展智慧化的解決方案，實現智慧城市、智慧零售、智慧駕駛等應用情境。
地平線在成立後三個月即完成了首輪融資，獲得了晨星資本、高瓴資本、紅杉資本、金沙江創投、線性資本、創新工廠以及真格基金等單位的投資；於2016年4月完成數千萬美元的Pre-A輪募資、2016年7月完成A輪募資、2017年10月完成A+輪的募資。
深鑒科技著力AI模型
2016年於北京成立，創辦團隊皆為北京清華大學出身，擁有深厚的技術基礎，不同於寒武紀以晶片IP、地平線以晶片整合演算法的解決方案，深鑒科技的核心技術為人工智慧模型壓縮、編譯器平台，透過深鑒科技的壓縮軟體、編譯器等開發工具，讓客戶的演算法經過優化後能在深鑒科技的DPU平台(FPGA)上運算。除了軟體開發工具之外，深鑒科技亦陸續發布視覺分析模組、人工智慧ASIC等產品。
深鑒科技成立之後亦獲得投資市場的關注，成立後獲得來自高榕資本、金沙江創投的天使輪投資，2017年5月獲得來自Xilinx、聯發科、清華控股、方和資本的A輪投資，同年7月獲得來自螞蟻金服、Samsung的A+輪投資，可以觀察到科技大廠Xilinx、聯發科、Samsung都曾投資深鑒科技，其發展備受關注。2018年7月深鑒科技被FPGA大廠Xilinx收購，收購後仍在其北京辦公室繼續營運，成為Xilinx大中華區的一部分。
視應用出發 AI晶片功能/規格大不同
華為海思、寒武紀、地平線機器人、深鑒科技雖然都被稱為人工智慧晶片的業者，也都各自發表了其晶片產品，但在產品型態上卻大不相同。華為海思將人工智慧晶片作為其人工智慧戰略的一環，提供從雲端到終端的人工智慧開發平台，晶片為其方案的一部分，透過服務或解決方案的形式向客戶銷售。
寒武紀以人工智慧晶片及IP為主，客戶為IC設計業者或是設備廠商，提供的是人工智慧的硬體運算平台，本身並不開發人工智慧的應用，因此其平台能夠廣泛通用於影像、語音辨識的應用，助力中國大陸人工智慧演算法的業者。
而地平線機器人以視覺應用為出發點，發展整合人工智慧演算法晶片的解決方案，其產品在晶片之外亦整合了影像辨識的演算法，透過自身訂製的晶片提升硬體平台的運算效能，而能以較低的功耗實現終端人工智慧應用，從解決方案的角度切入也讓其直接與垂直應用客戶進行合作。
深鑒科技的技術核心為演算法及編譯器，整合FPGA提供解決方案，演算法業者能利用深鑒科技的開發工具能將其模型優化，在深鑒科技的DPU平台(Xilinx FPGA)上實現運算，而後深鑒科技亦發展影像辨識的演算法，整合成解決方案拓展無人機、安全監控市場。
觀察四個業者的產品，除了華為海思因集團本身有手機產品，因此投入發展手機SoC之外，其他人工智慧晶片新創業者的產品以視覺應用為大宗。其中又以安全監控及自駕車應用為業者主要投入方向，包含地平線機器人以智慧城市(安全監控)、智慧零售、智慧駕駛為主要的應用，深鑒科技亦從無人機轉向往安全監控市場發展。
而業者皆投入安全監控應用的原因不外乎中國大陸有龐大的國內市場，終端設備廠商對於人臉辨識、車牌辨識等需求明確，吸引廠商投入。然而雖然大量的影像成為廠商練兵的基礎，但在城市監控、零售商業分析等不同的應用目的下，在環境、須要辨識的項目亦會有所不同，然而觀察目前廠商所提出來的功能大同小異，其所提出來的解決方案是否真的能符合終端應用的需求仍有待觀察。
不論是寒武紀、地平線機器人或是深鑒科技，在成立之初即募得了大量的資金，讓中國大陸的人工智慧晶片業者備受關注。然而在產品發布之後，後續在產品的推廣上仍備受挑戰，包含寒武紀未來和華為合作關係不明、深鑒科技一開始在無人機的客戶推廣上亦不順利，促使兩者轉往其他的應用發展，寒武紀開始拓展伺服器市場、深鑒科技在被併購前也轉往安全監控市場發展。
觀察目前主要人工智慧應用的產品，包含手機、攝影機、伺服器等，這些終端設備的廠商亦自行投入資源研發人工智慧晶片，如華為發布了自己的人工智慧晶片架構；網路服務廠商百度、阿里巴巴、騰訊也都有各自的晶片研發計畫；攝影機業者海康威視、浙江大華也投入晶片的研發，新創業者如何在前有設備業者的挑戰、後有晶片業者的競爭下生存，未來發展性仍有待觀察。
(本文作者為資策會MIC產業分析師)
AI發展歷久彌新 推論晶片商機展露
圖1 人工智慧的第三波熱潮。
資料來源：http://www.technologystories.org/ai-evolution/
人工智慧的運用分成兩個階段，一是學習訓練階段，二是推論(或稱推算、推理)階段，此與應用程式相類似，程式開發階段即為學習訓練階段，程式正式上線執行運作則為推論階段。開發即是船艦在船塢內打造或維修，執行則為船艦出海航行作業執勤(圖2)。
圖2 人工智慧訓練與推論的差別。
資料來源：https://blogs.nvidia.com/blog/2016/08/22/difference-deep-learning-training-inference-ai/
訓練與推論階段對運算的要求有所不同，訓練階段需要大量繁複的運算，且為了讓人工智慧模型獲得更佳的參數調整數據，運算的精準細膩度較高，而推論階段則相反，模型已經訓練完成，不再需要龐大運算量，且為了儘快獲得推論結果，允許以較低的精度運算。
例如一個貓臉辨識應用，訓練階段要先提供成千上萬張各種帶有貓臉的照片來訓練，並從中抓出各種細膩辨識特點，但真正設置在前端負責辨識來者是否為貓的推論運算，只是辨識單張臉，運算量小，且可能已簡化特徵，只要簡單快速運算即可得到結果(是貓或不是)。
推論專用晶片需求顯現
對於人工智慧的訓練、推論運算，近年來已普遍使用CPU之外的晶片來加速，例如GPGPU、FPGA、ASIC等，特別是GPGPU為多，原因在於GPGPU的高階軟體生態較為完備、可支援多種人工智慧框架(Framework)，相對的FPGA需要熟悉低階硬體電路者方能開發，而ASIC通常只針對限定的軟體或框架最佳化(表1)。雖然FPGA與ASIC較有難度與限制，但仍有科技大廠願意投入，如Microsoft即主張用FPGA執行人工智慧運算，Google則針對TensorFlow人工智慧框架開發ASIC，即Cloud TPU晶片。
人工智慧模型的開發(訓練)與執行(推論)過往多使用同一晶片，用該晶片執行訓練運算後也用該晶片執行推論運算。但近1、2年來隨著訓練成果逐漸增多，成熟的人工智慧模型逐漸普及，以相同晶片負責推論運算的缺點逐漸浮現。以GPGPU而言，晶片內具備大量的平行運算單元是針對遊戲繪圖、專業繪圖或高效能運算而設計，可運算32、64位元浮點數，這在人工智慧模型訓練階段亦適用，但到推論階段，可能只需16位元浮點、16位元整數、8位元整數等運算即可求出推論結果，甚至是4位元整數便足夠。如此過往的高精度大量平行運算單元便大材小用，電路與功耗均有所浪費，所以需要人工智慧的推論專用處理晶片。
半導體廠紛發展推論晶片
推論晶片的需求在人工智慧重新倡議後的2年開始浮現，但在此之前已有若干產品，如2014年Google對外揭露的探戈專案(Project Tango)即使用Movidius公司的Myriad晶片(圖3)。
圖3 Intel Movidius Myriad X晶片
資料來源：Intel
Movidius之後於2016年推出Myriad 2晶片，同樣也在2016年，Intel購併Movidius取得Myriad 1/2系列晶片，並接續推出Myriad X晶片。Google除探戈專案外其他硬體也採用Intel/Movidius晶片，如2017年的Google Clips人工智慧攝影機、2018年Google AIY Vision人工智慧視覺應用開發套件等。
不過真正受業界矚目的仍在2018年，包含NVIDIA推出T4晶片(嚴格而論是已帶晶片的加速介面卡)(圖4)、Google推出Edge TPU晶片(圖5)，以及Amazon Web Services在2018年11月宣告將在2019年推出Inferentia晶片，均為推論型晶片。
圖4 NVIDIA展示T4介面卡
資料來源：NVIDIA
圖5 Google Edge TPU小於一美分銅板。
圖片來源：Google
另外，臉書(Facebook)也已經意識到各形各色的推論型晶片將會在未來幾年內紛紛出籠，為了避免硬體的多元分歧使軟體支援困難，因此提出Glow編譯器構想，期望各人工智慧晶片商能一致支援該編譯標準，目前Intel、Cadence、Marvell、Qualcomm、Esperanto Technologies(人工智慧晶片新創業者)均表態支持。
與此同時，臉書也坦承開發自有人工智慧晶片中，並且將與Intel技術合作；目前臉書技術高層已經表示其晶片與Google TPU不相同，但是無法透露更多相關的技術細節。而Intel除了在2016年購併Movidius之外，在同一年也購併了另一家人工智慧技術業者Nervana System，Intel也將以Nervana的技術發展推論晶片。
推論晶片不單大廠受吸引投入新創業者也一樣積極，Habana Labs在2018年9月對特定客戶提供其推論晶片HL-1000的工程樣品，後續將以該晶片為基礎產製PCIe介面的推論加速卡，代號Goya。Habana Labs宣稱HL-1000是目前業界最快速的推論晶片(圖6)。
圖6 Habana Labs除推出HL-1000推論晶片Goya外也推出訓練晶片Gaudi。
資料來源：https://www.convergedigest.com/2018/09/interview-habana-labs-targets-ai.html
雲端機房/快速反應 推論晶片可分兩種取向
透過前述可了解諸多業者均已投入發展推論晶片，然嚴格而論推論晶片可分成兩種取向，一是追求更佳的雲端機房效率，另一是更快速即時反應。前者是將推論晶片安置於雲端機房，以全職專精方式執行推論運算，與訓練、推論雙用型的晶片相比，更省機房空間、電能與成本，如NVIDIA T4。
後者則是將推論晶片設置於現場，例如配置於物聯網閘道器、門禁攝影機內、車用電腦上，進行即時的影像物件辨識，如Intel...
應用案例成功消息紛傳 LPWAN商用後勢看漲
低功耗廣域網路(Low Power Wide Area Network, LPWAN)建構在Machine-to-machine應用上，其主要特徵要符合廣覆蓋、低成本、低功耗、大連接等特點，主要的技術則包含Sigfox、LoRa、NB-IoT、CAT-M等；若以技術發展角度，也有近10年以上的開發時程。
首先，考慮技術發展最早的Sigfox以及LoRa，皆於2009年由Sigfox與Cycleo兩家公司開始發展，鎖定Unlicensed Band Network的應用場域。
Sigfox訴求在自建Sigfox基地台，目前涵蓋約60個國家，適用於資料傳輸量較小、且有耗電考量的情境，其技術應用的四大特性就是：低功耗的連線裝置、全球的聯網服務、簡易的使用模式及低營運成本。
至於LoRa技術，訴求是透過系統整合商在場域內架設LoRa閘道器(Gateway)，並且透過WiFi路由器或是乙太網路連線至後端系統。
其中，LoRa與Sigfox不同的地方在於LoRa開放較多的彈性讓系統整合商做自行開發，這對於創客而言是一項利多，創客在執行各自的場域驗証時，可以在不需要認證前提下快速地導入自創LoRa應用產品，有助於LoRa技術的推廣。然而，此一特性雖有助於LoRa得推廣，但另方面則是衍生出創客對LoRa各自表述，即LoRa產品容易在市場上產生不相容問題。
換言之，在整體LoRa應用上，受惠於較多人投入產品應用開發，使得LoRa在一開始的市占稍具規模。
在2016年6月3GPP R13定義NB-IoT的標準，2017年6月確定R14標準，NB-IoT/CAT-M的解決方案也陸續由Intel、Qualcomm、海思等晶片商在2017提出基於R13的晶片方案。
至於後續的進程，原本規畫在R16，5G NR時會將NB-IoT與CAT-M整併到5G mMTC之中，但是目前的整併時程，將會延至3GPP R17時。
應用場景陸續浮現 LPWAN爆發成長可期
參照TSR 2019年出具的市場分析報告「Cellular Modem Market Update」內容，LPWAN的市場出貨量由2016年的1,580萬，到2023年預估的量能4億2,980萬，其平均年複合成長率達到160%。此部分已包含對LoRa、Sigfox、NB-IoT及CAT-M所有LPWAN產品預估值。市場分析指出，2018年LPWAN產品將由8,300萬，跳升到2019年的1億4,660萬，市場需求將再成長176.7%。
有別於智慧型手機，將由總人口數直接限制手機數量。訴求在萬物聯網的IoT產品，其數量完全由應用場景所決定，不會有產品總數的天花板。雖然在初期的LPWAN的應用場景，不乏晶片模組的價格過高、水表應用的通訊掉包、生態系(Ecosystem)尚待建立、缺乏殺手級的產品應用等負面的聲音出現。
然而，在各概念驗證(Proof Of Concept, POC)產品應用在市場上接收到的回饋、更多的成功應用、模組價格大幅下降、政府的公共資源投入，2019年已開始在市場上締造許多成功的案例，如水表、電表與瓦斯表等三表布建、中國大陸鄭州的電動車專案、資產物流老人小孩的追蹤需求、消防感知的需求法制化。智慧建築、智慧農業、智慧商店、智慧醫療、智慧交通等，環繞在智慧城市下環環相扣的應用場景，已成為目前科技發展的顯學，在2019年下半年，需求有機會大爆發。
NB-IoT實現資料傳輸最後一哩路
物聯網的應用面，包含端、管、雲，才能成就其完整的智慧應用場景。負責資料收集的感測器、負責傳輸的通訊技術、提供管理平台的PaaS(Platform As A Service)、提供資訊分析的Cloud環境。
在物聯網的應用中，端點的關鍵在於如何正確的萃取環境或生物等訊息，這些訊息的組成除了巨觀的參數以外，更包含微觀的數值，再利用相互間的特殊關係，產生一個具有意義且可被量化的演算法，種種問題需要多元的產業達人和技術人員共同開發討論，並且在場域環境下可以穩定的、低功耗、高效率、價格合理的無線技術下傳輸。
可以相信的是，讓所有的資料能送至後台是最為關鍵的一環，唯有訊息開始回傳至後台，才是開啟物聯網的重要里程碑。目前各路英雄好漢，均已就定位，提出各自的服務方案，試圖占據市場有利位置。
市場上，也不斷有加速物聯網應用的好消息，著實振奮市場信心。中國鐵塔公司與阿里巴巴簽署戰略合作協議，雙方將在雲計算、邊緣運算、大數據等展開深度合作。
2019年，搭配各家NB-IoT的R14版本的開發完備，運營商也計畫在2019年Q2、Q3完成NB-IoT R14基地台的升級，此3GPP R14的部署，將加速Tracker在移動性、低耗能、軔體更新的應用需求。截至2018年底，中國已陸續布置超過百萬座NB-IoT的基地台，NB-IoT的訊號涵蓋率，已被大幅提昇至全面商用化階段。
迎接IoT應用商機 通訊模組業者蓄勢以待
展望未來科技應用的場景，無論是訴求智慧生產的工業4.0、AI與大數據分析，或是5G的巨量連結，都是建立在物聯網的架構下擴大其應用面。目前工業4.0則成為通訊模組廠商重點推行的技術，例如光寶科技不但讓旗下各規模的工廠逐漸升級成為智慧工廠，更利用大數據分析和AI技術提升製程能力，藉由高端技術的引進，在零組件製造業創造更高價值，產生高毛利的產品，進而成為物聯網時代的重要推手之一。
另外，物聯網的應用，重點在各項技術的整合，在相關技術蓬勃發展下，說明各個技術已開始產生化學反應，代表物聯網的商用年代逐漸來臨。通訊模組供應商也積極布局智慧製造、物聯網網通與智慧應用三大市場。像是光寶便積極投入LPWAN的通訊模組開發，成為具Sigfox、LoRa、NB-IoT量產能力的模組開發商，以完整的通訊產品線布局，營運範圍涵蓋網路通訊模組、網通設備、智慧監控攝影、戶外照明路燈與工業自動化等，迎接需求即將爆發的LPWAN市場。
同時，未來在面對少量多樣化的模組生產需求，光寶也早已導入高度自動化的生產線，利用機械手臂協助模組產品測試，並投入研發人員在製程設備開發，持續展現高彈性的生產優勢，為LPWAN進入大規模商用時代做好準備。
(本文作者為光寶科技通訊模組事業部研發二處處長)
專訪耐能科技創始人兼執行長劉峻誠 耐能新款晶片開啟更多AI應用
耐能創始人兼執行長劉峻誠於發布會上提出「Edge AI Net」的概念，他表示，透過新推出的KL520晶片，期能夠將生命賦予終端設備，實現去中心化、離線本地處理、主動智慧等目標；而耐能也因此成功實現AI在雲端及離線終端上的互補，完成從提供IP到AI晶片的新里程碑，開啟AI應用於不同層面的更多可能性。
據悉，新推出的KL520晶片，具備「可重組式人工智慧神經網路技術」，會根據不同任務進行重組，減少運算複雜度，保證在不同的卷積神經網路(CNN)模型上的使用，無論是模型內核(Kernel)大小的變化、模型規模的變化，還是影像輸入大小的變化，都能保持高效率使用運算(MAC)單元。
此外，該產品也可滿足高效運算需求，其數據格式按運算需求靈活調整，致使在計算過程中實現更高的「數據計算vs.數據讀寫」比例，減少記憶體數據搬運的能量耗損。同時，透過耐能模型壓縮技術可有效減小模型大小，大幅降低在終端部署時的儲存成本，也大幅降低了記憶體頻寬的需求，並可提供較為通用，可同時支持語音及2D、3D影像的AI需求。
KL520晶片其餘特色還包括：低功耗(平均功耗僅300~500mW)、體積小；算力最高可達350GOPS，可作為協處理器使用，增加系統端的AI運算能力，毋須更換主晶片，即可快速於系統端導入智慧應用；適用於結構光、雙目視覺、ToF及耐能自主開發的輕量級3D感測技術等。
目前該晶片甫推出便獲得多家合作夥伴採用，包含鈺創科技、鈺立微電子、奇景光電、研揚科技、全科科技、和碩科技等。劉峻誠透露，未來將持續與戰略伙伴合作，落實產業應用，而2019年第四季還會推出用於智慧安防市場的第二款AI晶片。
耐能創始人兼執行長劉峻誠提出「Edge AI Net」的概念，期能藉此開啟AI應用於不同層面的更多可能性。
以物聯網為基礎 預測性維護效率再提升
採用智慧方式部署的聯網感測器可以在影響流程或生產之前檢測到故障，藉此節省維護成本並避免發生停機的情況。為了避免低效率的維護流程和伴隨而來的成本，製造商和網路營運商可以使用智慧感測器和資料科學原理來最佳化維護的流程。
根據麥肯錫所發表的報告，建基於物聯網的預測性維護可協助降低多達40%的工廠設備維護成本。它還可以延長機器的使用壽命，減少50%的設備停機時間及減少3~5%的設備資本投資。
善用IoT/資料科學 避免無效流程/高成本
多年來，製造商所採用的設備維護方法一直都是以時間作為根據。規劃任何維護流程時所考慮的主要因素僅僅是機器的使用年限。設備越老舊，維護程序就越頻繁。
ARC集團的一項全球性研究指出，只有18%的設備是因老化而失效的，其餘82%的失效是隨機發生的。這些研究結果顯示，以年限為根據的維護方法並不具成本效益。為了避免無效的維護流程和伴隨而來的高成本，製造商可以充分利用工業物聯網和資料科學。
電網故障可能導致配電中斷，對受影響地區中幾乎所有的人員、企業和服務機構的日常運作帶來很大的麻煩。這種情形使得預測性維護對這一類關鍵基礎設施尤為重要。芬蘭的輸電系統營運商Fingrid舉辦過多次的創新競賽，希望能找到最佳的合作夥伴來將其營運設施的維護和監控運作數位化。
Haltian的Thingsee無線感測器產品被應用在芬蘭的變電站中，用以測量其中的連接元件的溫度。這一點很重要，因為溫度升高是電阻增加的徵兆，而這可能是由污垢或腐蝕所引起的。
此外，該感測器還可用來測量濕度、氣壓、環境光、存在(Presence)和距離等方面的資料。雖然這樣的感測器並不能完全消除對手動檢查的需要，但它們確實使得監控操作更加有效率並降低了出現問題的風險。
聯網工具減半維護工作
除了顯而易見的電網使用案例以外，建基於感測器的監控也可用於各種工業應用中。位於南京的愛立信熊貓製造工廠使用蜂巢式IoT連接數千台設備，包括高精度螺絲刀。這些模組每八小時傳送大約100位元組資料以顯示最近的使用情況。
這些資料會被一款雲端解決方案收集起來，再進行分析。操作經理可以監控使用資料來準確地掌握工具何時需要重新校準，而不是依據效率差的預定時間表工作。
根據這個案例研究，愛立信預估該解決方案的每單位成本僅為20美元，但可減少一半的維護工作，每年節省10,000美元，並在短短兩年內達到損益兩平。
工具和機械也須預測性維護
工業環境中常會用到安全和遙測系統，它們通常需要自己特定的網路。除此之外，可以使用新的無線技術收集許多不太重要的參數，以形成預測性維護的基礎。
主要的兩類資料是：
用法：使用工具的頻率和時間長度？最常用的功能是什麼？是那位員工從事這項工作？
狀態：隨著時間推移，機器的溫度和變異數(Variance)是多少？系統中是否有任何不規則的振動？
使用資料執行完整的根本原因分析(Root Cause Analysis)，有助於預防將來出現故障的情形。
連接技術提升可靠性
物聯網已經為全球供應鏈的運作提供了有價值的幫助，包括使用蜂巢式物聯網進行資產追蹤。不過，透過預測關鍵資產的失效，連接技術可以進一步強化經銷鏈的可靠性。
冷鏈(Cold Chain)就是一個典型的例子，多年來，人們一直致力於尋找一種可測量運輸貨物溫度的低成本解決方案。這有助於瞭解貨物是否保持在適當的溫度以及哪些貨物可能需要銷毀。
雖然這是物聯網運行的好例子，但其實可以再進一步，在一開始時就可以預測和避免失效。將預測性維護應用到製冷系統，以便對何時即將發生故障有更好的掌握，這將可節省寶貴的時間和金錢，並避免浪費食品和藥品等寶貴資源。
預測性維護確保設施壽命
道路、橋樑和鐵路是社會的重要基礎設施，它們的維護工作對於確保其在整個使用壽命週期中的安全性而言，是非常重要的。在這種情況下，物聯網就可派上用場。
可以持續監控振動等機械參數，在已記錄模式中的任何異常都指出須要維護，或者可以通知存在緊急情況。例如，杜塞道夫機場安裝了50個路內(In-road)NB-IoT感測器，以監控唯一可以進入機場油箱儲存地點的橋樑的狀態。
擴大規模是最大挑戰
預測性維護並不是一個新概念，例如我們都很熟悉可以透過不規則的聲音或振動來預測汽車何時將會發生故障。
物聯網所帶來的新功能是收集來自數千或數百萬台設備的資料的能力。我們可以從經驗中學習，建立和更新模型及建議所要採取的行動，所有這些都能夠以自動化的方式實現，並且將會規模空前。
很明顯，如要成功，企業須要利用大數據分析和人工智慧方面的所有最新技術來提升效能。然而，即使在此之前，所有的「物品」也要先連接起來。
(本文作者為Nordic Semiconductor事業開發經理)
專訪東瑞電子行銷業務事業部副理陳則名 東瑞/Ricoh攜手深耕車電市場
東瑞電子協助供應商推廣產品，是深耕車用市場的專業代理商，而理光微電子憑藉自身的工藝技術和電路技術，實現了高耐壓、低消耗、高精度，可開發適應市場需求的產品。東瑞電子行銷業務事業部副理陳則名表示，汽車電子系統越來越多，車用電源通常來自電池加發電機，發電機供電不穩定，平常電壓雖然只有12~14伏(V)左右，啟動瞬間可能產生高電壓，透過電壓檢測IC可以保護元件與系統的穩定，避免車用IC裝置被高電壓擊穿。
未來車用電子電力傳輸將從12V往48V發展，理光微電子台北代表人辦事處總經理小川貴裕說明，該公司的電壓檢測IC不僅能即時偵測，針對輕油電的48V系統發展趨勢，相關產品也可以支援到60V的電壓範圍。隨著汽車導入越來越多電子系統，這類電壓檢測元件的需求也會越來越高。
另外，抬頭顯示器(Head Up Display, HUD)應用越見普遍，利用光學反射原理將重要的行車資訊投射在擋風玻璃，早期反射式的HUD駕駛閱讀須將視線移開，容易造成分心；新式的HUD將訊息投射到與駕駛視線一致的位置，不用像舊式的解決方案須要變換視覺焦距，降低駕駛分心的情況，而且從單色到全彩顯示，訊息更加一目了然。
理光的RGB雷射二極體(Laser Diode, LD)驅動晶片解決方案，針對大畫面和高畫質的HUD產品開發需求提出，小川貴裕指出，此舉可以減輕駕駛員負擔，降低危險駕駛情況。晶片透過各保護特性，實現高安全性，達到Full-HD(1080P)高解析度，大驅動電流實現六公尺外呈現虛像，並自動檢測LD溫度特性並補償保持高對比度和高精度調光，2019年第三季前完成量產，並由客戶設計、導入，預計2021年後正式上市。
東瑞電子行銷業務事業部副理陳則名(右)；理光微電子台北代表人辦事處總經理小川貴裕(左二)。
靈活/高效方案紛出 AI晶片百花齊放
人工智慧(AI)已逐漸走入大眾生活。AI應用正逐漸滲透到各種領域，例如農漁業、金融、工業還有各式消費性電子產品中。
AI結合物聯網(IoT)時代已然到來，然而AI應用種類各異，各有千秋，不同的應用領域要求的AI技術也不盡相同。為了搶攻龐大的AIoT商機，並實現各種AI創新應用，各大AI晶片供應商不僅持續提供可實現高效運算的解決方案，同時也朝更靈活、彈性的架構發展。
滿足多元應用 AI晶片朝靈活架構發展
AI快速成長，生活智慧化的變遷顯而易見，而要如何在變化多端AI市場中搶占商機。面對AI的迅速發展，未來已不能倚靠單一架構滿足所有應用需求；在傳統的硬體設計方式及設計週期漸漸趕不上AI演算法的推陳出新之時，靈活、彈性的平台架構便應運而生，以滿足AI應用需求。
AI應用推陳出新 賽靈思力轉靈活彈性平台
賽靈思(Xilinx)大中華區業務副總裁唐曉蕾表示，AI應用相當多樣化，且屬性多不相同。也因此，在資料、記憶體結構、效能和精度上等方面都會出現客製化需求。以精度為例，有些應用需要99%甚至是99.9999%的精度，但有些應用則需97%的精度便已足夠。然而，97%和99%的精度雖然只差2%，但在運算資源需求上卻有著相當大的差異，因為要提升精度，須花費相當大的人力、物力和時間。也因此，在AI應用朝多元發展的態勢之下，為使運算時間、資源更有效率，應用業者不再只朝「最好」、「最強」發展，而是朝「最適合」，客製化需求由此而來，也因此，需要更彈性、靈活的設計平台。
賽靈思全球人工智慧市場資深技術專家張帆也指出，AI商業應用迅速增加，資料量以指數型成長，現有的運算架構已不敷使用。另外，由於各式AI創新應用不斷展露，也因此AI相關的訓練與推論呈現百花齊放的狀況，可說平均兩個星期到一個月就有一個全新的演算法提出，因此，更需要新一代具高效能、且彈性靈活的架構來因應此一狀況，滿足AI演算法和應用。
為此，賽靈思便積極轉型，將自身定位成靈活、彈性的系統平台供應及服務業者，而不再只是單純的可編程技術/硬體供應商，例如之前所發布的Versal ACAP平台便是其中一個例子。
賽靈思工業、視覺、醫療與科學市場總監Chetan Khona(圖1)說明，Versal ACAP結合許多創新成果，讓軟體開發者、資料科學家及硬體開發者都能自行加以編程與最佳化，以跟上AI的快速演進；且能讓開發者創建專用領域架構(DSA)，在不使用新晶片的狀況下就能自行著手開發客製化演算法。
圖1 賽靈思工業、視覺、醫療與科學市場總監Chetan Khona說明，AI晶片開發商未來面臨的挑戰為適應AI創新速度。
Khona認為，網路邊緣的AI需要在效能、功耗及售價等因素之間取得理想的平衡點；而該公司的Edge AI解決方案能透過先進的量化以及剪枝(Pruning)技術克服此一挑戰。將網路量化為INT8與更低的單元，再搭靈活應變的架構，能讓系統層級效能提高約2倍，或發展出更具競爭力的技術；而剪枝技術則能將網路最佳化，在不犧牲精準度下達到更理想的效能、延遲、能源效率以及成本。
CEVA確保硬體/軟體編程彈性
CEVA客戶行銷及AI策略資深總監Yair Siegel(圖2)則表示，當今的AI應用市場相當分散，沒有一種設備可以滿足所有需求。不過，雖然說各種產品和應用對處理器性能要求都不盡相同，但相似之處皆在於希望能夠利用演算法上的簡單更新，來因應市場變化。所以AI解決方案要保持一定的靈活性，且還須要關注軟體的可編程性，才能使AI產品從研究、設計時期就能平穩地進入量產階段。
圖2 CEVA客戶行銷及AI策略資深總監Yair Siegel表示，2019年將開始看到更多帶有AI功能的攝影機出現。
因此，AI處理器的研究重點在於，演算法精確度與侷限於電池及成本因素的硬體最佳化。換言之，便是能否僅利用設備電池的小量電量，在有限的硬體區塊上執行最新技術。
Siegel指出，為此，CEVA備有用於邊緣深度學習的專用低功耗AI處理器「NeuPro」，可實現高效的硬體加速性能，同時仍保持可編程解決方案的靈活性，且憑藉軟體即可輕鬆升級，以滿足廣泛的終端市場需求，包括物聯網、智慧手機、監控、汽車、機器人、醫療和工業等。除此之外，CEVA還與演算法開發人員合作，讓後者專注於針對網路最佳化，利用設備本身來進行處理。期能讓設備製造商獲得性能更佳的硬體，且還可以快速、多次進行軟體更新。
Siegel透露，簡而言之，該公司的AI解決方案可實現相應的調整，採用全面性的解決方法，不僅能為不同的案例提供可擴展性，並能提供工具和函數庫的自動化以縮短開發時程，同時也兼顧靈活性和效率。
高效晶片仍占一席之地
上述提到，AI應用多元，驅使邊緣運算需求與日俱增，應用開發商與半導體業者皆積極將深度學習或機器學習導入前端設備，希望使前端裝置也有人工智慧的能力；而要滿足多樣化的AI產品，除了靈活多變的架構外，高效的運算也是不可或缺。
英特爾齊備邊緣運算方案
英特爾(Intel)業務暨行銷事業群商用業務總監Alex Cheng(圖3)表示，AI+AIoT是目前相當熱門的話題。在AI興起之後，前幾年產業多是發展「AI Training」；然而，當模型Training好之後，下一步便是導入實際應用，而IoT裝置即是個很好的應用目標，像是監控攝影機、視覺檢測裝置等，都已陸續引進AI。也因此，AI+IoT必將是日後的發展方向，同時也具備很大的潛在商機，成為兵家必爭之地，為此，英特爾也積極布局，備有各式解決方案。
圖3 英特爾業務暨行銷事業群商用業務總監Alex Cheng認為，AIoT已成為各大晶片商兵家必爭之地。
例如不久前所發布的全新視覺加速器設計產品(Intel Vision Accelerator Design Products)，強化邊緣裝置AI推論與分析能力。此一解決方案包含Intel Movidius視覺處理器與Intel Arria 10 FPGA，皆以OpenVINO軟體工具套件為基礎，提供開發者在多種Intel產品中使用進階的神經網路效能，在物聯網裝置中運行更具成本效益的即時影像分析和智慧化功能。
英特爾指出，用此一視覺解決方案的企業，不論是在資料中心、現場部署伺服器或於邊緣裝置內採用深度學習人工智慧應用，深度學習推論加速器皆可擴充至其需求程度。
除此之外，為更進一步擴展AI終端市場，英特爾近期也再度推出用於智慧邊緣的高密度系統單晶片處理器「Intel Xeon D-1600」。此一處理器是高度整合的系統單晶片(SoC)處理器，專為功耗和空間有限的密集環境而設計，其結合內建的Intel QuickAssist技術和Intel虛擬化技術，可為虛擬化網路功能(VNF)，控制平面和中階儲存解決方案提供更上一層樓的工作負載優化效能和硬體增強安全優勢。Intel Xeon D-1600處理器最多可支援8個核心。
添加DSP指令集 RISC-V處理器效能大增
搶攻AIoT市場，晶心科技則是推出其32位元A25MP和64位元AX25MP...