根據國際研究調查機構IDC預測，2019年全球物聯網(IoT)衍生的商機逼近1兆美元，其中，扮演關鍵角色的是人工智慧(AI)結合IoT所形成的AIoT新趨勢。2015~2017年，全球物聯網市場規模年均複合成長率為3.8%，但隨著AI興起，2017~2020年，估計全球物聯網商機每年將有24.2%的成長幅度，2019年市值逼近1兆美元，2020年則上看1.29兆美元。
AIoT商機蓬勃發展，加上AI技術逐漸成熟及相關應用服務持續興起，各大AI晶片國際大廠除了持續布局雲端運算之外，也致力發展AI邊緣運算，以實現智慧音箱、無人機、機器人、AR/VR與智慧監控等新興應用；AI邊緣運算晶片也因而開始走向分眾專用化，同時其架構也變得更加彈性、靈活，如此一來才可以滿足多元、少量多樣的AI應用市場。
應用場景陸續浮現 AI視覺占大宗
AI應用快速發展，賽靈思(Xilinx)工業、視覺、醫療與科學市場總監Chetan Khona表示，2019年人工智慧將會加速往邊緣(類比/數位邊界)應用轉移，讓AI能廣泛運用在各種低延遲且安全關鍵(Safety Critical)的應用。
CEVA客戶行銷及AI策略資深總監Yair Siegel則指出，AI結合視覺將會是2019年的主要應用。在2019年，可期待開始看到更多帶有AI功能的攝影機出現，它們的主要功能在於物體偵測和辨識，以降低當今產品的錯誤警報，並減少發送到雲端處理的數據(僅發送事件數據，不必發送所有數據)。
Siegel說明，這類應用的主要推動力是現有的產品逐步增進改良，例如門鈴攝影機、安全攝影機、邊境巡邏攝影機等產品，只要為它們增添更多一點智慧功能，就能在機器本身實現(On-device)偵測，提升設備的反應速度(在設備本身進行近端分析)，從而發送較少的數據到雲端處理，或是改善錯誤警報的情況；而此一改變也可提升用戶體驗。
Siegel補充，臉部偵測和辨識由於受限於設備的處理能力，現今還有很多設備仍然是透過雲端處理或以NVR執行。OEM廠商因為成本和工作量方面的考量，升級硬體SoC對他們而言是一項挑戰。因此，只要更低成本的SoC出現，能協助他們以非常低的額外成本來實現更多的AI功能，這類型的應用很快就會發展起來。
資策會產業情報研究所(MIC)創新應用暨智慧服務研究中心資深產業分析師韓揚銘(圖1)則說明，在語音助理逐漸被消費者接受之後，已慢慢成為智慧家庭中樞，進而提升消費者對IoT+AI的使用體驗。如今，AI漸漸擴大至其他家電產品，像是冰箱、烤箱等，而除了消費者所熟悉的語音之外，也陸續有影像辨識方案，像是掃地機器人已開始搭載影像感測器，提升其對家庭環境的辨識能力，使其在清掃過程中不再遇到家具或是死角就「卡卡的」。
總結來說，AI在視覺相關的應用於2019年將持續成長。Khona認為，視覺應用加入AI後不僅能同時處理多部攝影機的輸入資料，還具備將其智慧化的功能。此外，2019年也將出現更多非視覺的AI應用，非視覺感測器產生的資料與視覺感測器的資料比例將逐漸走向40比60，不過目前的視覺感測器(如監控攝影機)仍然是資料的主要產生來源。
應用分眾化 AI晶片朝專用領域架構發展
AI應用如雨後春筍般冒出，邊緣運算的趨勢顯而易見，晶心科技總經理林志明(圖2)透露，AI+IoT兩者結合已是必然，且陸陸續續有許多應用已經實現，小從家庭生活中的智慧音箱、智慧家電、掃地機器人、門禁監控；大至無人機、自動駕駛車輛等，都是AIoT的概念，而這些應用都有著邊緣運算的概念。
韓揚銘表示，硬體、軟體技術日新月異，在軟硬體效能持續提升之下，AI功能越來越容易在終端產品上實現；也因此，對於想要創造新應用，做出差異化的業者而言，會開始想方設法的將AI整合至現有和未來的系統與產品上。所以，AI的應用場景越來越分眾。
而AI分眾化的趨勢，也連帶影響運算晶片的發展。對此，工研院IEK曾指出，邊緣端運算晶片的發展將走向分眾專用化，未來不論是智慧音箱、無人機、機器人、AR/VR、智慧監控等新興應用，都將走向分眾專用晶片。例如在智慧手機市場，蘋果(Apple)所發表的A11 Bionic晶片、海思半導體的麒麟970晶片，三星及聯發科也預計推出相關Neural Engine SoC。
簡而言之，AI分眾化已然成為不可逆的趨勢，而AI晶片設計也有所變化，不再如過往一直探究的，究竟是CPU、GPU、FPGA或是ASIC哪種晶片適合AI應用，因應各種不同的應用場景，AI晶片的設計開始走向了所謂「領域專用架構(Domain Specific Architecture, DSA)」的概念。
DSA意指針對特定領域的需求屬性，打造客製化的運算架構。此一概念是由圖靈獎(Turing Award)得主John Hennessy與David Patterson提出。在摩爾定律(Moore's Law)逐漸面臨瓶頸的情況下，通用型處理器未來的效能發展，勢必會面臨困境。僅依靠製程的演進，越來越難大幅強化晶片的性能、功耗或面積。而未來晶片業者要如何提出效能更強的產品？John Hennessy與David Patterson認為要從架構上著手，而DSA將成為未來發展機會最大的方向。
例如RISC-V便是基於DSA概念而生，其發展在AI的推波助瀾之下持續攀升。林志明表示，RISC-V開放架構可以讓IC設計業者依照需要，進行「深入淺出」的設計。若要實現較複雜的應用，可以增加特用指令集，設計性能較高的模組；當然，也可以憑藉原有的指令集因應較為簡易的應用。簡單來說，RISC-V具備靈活、開放的特性，可讓設計者依照自身的需求，針對消費電子、IoT、工業、影像監控等應用，推出具AI運算的CPU；對於想要開發專有領域架構用CPU的廠商而言，也能縮短開發時程，並降低授權所需成本。
林志明透露，RISC-V的成長與AI息息相關，該公司旗下的RISC-V授權案件數也高速成長，包含中國、台灣等亞太市場及美國市場均廣為採用。從2018年到現在，RISC-V授權合約大約有30件，其中AI相關應用的案子約有13、14件(像是語音辨識、人臉辨識等)，將近一半的比例。由此可見，在過去幾年IC設計業者認為，即便無法像NVIDIA或其他大廠成為AI領先者，但也會盡量將些許的AI技術融入到原本的應用之中，RISC-V需求因而明顯上揚。
靈活/多變架構隨之興起
另外像FPGA供應商賽靈思，也在這波AI分眾化的浪潮中積極轉型，致力於提供更靈活、開放的平台，從原本的元件供應商轉變成平台化解決方案開發與供應商。
賽靈思總裁暨執行長Victor Peng也曾於2018年的北京開發者大會上表示，AI應用和AI模型的使用數量成長的速度非常快，未來已經沒有一個架構可以滿足所有的應用需求；為此，該公司積極轉型，朝靈活、彈性的平台架構發展，並提出自行調適運算加速平台(Adaptive Compute Acceleration Platform, ACAP)，運用FPGA彈性的特點滿足AI創新需求，期能打造靈活應變、萬物智慧的世界。
Khona則認為，AI晶片開發商未來面臨的主要難題在於適應AI領域的創新速度。業界於過去三年間累積可觀的創新成果，進步幅度超越之前五年的總和，而這五年間的進展更超過之前40年。由此能觀察出創新持續加速，但晶片的研發卻是個費時且耗費可觀資源的任務；因此，賽靈思藉由提供靈活應變的架構來解決此一挑戰。
韓揚銘進一步補充，簡單來說，現今AI晶片的規格發展主要由應用驅動。終端應用業者會依照自身應用場景開出所需的晶片規格。例如，目前智慧手機幾乎都有美肌功能，但要「美到何種程度」，各大手機製造商標準大不相同，因此對所需晶片的運算效能、規格也不一樣。所以，終端業者在AI晶片的選擇上，開始朝向「適合、適用」，而非一定要「最好、最強」。
總結來說，AI應用已朝分眾化發展，其晶片設計也不能依循過往思維，也就是一顆晶片適用所有應用場景的方式進行。AI處理器需保有彈性、靈活性與開放性架構，以滿足不同應用場景與終端產品；而處理器開發商跟軟體業者必須針對其鎖定的應用發展出最佳化的架構。
讓大眾買單AI 結合領域知識為當務之急
上述提到，AI應用開始走向多元化，各式創新應用逐漸興起，對於晶片設計製造商而言，除了要保持其產品靈活性、開放性之外，尋求各式合作夥伴，獲取更多領域知識(Domain Know-how)也成當務之急。
林志明說明，AI應用領域繁多，像是漁業、農業、金融、照護等。然而，要打造出符合市場需求的產品，硬體、軟體的技術發展固然重要，但同時也需這些應用領域的Domain Know-how協助，才能將獲得的資訊、數據資料發揮最大效用，研發出符合應用市場的產品/解決方案。晶片製造商或系統業者若只懂AI技術，沒有結合領域知識，自然無法讓所收集到的數據產生意義，也解決不了客戶的問題，其所設計、研發的產品當然沒辦法獲得市場青睞。
韓揚銘也認為，終端設備製造商導入AI不外乎是想做出市場差異化和提升消費者使用體驗。不過，現在販售AI產品，不能一昧強調其具有的「AI功能」，而是要結合「使用場景」。每個消費者的購買需求是很難用言語去描述的，與其不斷強調AI功能，不如從使用場景著手，好讓消費者感受到這是他們真正「會有需求」的產品或是應用，增加購買意願。
資策會MIC資訊電子產業研究中心資深產業分析師兼產品經理葉貞秀(圖3)則指出，不論是軟體業者、硬體供應商，或是新創廠商，都開始嘗試將AI結合各種不同的應用領域中。然而，這些業者無可避免的都會遇到系統、元件和應用場景該如何結合的挑戰，因為AI應用情景不斷推陳出新，且需求各不相同。可能不再像以往寫個程式，挑選通用的硬體元件(MCU、DSP等)，簡單整合後就能滿足多數應用。因此，對於想要發展AI的業者而言，需找許多合作夥伴，經過不斷的溝通後，才可將產品AI化，提供客戶加值概念。
總歸來說，終端設備業者和系統業者開始將AI整合至旗下產品之中。然而，要實現AI應用，並非軟硬體技術齊備就行，結合領域知識也是其中一項關鍵，要想辦法「挖出」各領域的Domain Know-how，將這些知識收攏到AI科技當中，才不至於打造出「知其然，不知其所以然」的AI解決方案。
AI分眾態勢成台灣IC設計產業新契機
AI熱潮發展席捲全球，在AI應用呈現分散化的時代，台灣該如何搶搭此波AI浪潮？對此，資策會MIC副所長洪春暉指出，建議產業以點、線、面的方式進行布局，發展AI首重「資料」，而台灣科技產業聚落密集的特性正是台灣發展AI的優勢，應建立涵蓋不同領域的高品質、標籤化資料聚落，加速產業內人才、技術與資金流動。另外，可以運用「平台」或「開題解題」方式，匯集不同技術利基的成果，並以解決方案產品發展為目標，避免研發成果停留在實驗室或專案化階段。
葉貞秀則表示，AI已經擴散至消費性產品，包括家電、家用物聯網產品、通訊產品等，而未來的AI消費產品，必須聽得懂人類更複雜的語言與語意、看得懂更複雜的影像辨識，最後還要會判斷人類提出的需求。為此，AI晶片的規格也隨著各種應用不斷推陳出新，「異質多核架構(Heterogeneous Systems Architecture, HAS)」的設計也隨之興起。
所謂「異質多核架構」，意指將不同型態的處理器(如CPU、GPU、DSP或一般通用處理器等)都整合進同一顆晶片內(像是SoC)。葉貞秀說，這類型的AI處理器可在較小的體積實現更高的效率、更快的處理速度，功耗也較低，但同時成本也相對較高。因此，HAS處理器，多用於高階產品或是資料中心之中。
不過，義隆電子董事長兼總經理葉儀皓則認為，HAS非是台灣IC設計產業布局AI市場的最佳解方。主因在於HAS處理器多採高階製程，如7、16、28奈米，換言之要開發這類型的晶片，須投入許多成本，例如光罩費用、智慧財產權(IP)、嵌入式記憶體、IC設計自動化工具(EDA Tool)還有工程實驗和量產治具等。粗估統計，28奈米晶片的開發費用約新台幣3億多；16奈米為4億多，而7奈米則達7億多，顯然不是一般IC設計業者或新創業者能負荷。
葉儀皓表示，台灣IC設計公司發展AI的利基仍在於多樣的邊緣應用和IoT設備，也就是如同前面所述，針對不同的應用，透過原本已建置完整的半導體供應鏈，和成熟的製程、封測技術，朝向單一的硬體架構發展，例如DSP、NPU等。也就是，台灣IC業者於AI晶片設計上，不一定要朝HAS發展，而是要看應用選擇開發適宜AI規格。像是要做複雜的影像處理，運用到卷積神經網路(Convolutional Neural Network, CNN)運算時，可以開發HAS處理器；但若是較簡易的運算分析，則不須用到如此高階的處理器。
葉儀皓指出，台灣發展AI的機會還是在於，以原有的數據和資訊做為應用發展的利基，並進行跨產業的合作，例如製造業、農牧業和醫療業的AI化，以克服資料量不足，並透過跨領域的合作最佳化IC架構，以因應AI演算的快速發展。
葉貞秀則建議，台灣廠商具有硬體製造的優勢，因此可以從關鍵模組供應來切入AI消費產品供應鏈，帶動零組件朝向高階產品線發展。另一方面，台灣具備快速、彈性的硬體設計與製造優勢，將可以協助AI軟體、雲端服務與新創廠商，共同進行產品開發，加速進入新興應用領域。
