人工智慧
- Advertisment -
XPU世代來臨 POL模組解決方案抬頭
在人工智慧(AI)、機器學習(ML)的風潮席捲下，運算設備所使用的核心處理器不再定於x86一尊。包含現場可編程閘陣列(FPGA)、繪圖處理器(GPU)乃至各種以安謀(Arm)架構為核心的ASIC處理器，都開始出現在伺服器等資訊產品上。對電源解決方案供應商而言，這些非x86處理器帶來了全新的產品規格需求，創造出新的市場，但也帶來新的考驗。
懷格(Vicor)應用工程師楊有承表示，對電源解決方案供應商來說，負載點(POL)電源以前是個相對單純的市場。除了少數利基型應用產品是以非x86處理器為核心之外，絕大多數的伺服器、個人電腦都是採用x86架構，特別是英特爾(Intel)的x86處理器。也因為如此，電源業界只需要依照英特爾頒布的VR規範設計產品，就有機會爭取到伺服器、個人電腦的訂單。
然而，隨著機器學習開始大行其道，現在市場上出現越來越多基於非x86的運算系統，例如基於NVIDIA GPU、基於Arm架構的ASIC，以及使用FPGA作為主要運算核心的新型伺服器跟板卡，現在在市面上的能見度，都比以往高很多。從電源解決方案供應商的角度來看，這意味著高度客製化的POL方案市場將同步升溫，產品規畫不用跟隨英特爾電壓調節器(VR)規範，也有可觀的生意可做。
但對電源解決方案供應商而言，這些新市場、新商機同時也意味著新的挑戰。以NVIDIA專為AI模型訓練、推論的高階GPU為例，其晶片因為採用最先進製程，工作電壓只有0.8V，但電流需求卻極為驚人，可達500A。在電流量如此巨大的情況下，電壓調節器必然得配置在離主處理器非常接近的位置，否則功率傳輸的損耗極大。但電壓調節器本身是雜訊很大的元件，若配置在離處理器太近的地方，可能會對處理器正常運作造成干擾。
GPU這類新型負載點電源對電流的規格需求極大，可達數百安培。這使得電源模組必須配置在非常靠近處理器的位置，帶來新的設計挑戰。
事實上，大電流的趨勢還會繼續向前推進，以滿足處理器越來越高的功率需求。目前Vicor與客戶正在合作的下一代產品，對連續電流的規格要求已經上看1,000A。這也意味著POL模組必然要與主處理器放在同一個封裝基板上，甚至直接配置在處理器封裝基板背面，主處理器的正下方，才能把POL跟處理器的距離縮到最短。如何處理POL的雜訊問題，會是電源解決方案業者搶食這個市場商機所需面對的最大挑戰。
貿澤擴展總部推動全球布局
貿澤電子(Mouser Electronics)將大幅擴展其全球總部和發貨中心，以滿足不斷茁壯成長的業務需求，迎接下一個十年。該工程目前正進行中，預計發貨中心將擴大12 萬平方公尺以上，另外還將在德州達拉斯沃斯堡南方的貿澤園區內新建一棟面積 4,700平方公尺的辦公大樓。
待新建工程完成後，貿澤佔地 32萬平方公尺的全球總部和超大型發貨中心的總樓層面積將達到9萬3千平方公尺，屆時將可容納下貿澤龐大的庫存，包括來自超過750家電子元件製造商，100萬種不同產品和技術的SKU。
在目前產業願景可期、營收成長達兩位數，且加入許多新的製造商合作夥伴的情況下，為了滿足全世界客戶不斷成長的需求，這家領先業界的電子元件代理商將持續擴大其全球版圖，提升公司定位。
貿澤2018年的銷售額達到19億美元，今年預期也將超越去年的成績。貿澤全球的正職員工人數已增加到2,400人以上，並計劃將在地客戶服務觸角延伸到四個新的全球據點：巴西、波蘭、越南和菲律賓。
貿澤總裁暨執行長Glenn Smith表示，隨著物聯網、電動車、人工智慧、機器人和5G等技術的快速演進，相信公司的地位將堅定穩固、屹立不搖。而且在客戶需求不斷增長下，公司也將隨之一起成長。
Smith繼續補充，有這些新產品和製造商的加入，更強化貿澤為客戶提供一站式購足服務的承諾，為客戶提供設計過程中需要的各種元件和開發工具。貿澤專注於供應業界最多樣化的產品類型，獲得我們來自世界各地持續擴大的工程師和採購人員客戶群的共鳴。
貿澤的24小時全球發貨中心目前每天處理將近20,000筆訂單，品項數約65,000件，幾乎所有訂單都能當天處理並出貨，送到來自220個國家/領土，超過60萬個客戶手上。這家全球化代理商在過去幾年裡投入了不少資本，購買最先進的自動化設備，以同級最佳的效率和準確度來處理訂單。
裝置端AI大勢所趨 新興架構晶片機會多
全球已從PC和手機邁向物聯網(IoT)與人工智慧(AI)科技時代，AI+IoT(AIoT)應用興起，掀起新一波典範轉移。智慧機器時代已然來臨，人工智慧普及化，其中包括自駕車、無人機、機器人等具備自主判斷、學習能力等機器。半導體應用仍扮演核心角色，是電子系統邁向AIoT裝置的關鍵技術。
工研院產業科技國際策略發展所產業分析師范哲豪表示，目前AI晶片的發展呈現少量多樣的發展模式，各式各樣的創新應用日新月異，但是殺手級應用尚未登場。根據IC Insights的統計數據可以看出，在全球半導體設計業產值及排名統計中，營收前10名的廠商裡，高成長率的NVIDIA、AMD和賽靈思(Xilinx)產品皆與AI正相關。另外，2019年全球半導體設計產業產值雖受中美貿易戰影響，但據IC Insights預估，2019年產值將達125,750百萬美元，年成長率6.0%，AI仍是產業發展的重要驅力。
現在各國政府皆已高度投入AI技術發展，根據工研院產業科技國際策略發展所統計，日本現已投入了560億台幣的資金在AI相關計劃中，另外美國投入了463億台幣，中國則是4.5億台幣，韓國也有1.5億台幣的投入。由此可以看出AI技術發展勢在必行。
范哲豪指出，由於AI需要進行邏輯思考，並做出判斷決策，故運算量相當大，但也因此導致功率與成本高居不下，目前廠商都先從高價產品開始導入，但是要全面普及仍需找出新興架構降低功耗與成本才行。從功率方面來說，雲端AI晶片的功率大約是100W以上，邊緣端則是20~100W，終端裝置AI晶片的功率則約是10~20W。因為雲端運算有安全性的疑慮，同時功率又高，而終端裝置的功率相對較小也較為安全，產品種類分散，市場機會更多，因此有愈來愈多的廠商投入終端裝置的新興AI晶片設計。
從現在趨勢也可以發現，在裝置端導入AI功能是大勢所趨。其中AI終端運算可以分為三大應用場景，分別是建築(Building-scale)，如工廠內部影像辨識、機器人控制、機台數據分析、預測維護等；還有家庭/個人方面的應用，如智慧音箱、智慧家電、AR/VR頭盔等；以及城市(City-scale)，如自駕車、無人機、自走載具、街頭監控系統等。而影像、語音語機器數據為主要的運算型態。
范哲豪進一步說明，現階段裝置端AI運算晶片產業仍存有一些挑戰，產品少量多樣，在矽智財(CPU+AI Engine)、人事成本、EDA工具和光罩方面的進入門檻高。同時廠商缺乏關鍵AI技術，又無力投入新興架構的研發設計。另外，部分廠商缺乏軟硬系統整合能力，導致產品競爭力不足。在設計方面，除了省電之外，還有小尺寸、價格考量、高效能運算等需求。
工研院產業科技國際策略發展所產業分析師范哲豪指出，由於晶片架構上的改變，相對應的軟體與開發工具也須要重新設計才能支援。
為解決此問題，范哲豪列出裝置端AI晶片所須要導入的新技術，須有可重組之半通用AI晶片架構，根據特定應用所需的類神經網路架構找出通用處並將其硬體化；還有以封裝形式將各類AI晶片異質整合，藉此在價格與晶片效能上取得平衡；以及在記憶體內的AI運算方式，進而克服處理器需要花費大量時間和能耗才能從記憶體中獲取資料的瓶頸，透過直接在記憶體中運算提高速度與效率。
經濟部攜手IBM/Google 打造在地AI生態圈
經濟部工業局成立IPO Forum作為國際大廠在台灣合作的重要管道，積極推動外商夥伴與台灣業者展開多面向合作，促進台灣資通訊產業升級轉型，並於近日舉辦首屆國際夥伴日(2019 International Partner Day)活動，攜手資策會及IBM、Google等國際大廠，共同展現在台成果以及未來展望。
國際夥伴日論壇的上半場以「共創在地智慧」為主題，邀請IBM、Google與學界分享如何整合專業技術及人才，串連AI生態圈加速採用新科技，帶動國內企業升級、推動產業數位轉型。Google Taiwan行銷副總經理利啟正指出，Google秉持著「AI First」的精神，側重於人才、經濟、生態圈三部分的發展。而人才就是台灣最大的優勢，台灣在Google全球的願景中扮演核心角色，2018年的HTC協議案生效後，台灣已成為Google在亞洲最大的研發基地。加上台灣在三、四十年前就已經是全球資通訊產業供應鏈的重要據點，若能善用硬體技術的基礎實力，加強軟體以及AI能力，必定能在台灣創建完整生態圈，在全球供應鏈占有一席之地。
IBM雲端運算暨認知軟體事業部總經理許仲言進一步說明，生態系的打造就是上下游合作、軟硬體整合，除了軟體和硬體的整合之外，也包括了人才方面的軟實力和硬實力的提升。硬實力就是知識技術的能力，而所謂的軟實力則是人才在態度積極、合作意願和溝通技巧等方面的能力。台灣的人才具備硬實力、更具備優秀的軟實力，只要能提供一個優良、平等、互利的平台做為基礎，台灣便能夠建構一個優秀的AI生態圈。
經濟部工業局組長林俊秀表示，順應全球商業模式、製造思維的改變，產業要能夠打通全球市場，如何鏈結國際、快速升級與轉型，已是企業必學課題。工業局為協助台灣資通訊產業進軍全球產業鏈，提供技術發展、人才培育與吸引、建置完善的試煉場域等協助面向，以加速智慧應用發展，期望再創台灣資通訊產業榮景。台灣產業要加速轉型，除了自主研發智慧科技之外，透過國際大廠扶植合作，擴大市場並深化技術，或結合新創能量與敏捷優勢，共創在地智慧模式，為台灣產業及人才建立永續發展。
AITA人工智慧戰略布局 搶攻裝置端AI晶片
全球搶攻人工智慧(AI)商機，AI晶片將扮演核心大腦的角色，是未來智慧裝置的關鍵元件，更是各界看好台灣半導體產業下一波的新機會。為此，在行政院科技會報辦公室、經濟部指導下，產、學、研攜手於近日啟動「台灣人工智慧晶片聯盟」(AI on Chip Taiwan Alliance, AITA)，匯集鈺創、聯發科、廣達、台達電等國內外逾50家指標性半導體與ICT廠商，以及國內大學及工研院等國家級研發機構，共同建構AI生態系、發展關鍵技術、加速產品開發，並聚焦於終端裝置用AI晶片。
AITA聯盟執行秘書暨工研院光電系統所副所長張世杰表示，全世界具備了半導體發展能量的國家都已經投入大量資源在AI晶片技術的發展，而台灣身為半導體強國，在這樣的競賽當然不能缺席。
張世杰指出，目前AI晶片市場呈指數型大幅度地成長，而AI晶片大致可以區分成通用型晶片及專用型晶片，專用型的AI晶片應用於特殊領域，並可進一步細分為用於雲端、邊緣或是在裝置端與感測器相結合的晶片種類。台灣適合發展的市場就是在專用型裝置端AI晶片，再針對專用型裝置端AI晶片進行分析，又可分為傳統架構以及仿腦神經的新興架構、新興記憶體，仿腦神經的專用型裝置端AI晶片將會是台灣發展AI晶片的新大陸。另外，目前在仿腦神經的專用型裝置端AI晶片市場已有布局的廠商為IBM、英特爾(Intel)、MYTHIC、Syntiant等。
裝置端AI晶片具備幾項優點，具即時性能夠馬上反應、即時辨識，適用於人臉辨識開鎖功能或自駕車應用；具可靠性，可以排出網路斷線的可能，在自駕車或無人機領域十分受用；而資料不須上傳雲端，便能保障使用者的隱私，在安全監控與健康管理等方面可以守護個人資料不外流；同時，裝置端AI晶片也能客製化，透過裝置端學習，滿足客製化需求，實現語音辨識、智慧眼鏡等應用。
張世杰進一步說明台灣發展裝置端AI晶片的優勢，由於台灣具記憶體產業能量，與記憶體和新興記憶體整合設計將是提升AI晶片效能的重要關鍵。台灣國內有多家廠商能生產製造記憶體，是發展AI晶片的優勢之一。而裝置端AI晶片直接針對數據進行處理，是資安與隱私保護的重要防線，台灣能徹底落實資訊安全防護，於國際合作中更容易建立起良好的信任感。另外，預期未來物聯網(IoT)裝置所使用的控制晶片多數將內含AI加速晶片。台灣過去具有豐富的IoT裝置製造經驗，未來若結合AI晶片共同發展，將在國際競爭上更具優勢。
告別資料孤島 FPC產業智慧製造邁入新紀元
智慧製造建立在資料的基礎上，但光是在生產線上廣布感測器或測試節點仍是不夠的，特別是在垂直分工十分精細的電子業界，不僅一家企業內部有資料孤島的問題，上下游業者之間的資料互通，挑戰更是艱鉅。然而，對某些電子製造業來說，上游原料的狀況，對下游業者後續加工的良率，會產生十分巨大的影響，軟性電路板(FPC)就是一例。因此，軟板大廠嘉聯益與其供應商柏彌蘭金屬化，歷經長期努力之後，終於實現了跨企業的資料互通，讓嘉聯益得以預先掌握來料的狀況，預先調整光罩及相關製程參數，不僅縮短了生產準備時間，也讓產品良率明顯改善。
先進軟板智造聯盟近日舉辦成果發表，該聯盟結合嘉聯益科技、聯策科技、柏彌蘭金屬化研究等業者的研發力量，透過工研院與台灣電路板協會(TPCA)及資策會創研所，整合產官研資源，聚焦提升台灣高階軟板研發實力。先進軟板智造聯盟以垂直產業鏈的概念，透過智慧平台的儲存運算分析，讓跨供應鏈的新製造方式實現，達到高良率高階軟板的生產，帶動產業智造新革命。
嘉聯益科技吳永輝總經理提到，因應高階軟板需求，加上工業4.0風潮席捲，在工業局支持下，結合上下游廠商與產官研的齊心協力，成就台灣首條半加成連續生產微細線寬雙層軟板產線，也是第一條跨供應鏈的智慧生產線。期望能帶動國內廠商投入，以促進國內產業技術升級，並往高附加價值產品製造之版圖移動。
台灣電路板協會林武宗副理事長表示，自協會2014年發布電路板產業白皮書，承蒙工業局大力支持，PCB產業逐步實現智慧製造的願景，以聯盟計劃為發端、統一PCB設備通訊協定、再經由聯盟團隊的發起，體現跨域串聯供應鏈、導入智慧DNA的新管理思維，為產業邁入高值化、智動化注入強心針，未來能繼續在PCB業界複製擴散，讓業界共獲其利。
扮演聯盟中聯網平台開發者，聯策科技的林文彬董事長提到電路板製程繁複，隨著邁入智慧化管理，近幾年關燈工廠的經營理念已在業界扎根，為了進行有效的智慧化管理，須蒐集設備生產參數、產品品質數據以及設備健康指標等數據，藉由上下游串連分享，優化垂直供應鏈，達到高效高良率的願景。
工研院機械所胡竹生所長表示，工研院積極協助先進軟板智造聯盟進行跨域整合，並導入工研院創新專利技術，以跨公司智慧聯網平台串聯上下游產品品質資訊；以雲端運算分析模組達到預先進行光罩補償設計及產線設備調整，縮短生產預準備時間；以人工智慧及機器手臂整合技術改善員工工作品質及提升效率。未來，工研院將持續強化高階產品自主研發能力，協助國內產業開創藍海新局面。
先進軟板智造聯盟建置台灣首條「跨供應鏈的卷對卷半加成連續生產微細線寬雙層軟板產線」，解決過去電路板產業痛點，可連續生產幅寬250公釐，線寬僅15µm的雙層通訊軟板；並透過智慧平台及SECS/GEN通訊協定的導入，讓上游廠商的生產品質資訊可即時傳送至終端製造商，及早因應板材品質資訊預先進行光罩補償設計及生產設備參數的調整，帶來生產預備時間由5天縮短至半天，及提高產品良率功效，進而帶動每年約10億投資及開創每年至少31億高階軟板產值。
此外，電路瑕疵檢測長期需仰賴大量人力時間及經驗進行真偽瑕疵點的判讀及瑕疵品的剔除，檢測人員長時間觀看螢幕易造成眼睛疲勞及誤判率隨時間提高等問題。本計畫透過自動光學檢測設備(AOI)、對比式人工智慧影像辨識技術及高精度機器手臂等技術整合，讓機器手臂可以直接依照AI的判斷，將瑕疵品剔除，省下大量人力作業的負擔。
為持續改善FPC智慧製造歷程，與大數據時代來臨下必經的跨業結合，先進軟板智造聯盟成果發表會期許借鏡跨域的成功案例，重新活化工廠配置，促成生產供應鏈的智慧平台建立，進而達成智慧化、高值化的工作目標，藉此更強化產業間的交流互動與PCB業界複製擴散，達成綜效、提升產業整體競爭力。
2019 TAICS標準論壇掌握產業AI新趨勢
AI世代即將來臨，為有效掌握當前產業趨勢，台灣資通產業標準協會(TAICS)特於近日舉辦「2019 TAICS標準論壇，產業AI化應用發展趨勢」，邀集各界專家，從全球產業觀點切入，探討人工智慧技術發展與產業AI化於台灣應用之實證成果。本論壇邀請到的單位有國網中心、台灣微軟、聯發科技、BravoAI、中華電信、牧德科技、神盾、程曦資訊、台北醫大、工研院與宏碁等多家產學研代表，分別以智慧商務、智慧製造、智慧醫療與智慧交通等領域為例，透過全球產業AI化之趨勢、應用實例來進行分享，深度與廣度並重，協助國內產業界掌握AI產業最新趨勢脈動，引領未來布局。
主持人台灣資通產業標準協會秘書長周勝鄰說，「AI產業化」與「產業AI化」是AI產業發展不可或缺的二大主軸。儘管AI產業應用面仍在發掘中，不過，產業AI化在台灣的發展有無窮潛力，我國除可善用自身IC設計產業之優勢外，並可結合關鍵技術在智慧製造、智慧商務、智慧醫療與智慧交通等利基領域，聚集新的產業聚落。在專題演講中，國家高速網路與計算中心主任史曉斌從首部國造AI運算與大數據研發平台出發，他說，台灣第一個自研自製國家級AI雲端計算平台 (Taiwan Computing Cloud, TWCC)，已取得全球500大超級電腦排名第20名的佳績。未來國網中心將協同產業界，加速AI演算和技術研究，為台灣產官學研創造更具科技競爭力的優勢。
微軟台灣首席技術與策略長丁維揚從全球角度看台灣AI產業發展契機。他指出，有接近三成的台灣機構己經開始探索人工智慧旅程，不過仍缺乏採用AI的文化特徵，建議台灣須強化策略、能力及基礎設備的佈局。聯發科計算系統研發本部總經理陳志成則探討邊緣AI技術如何重新定義智能設備，改變人工智慧之現在與未來。BravoAI創辦人趙式隆指出，技術與資料的結合，才是真正的人工智慧，建議由新創出技術，企業出領域知識與資料，才能促成多贏的產業轉型。
展望未來，TAICS除將持續引領產業掌握最新趨勢標準外，也期待後續能結合各種關鍵技術，找尋資通訊產業切入利基，落實產業交流平台宗旨，持續討論各項嶄新標準議題，發揮更加深遠的產業影響力。
邊緣AI運算當道 NVIDIA EGX讓決策更即時
隨著人工智慧(AI)技術逐漸成熟，相關企業積極布局AI邊緣運算。因應此潮流，NVIDIA發表了EGX加速運算平台，讓企業能在邊緣執行低延遲的即時(Real-time)AI作業，能針對5G基地台、倉儲、零售商店、工廠與其他作業站間龐大且不間斷的資料串流進行接收、分析並即時採取行動。
NVIDIA產品行銷經理Paresh Kharya表示，為了實現不同的工業應用，如智慧影像辨識分析系統(IVA)、資料中心(Data Center)、嵌入式系統(Embedded)和汽車等等，NVIDIA推出了EGX加速運算平台。現在的資料量越來越大，所有的分析必須是立即的，才能即時做出決策，因此即時邊緣AI的重要性也顯得更加重要。
Kharya舉例說明，在醫院，可以利用即時邊緣AI協助醫生做出醫療診斷；在智慧城市(Smart City)的應用，也可以用來辨別車輛，進行分析決策，藉此控制車流，達到疏通壅塞的目標。NVIDIA EGX平台將加速AI運算的力量帶到了邊緣，讓智慧零售、醫療保健、製造業、運輸和城市都能具備更即時的AI運算能力。
另外，EGX擁有強大的擴充性，小至體積極小的NVIDIA Jetson Nano，以僅僅幾瓦的耗能就能提供如影像辨識等任務所需每秒五萬億兆次浮點的運算(TOPS)；規模亦可大至一整櫃的NVIDIA T4伺服器，為即時與因辨識和其他即時AI任務提供超過10,000兆次浮點運算的效能。
同時NVIDIA EGX在架構上支援雲端提供的NVIDIA AI運算。在雲端開發的AI應用程式可以在NVIDIA EGX上運作，反之亦然。內含EGX的NVIDIA Edge Stack可以連接到雲端IoT服務，使客戶能從AWS IoT Greengrass和Microsoft Azure IoT Edge遠端管理他們的服務。
NVIDIA EGX也具備了企業級的安全保障，NVIDIA的AI和運算技術結合了Mellanox、Cisco等大廠的網路、儲存和安全技術，進而實現更高階的隔離和安全性，同時又不會影響CPU的效能。
耐能智慧AI晶片實現3D人工智慧方案
人工智慧(AI)產業已經成為全球科技巨擘的下一個兵家必爭之地，令人驕傲的是，台灣在這一波浪潮中並沒有缺席，不到四十歲、生於台灣的劉峻誠創辦了AI公司耐能智慧(Kneron)，並獲得奇景光電、阿里巴巴創業者基金、中華開發、李嘉誠旗下維港投資、高通等頂尖投資者支持，推出一款震撼業界的3D人工智慧解決方案。
耐能發表首款名為「KL520」的AI晶片系列，將神經網路處理器的功耗降至數百mW等級，為各種終端硬件提供高效靈活的AI功能，其中一項高精準度的3D人臉辨識功能，可達到高解析圖片、影像、3D列印模型、蠟像均無法破解的技術水平。
KL520 晶片甫投入市場，即獲得全球知名企業青睞，包括鈺創及其專精3D深度圖之夥伴公司鈺立微電子、納斯達克上市企業奇景光電、工業電腦大廠研揚科技、專業通訊元件設計及通路商全科科技、和碩聯合科技、以及大唐半導體、奧比中光等。透過KL520的AI運算能力，將各類產品效能全面提升。
率先與耐能合作的奇景光電，執行長吳炳昌表示，耐能先進的人臉辨識算法，與奇景開發的SLiM 3D 感測解決方案整合，提供給安防領域最佳的3D 人工智慧方案，兩強聯手，必定能讓3D人工智慧在安防領域發揮更大的作用和價值。
成立於2015年的耐能，總部位於美國聖地牙哥，創辦人劉峻誠畢業於台南成功大學，獲得美國雷神公司(Raytheon)獎學金和加州大學獎學金，赴美深造，就讀於美國加州大學柏克萊、洛杉磯與聖地牙哥分校的共同研究計畫碩博班，之後取得加州大學洛杉磯分校電子工程博士學位。陸續在高通(Qualcomm)，三星(Samsung Electronics)，晨星半導體(MStar)任職，長時間投入於AI技術的研發。
耐能的獨特技術，在於研發出一款高效率、低功耗的AI晶片，把AI運算的場域從雲端轉移至終端設備，不僅能達到即時辨識與判斷，同時還提供軟硬體結合的解決方案。
另外，KL520晶片的「可重組式人工智慧神經網路技術」，會根據不同任務進行重組，減少運算複雜度，保證在不同的卷積神經網路(CNN)模型上的使用，無論是模型內核(kernel)大小的變化、模型規模的變化，還是影像輸入大小的變化，耐能AI晶片都能保持高效率使用運算(MAC)單元。
耐能的AI晶片成功實現高效運算，數據格式按運算需求靈活調整，致使在計算過程中實現極高的「數據計算vs. 數據讀寫」比例，減少記憶體數據搬運的能量耗損；同時，耐能模型壓縮技術可有效減小模型大小，大幅降低在終端部署時的儲存成本，也大幅降低了記憶體頻寬的需求，並可提供較為通用，可同時支持語音及2D、3D影像的AI需求。
這堪稱是AI發展上的一個大躍進。Kneron成功實現人工智慧在雲端及離線終端上的互補，完成從提供IP到AI晶片的新里程碑，也開啟了人工智慧應用於不同層面的無限可能。
靈活/高效方案紛出 AI晶片百花齊放
人工智慧(AI)已逐漸走入大眾生活。AI應用正逐漸滲透到各種領域，例如農漁業、金融、工業還有各式消費性電子產品中。
AI結合物聯網(IoT)時代已然到來，然而AI應用種類各異，各有千秋，不同的應用領域要求的AI技術也不盡相同。為了搶攻龐大的AIoT商機，並實現各種AI創新應用，各大AI晶片供應商不僅持續提供可實現高效運算的解決方案，同時也朝更靈活、彈性的架構發展。
滿足多元應用 AI晶片朝靈活架構發展
AI快速成長，生活智慧化的變遷顯而易見，而要如何在變化多端AI市場中搶占商機。面對AI的迅速發展，未來已不能倚靠單一架構滿足所有應用需求；在傳統的硬體設計方式及設計週期漸漸趕不上AI演算法的推陳出新之時，靈活、彈性的平台架構便應運而生，以滿足AI應用需求。
AI應用推陳出新 賽靈思力轉靈活彈性平台
賽靈思(Xilinx)大中華區業務副總裁唐曉蕾表示，AI應用相當多樣化，且屬性多不相同。也因此，在資料、記憶體結構、效能和精度上等方面都會出現客製化需求。以精度為例，有些應用需要99%甚至是99.9999%的精度，但有些應用則需97%的精度便已足夠。然而，97%和99%的精度雖然只差2%，但在運算資源需求上卻有著相當大的差異，因為要提升精度，須花費相當大的人力、物力和時間。也因此，在AI應用朝多元發展的態勢之下，為使運算時間、資源更有效率，應用業者不再只朝「最好」、「最強」發展，而是朝「最適合」，客製化需求由此而來，也因此，需要更彈性、靈活的設計平台。
賽靈思全球人工智慧市場資深技術專家張帆也指出，AI商業應用迅速增加，資料量以指數型成長，現有的運算架構已不敷使用。另外，由於各式AI創新應用不斷展露，也因此AI相關的訓練與推論呈現百花齊放的狀況，可說平均兩個星期到一個月就有一個全新的演算法提出，因此，更需要新一代具高效能、且彈性靈活的架構來因應此一狀況，滿足AI演算法和應用。
為此，賽靈思便積極轉型，將自身定位成靈活、彈性的系統平台供應及服務業者，而不再只是單純的可編程技術/硬體供應商，例如之前所發布的Versal ACAP平台便是其中一個例子。
賽靈思工業、視覺、醫療與科學市場總監Chetan Khona(圖1)說明，Versal ACAP結合許多創新成果，讓軟體開發者、資料科學家及硬體開發者都能自行加以編程與最佳化，以跟上AI的快速演進；且能讓開發者創建專用領域架構(DSA)，在不使用新晶片的狀況下就能自行著手開發客製化演算法。
圖1 賽靈思工業、視覺、醫療與科學市場總監Chetan Khona說明，AI晶片開發商未來面臨的挑戰為適應AI創新速度。
Khona認為，網路邊緣的AI需要在效能、功耗及售價等因素之間取得理想的平衡點；而該公司的Edge AI解決方案能透過先進的量化以及剪枝(Pruning)技術克服此一挑戰。將網路量化為INT8與更低的單元，再搭靈活應變的架構，能讓系統層級效能提高約2倍，或發展出更具競爭力的技術；而剪枝技術則能將網路最佳化，在不犧牲精準度下達到更理想的效能、延遲、能源效率以及成本。
CEVA確保硬體/軟體編程彈性
CEVA客戶行銷及AI策略資深總監Yair Siegel(圖2)則表示，當今的AI應用市場相當分散，沒有一種設備可以滿足所有需求。不過，雖然說各種產品和應用對處理器性能要求都不盡相同，但相似之處皆在於希望能夠利用演算法上的簡單更新，來因應市場變化。所以AI解決方案要保持一定的靈活性，且還須要關注軟體的可編程性，才能使AI產品從研究、設計時期就能平穩地進入量產階段。
圖2 CEVA客戶行銷及AI策略資深總監Yair Siegel表示，2019年將開始看到更多帶有AI功能的攝影機出現。
因此，AI處理器的研究重點在於，演算法精確度與侷限於電池及成本因素的硬體最佳化。換言之，便是能否僅利用設備電池的小量電量，在有限的硬體區塊上執行最新技術。
Siegel指出，為此，CEVA備有用於邊緣深度學習的專用低功耗AI處理器「NeuPro」，可實現高效的硬體加速性能，同時仍保持可編程解決方案的靈活性，且憑藉軟體即可輕鬆升級，以滿足廣泛的終端市場需求，包括物聯網、智慧手機、監控、汽車、機器人、醫療和工業等。除此之外，CEVA還與演算法開發人員合作，讓後者專注於針對網路最佳化，利用設備本身來進行處理。期能讓設備製造商獲得性能更佳的硬體，且還可以快速、多次進行軟體更新。
Siegel透露，簡而言之，該公司的AI解決方案可實現相應的調整，採用全面性的解決方法，不僅能為不同的案例提供可擴展性，並能提供工具和函數庫的自動化以縮短開發時程，同時也兼顧靈活性和效率。
高效晶片仍占一席之地
上述提到，AI應用多元，驅使邊緣運算需求與日俱增，應用開發商與半導體業者皆積極將深度學習或機器學習導入前端設備，希望使前端裝置也有人工智慧的能力；而要滿足多樣化的AI產品，除了靈活多變的架構外，高效的運算也是不可或缺。
英特爾齊備邊緣運算方案
英特爾(Intel)業務暨行銷事業群商用業務總監Alex Cheng(圖3)表示，AI+AIoT是目前相當熱門的話題。在AI興起之後，前幾年產業多是發展「AI Training」；然而，當模型Training好之後，下一步便是導入實際應用，而IoT裝置即是個很好的應用目標，像是監控攝影機、視覺檢測裝置等，都已陸續引進AI。也因此，AI+IoT必將是日後的發展方向，同時也具備很大的潛在商機，成為兵家必爭之地，為此，英特爾也積極布局，備有各式解決方案。
圖3 英特爾業務暨行銷事業群商用業務總監Alex Cheng認為，AIoT已成為各大晶片商兵家必爭之地。
例如不久前所發布的全新視覺加速器設計產品(Intel Vision Accelerator Design Products)，強化邊緣裝置AI推論與分析能力。此一解決方案包含Intel Movidius視覺處理器與Intel Arria 10 FPGA，皆以OpenVINO軟體工具套件為基礎，提供開發者在多種Intel產品中使用進階的神經網路效能，在物聯網裝置中運行更具成本效益的即時影像分析和智慧化功能。
英特爾指出，用此一視覺解決方案的企業，不論是在資料中心、現場部署伺服器或於邊緣裝置內採用深度學習人工智慧應用，深度學習推論加速器皆可擴充至其需求程度。
除此之外，為更進一步擴展AI終端市場，英特爾近期也再度推出用於智慧邊緣的高密度系統單晶片處理器「Intel Xeon D-1600」。此一處理器是高度整合的系統單晶片(SoC)處理器，專為功耗和空間有限的密集環境而設計，其結合內建的Intel QuickAssist技術和Intel虛擬化技術，可為虛擬化網路功能(VNF)，控制平面和中階儲存解決方案提供更上一層樓的工作負載優化效能和硬體增強安全優勢。Intel Xeon D-1600處理器最多可支援8個核心。
添加DSP指令集 RISC-V處理器效能大增
搶攻AIoT市場，晶心科技則是推出其32位元A25MP和64位元AX25MP...