AI

全球醫療產業在AI技術不斷發展下，正積極轉型向智慧醫療發展。宜鼎國際憑藉多年來投注於醫療產業的先進資料技術與客戶合作經驗，早已建構龐大數據智能化基礎，不僅協助穩定可靠的後端資料計算與大數據分析，未來更將穩定朝向各種智慧醫療應用深入佈局，包含智慧病房管理、遠距健康照護系統、以及各種醫療儀器的智慧聯網應用等。 透過智慧化的軟硬韌體整合技術，宜鼎國際推出針對智慧醫療的記憶體和儲存解決方案，幫助醫療領域導入AI過程的各種挑戰，此外，面對AI的挑戰，宜鼎推出客製化雲端管理工具iCAPTM，可強化設備耐用和簡化物聯設備管理。透過iCAPTM串聯所有設備中的儲存載體，不僅可隨時監控板端組件的使用壽命和狀態，也能進一步監控醫院使用的各種便攜式設備中的電池，包含各種外接醫療器材與設備的資料遠端備份與還原、以及機動管理病床護理車，各地救護車等，使所有設備都在同一個平台輕易管理，進一步幫助醫療程序數位化串聯，為智慧醫療物聯網打下良好基礎。 宜鼎指出，相對於其他不同領域的工業應用，醫療產業對於元件測試要求往往更加嚴峻，平均測試期間至少為3~5年，因此廠商的長期穩定供貨能力非常重要，例如在工業級DRAM方面，除高性能DDR4記憶體模組外，宜鼎DDR3和DDR2等產品都可滿足長期穩定供貨需求。此外，像是血液檢測、尿液檢測等醫療設備，必須做到高度防菌感染與隔離防治基礎，宜鼎敷形塗層(Conformal Coating)技術進一步保護儲存載體。 智慧醫療應用通常需要針對不同情境設計客製化需求，特別是安全上的防護。例如在規劃MR或CR系統時，有必要考慮所有方向的電波磁場，任何細微的因素都可能會對敏感的電子設備造成影響，也會威脅設備與資料安全，因此，宜鼎在所有零組件在前端製造階段就導入特定的無磁線路設計。另一方面，基於醫療個資保護與數據安全的需求，宜鼎除了內建AES以及iOpal加密技術外，還具備獨創的Paring Check技術，可使SSD自動對比系統元件進行認證，一旦密碼錯誤，便會即刻鎖定資料，以全方位的資料保護機制完整建構安全醫療環境。而針對醫療設備常見的擴充連結需求，宜鼎也有各式擴充卡如外接顯示卡、PoE卡以及USB等可供選擇。

晶心科技總經理林志明表示，RISC-V的成長與人工智慧息息相關，在過去幾年IC設計業者認為有著即便無法像NVIDIA或其他大廠在成為AI領先者，但也會盡量將些許的AI技術融入到原本的應用之中。如此一來，便多多少少會採用晶心旗下的產品，也因此，RISC-V處理器的需求便明顯上升。 林志明進一步說明，RISC-V處理器系列於2018年呈爆發式成長，全年授權案件數也高速攀升，在已簽定的21份的RISC-V解決方案授權合約當中，超過三分之一授權予中國廠商，另三分之一為台灣廠商，其餘授權合約分布在美國、韓國及日本。晶心與合作伙伴攜手開發的產品應用十分廣泛，包括區塊鏈、通訊設備、指紋辨識、可编程邏輯閘陣列、物聯網、應用程式安全和固態儲存設備。 另一方面，在AI驅動RISC-V需求持續成長的同時，為讓更多開發者加入RISC-V架構開發各種應用，晶心也致力透過「EasyStart」RISC-V推廣聯盟拓展RISC-V市場版圖，藉此幫助該公司的設計服務合作夥伴掌握基於RISC-V的SoC設計及開發最新趨勢。EasyStart聯盟成員遍布全球，成員數已達15家，並正朝著20家的目標邁進。 據悉，EasyStart聯盟成員包括Alchip、ASIC Land、BaySand、CMSC、EE Solution、INVECAS、MooreElite、PGC、SiEn(Qingdao) Semiconductor、Silex Insight、Socle、XtremeEDA等，這些公司涵蓋90奈米至10奈米的製程技術，有些公司則同時提供SoC設計和一站式服務。這些聯盟成員將會以晶心科技的V5 RISC-V處理器核心為客戶提供完整RISC-V設計服務解決方案。   晶心科技總經理林志明表示，人工智慧與RISC-V息息相關，進而推動晶心旗下處理器持續成長及授權合約增加。  

製造工廠慢慢變成儀測和連網環境，以IIoT為認知製造的核心元件，轉型成網路實體系統(圖1)。由嵌入實體資產中的IIoT 裝置和感應器提供有關這些系統功能的資料。資料經過分析後，企業便能更加瞭解其製造作業，帶來新的商機及營運機會。 圖1　IIoT技術是推動智慧化製造的基石。 電子業力求加強網路安全 製造作業是電子業價值鏈中最昂貴的部分之一。雖然IIoT能提供洞察見解，但是暴露於潛在網路攻擊和多方面損害的風險仍會增加。攻擊者會趁機利用每一端點當作新的未授權入侵點，無論是由網路駭客、競爭對手、從事企業間諜活動的國家/地區，還是心懷不滿的員工所致，一旦受到攻擊，損失就會以迅雷不及掩耳的速度排山倒海而來，風險可能包括設備故障、關鍵資料遺失以及公司聲譽受損，甚至人身傷害或失去性命。 IIoT技術可以大大提高營運效率，但是如果沒有好好保護，還是會暴露潛在的新攻擊面並成為資安目標。每台新機器一連接到其他IIoT裝置就會變成「系統的一份子」。像5G這類技術擴充，提供了攜帶大量資料所需的基礎架構，就有可能增加IIoT技術的使用率。 不過，這也會擴大攻擊面。從高價值資產或服務、雲端中的關鍵工作負載、網路實體系統中的程序控制子系統，再到關鍵業務和營運資料等等，幾乎任何事物都有可能變成攻擊弱點。想想看一家電子製造商使用安全儀表系統(SIS)控制器，從工業設備讀取資料來協助確認機器是否運作正常。若這些系統遭到入侵，有可能會造成實體損壞並中斷作業進行。事實上，2017年12月Triton/Trisis惡意軟體曾被用來對付大型電氣公司Triconex/Tricon安全系統韌體中的零時差漏洞。這導致緊急保護系統出現故障(圖2)，不僅會損失資產，網路本身也會面臨風險。   圖2　對工業控制系統(ICS)的攻擊。 組織所需的功能不僅要保護資產和網路，還要保護整個IIoT生態系統。而在發生資料外洩時快速有效應變的能力也是同樣重要。各行各業都必須設法因應變本加厲的IIoT威脅。 為了能更瞭解IIoT安全風險和影響，IBM商業價值研究院(IBV)與Oxford Economics合作訪問700名高階主管。他們分別代表了18個國家/地區700家的能源和工業公司，其中269家是電子業，這些公司都在工廠實施了IIoT。 即時設備監控和預測性維護就是兩種最普遍的應用，分別占65%和58%(圖3)。機器和程序自動化也是常見的應用，分別有45%和43%的比例在使用IIoT技術來自動化執行機器和工作流程。 圖3　IIoT技術在電子工廠和裝配線中的五大應用。 電子公司意識到網路安全風險，並設法相應地管理其安全支出(圖4)，但是他們卻不甚清楚IIoT網路安全對於保護今後業務免於IIoT威脅所必備的綜合能力(技能、控制、實務和保護等技術)。 圖4　IIoT網路安全風險對照安全支出因素。 公司在迅速採用新技術時，若沒有優先考慮適當的網路安全保護措施，就會讓自己陷入重大風險： 1.暴露機密資料：受訪高層主管將此評為風險最高，68%已強烈意識到敏感或機密資料(例如客戶和員工資料、供應商/合作夥伴智慧財產與合約)暴露，對公司成長影響甚鉅，例如損失收入、投資、率先上市的優勢，以及在競爭對手或仿冒者夾攻下流失業績。 2.企業聲譽受損和喪失大眾信心：根據60%高階主管表示，安全資料外洩對電子公司形象和聲譽造成的打擊，影響甚鉅，包括品牌的信用和信賴喪失，企業和客戶關係也會遭到無法挽回的傷害。 3.蓄意破壞導致生產中斷：45%受訪高層主管表示，此類風險可能會大幅造成實體設備受損，致使工廠從業人員受傷。網路攻擊者可能會入侵公司工業系統並操縱網路基礎架構，這樣一來，入侵就能竄改機器軟體程式或監督控制與資料蒐集系統(SCADA)。 4.智慧財產(IP)遭竊：智慧財產是未來成長的關鍵。像是工程計畫和專屬製造程序等商業機密都是競爭優勢的來源。有40%電子公司認為智慧財產(IP)遭竊可能會對未來成長造成影響，一次小小的入侵就會讓產品設計智慧財產(IP)陷入風險。 5.違反法規要求：「一般資料保護規範(GDPR)」於2018年5月生效，加上治理產品與生產程序的環境法，增加了法規暴露和風險。38%受訪高層主管非常擔心違反規定造成的潛在影響，例如可能導致巨額罰款的違規行為。雖然GDPR會保障個人資料，但也需要注重實際營運政策，例如排放、能源使用、可回收性和資產/廢棄物處置。 從支出角度來看，61%受訪電子業表示，他們主要是為了保護機密資料才會花錢設置IIoT網路安全機制，超過50%受訪者主要也是為了減少安全事件、事故和資料外洩才這麼做。 確保工業聯網安全　早期領導者率先動作 調查發現有一群早期領導者已經採取措施在保護IIoT環境。所謂早期領導者是指各行各業中受訪的公司，包括電子業。受訪的700家公司中有76家屬於早期領導者，其中36家都是電子公司，此一族群係依照以下三項指標評比為表現一流的前25%企業。 雖然早期領導者離真正保護環境還有一段距離，但是他們確實比其他公司更精準地掌握了IIoT部署和連網工業控制系統(ICS)的安全需求。47%受訪者制定了正式的網路安全計畫，以便建立、管理及更新所需的 IIoT 網路安全工具、程序和技能，而其他電子公司僅占13%(圖5)。   圖5　瞭解IIoT網路安全和採用正式的網路安全計畫。 早期領導者在業務和作業流程中整合IIoT網路安全方面也表現出更高的成熟度，有99%不僅僅只是投資該領域(圖6)。有20%的早期領導者已優化了IIoT網路安全功能並看到了效益，其他電子公司則占6%。早期領導者各自使用網路安全解決方案來保護資料和裝置，並使用自動化與認知技術來偵測和回應以下三個領域的安全威脅(圖7)，分別為保護整個IIoT生態系統的資料、在整個生命週期保護裝置，使安全系統保持最新狀態，以及運用自動化與認知智慧增強偵測和回應。 圖6　IIoT網路安全整合成熟度。   圖7　早期領導者各自差異。 在保護整個IIoT生態系統的資料方面，電子供應鏈共享大量機密資料和智慧財產，如果遭到暴露或是遭竊，那麼公司、供應鏈及合作夥伴的未來事業都會陷入風險。值得注意的是，33%的早期領導者與14%的其他電子公司已領先實施特定的網路安全解決方案。 而在整個生命週期保護裝置，使安全系統保持最新狀態方面，未受保護的感應器和裝置會使營運技術(IT-OT)IIoT的網路遭到攻擊，對實體和財務造成不堪設想的後果。37%的早期領導者已領先保護他們的IIoT裝置，其他電子公司則占23%。 至於運用自動化與認知智慧增強偵測和回應，則是因應保護和預防無法解決所有問題，請備好系統以偵測資料外洩並減輕損害。傳統偵測系統可以解決已知的攻擊和威脅傳染媒介與漏洞。而人工智慧(AI)、機器學習和進階行為分析等認知能力，則有助於因應未來可能出現和遭到利用的「未知狀況」。28%的早期領導者已領先實施這些綜合實務，其他電子公司則占19%。 運用九大基本實務降低安全風險 早期領導者應用了風險型和規範型的安全方法，著重於九大特定實務(圖8)。   圖8　早期領導者採用各自不同的安全實務。 保護IIoT生態系統資料 電子公司最大的IIoT相關風險就是機密資料暴露。事實上，電子工業發生的各種IIoT 網路安全事故中，包括疑似、未遂和成功入侵等，資料洩漏排名第一，占總數的26%。以下做法有助於解決類似事件。 1.實施IIoT裝置使用者隱私控制：如果使用資料能鏈結到裝置，就可以推斷出有關公司生產和流程機密的資訊。為了解決這個問題，公司應該實施控管措施，讓使用者指定裝置資料的儲存方式，以及與第三方使用和共享資料的方式。在其他情況下，類似的策略也很重要，例如變更擁有權。 2.實施驗證使用者的IIoT鑑別：有兩倍之多的早期領導者(30%對15%)已領先採用這種做法。鑑別IIoT裝置身分的能力非常重要，特別是經常無人看管的IIoT機器對機器(M2M)情境。 3.定義明確的服務水準合約(SLA)以確保安全和隱私：有三倍之多的早期領導者(28%對10%)以這種方式監控和執行安全要求。為了對抗內部攻擊並防止資訊遭到盜用或外洩，就要實施資料存取控管。清楚掌握誰有權存取機密功能或資料，並密切監控和審核這些授權使用者的行為。 時時更新安全系統　 有23%的受訪者表示，電子IIoT部署中最易受攻擊的部分就是平台，而22%受訪者則表示是裝置和感應器。解決此點主要挑戰的四種做法包括： 1.庫存授權和未授權軟體：務必控管驅動IIoT元件的軟體版本、審查與版本相關的威脅並建立安全基準線。這些措施應該還要加上深入瞭解端點的作用與通訊對象。每個端點都要建檔、加到資產庫存中並進行監控。 2.部署內建診斷功能的IIoT裝置：早期領導者都有實施偵測裝置，能發現因元件故障或篡改企圖而引起的故障。IIoT端點經常要在惡劣的環境中運作，且長時間無人為操作。雖然端點的安全和隱私至關重要，但是卻不常在軟硬體中增設加密安全功能。 3.自動掃描連網裝置：持續評估和補救弱點的做法非常重要，但是主動掃描漏洞對ICS網路通訊不利，還會進一步影響產品和系統可用性。如果自動掃描不適用，也可以改用被動監控工具。 4.部署安全強化的裝置硬體與韌體：更換裝置通常成本高昂，而且新版裝置還可能不適用於提升的安全性。公司應該持續執行協調性修補和更新，雖然所要更新的裝置通常每天整天都在執行，還是要克服這種本質上的挑戰。這對不少製造時缺乏安全性的舊版設備尤其重要。 運用自動化與認知智慧增強偵測和回應 保護和預防無法解決所有問題，即使是安全開發和部署的系統也不能保證絕對受到保護。攻擊者不斷會伺機滲透系統，因此必須採用自動化機制來偵測和補救資料外洩。 據44%受訪高階主管表示，保護電子IIoT部署安全的最大挑戰，就是缺乏高技能的網路安全資源。電子公司可以實施AI驅動的自動化調查程序來減少以人工方式偵測威脅。若要有系統地為自訂警示訂定威脅的優先順序，可以定義機密資料與資產、網路分段和雲端服務。採用AI威脅偵測和補救措施共有兩種做法： 1.應用進階行為分析來偵測資料外洩並做出回應：有兩倍之多的早期領導者都在使用機器學習的行為分析。他們能應用企業級 AI支援的威脅偵測，找出異常的使用者活動，並排定風險的優先順序。早期領導者也已領先採用機器學習，自動執行正常行為的調適性模型、追蹤這種正常行為，並標記可能示意有新威脅的異常活動。 2.實施AI技術即時監控安全並做出回應：若能應用資料驅動技術，從外部和內部來源建立即時饋送的威脅情報，就能更快偵測出威脅並進行補救。 綜上所述，IIoT需要融合IT和OT這種能監控和控制實體環境的系統，但是過程相當複雜，且有一定的風險。不過IIoT技術務必要好好保護，否則其直接的營運和財務效益，可能會以整個生態系統的未來為代價。

人工智慧(AI)驅動RISC-V需求大幅上揚，晶心科技指出，自2017年第四季陸續面世的RISC-V處理器系列於2018年呈爆發式成長，全年授權案件數高速成長，已授權的RISC-V解決方案包含32位元的N25F/A25及64位元的NX25F/AX25。RISC-V開放式架構的熱潮勢不可擋，包含中國、台灣之亞太市場及美國市場均廣為採用。 晶心科技總經理林志明表示，RISC-V的成長與人工智慧息息相關，在過去幾年IC設計業者認為有著即便無法像NVIDIA或其他大廠在成為AI領先者，但也會盡量將些許的AI技術融入到原本的應用之中。如此一來，便多多少少會採用晶心旗下的產品，也因此，RISC-V處理器的需求便明顯上升。 林志明進一步說明，RISC-V處理器系列於2018年呈爆發式成長，全年授權案件數也高速攀升，在已簽定的21份的RISC-V解決方案授權合約當中，超過三分之一授權予中國廠商，另三分之一為台灣廠商，其餘授權合約分布在美國、韓國及日本。晶心與合作伙伴攜手開發的產品應用十分廣泛，包括區塊鏈、通訊設備、指紋辨識、可编程邏輯閘陣列、物聯網、應用程式安全和固態儲存設備。 另一方面，在AI驅動RISC-V需求持續成長的同時，為讓更多開發者加入RISC-V架構開發各種應用，晶心也致力透過「EasyStart」RISC-V推廣聯盟拓展RISC-V市場版圖，藉此幫助該公司的設計服務合作夥伴掌握基於RISC-V的SoC設計及開發最新趨勢。EasyStart聯盟成員遍布全球，成員數已達15家，並正朝著20家的目標邁進。 據悉，EasyStart聯盟成員包括Alchip、ASIC Land、BaySand、CMSC、EE Solution、INVECAS、MooreElite、PGC、SiEn(Qingdao) Semiconductor、Silex Insight、Socle、XtremeEDA及三家不具名的合作夥伴。這些公司涵蓋90奈米至10奈米的製程技術，有些公司則同時提供SoC設計和一站式服務。這些聯盟成員將會以晶心科技的V5 RISC-V處理器核心為客戶提供完整RISC-V設計服務解決方案。

Kyocera與Vicor近日宣布將合作開發新一代合封電源解決方案，以提高效能並同時縮短新興處理器技術的上市時間。Kyocera將運用既有封裝、模組基板及主機板設計技能將電源及資料的傳輸整合在處理器封裝內；而Vicor則提供合封電源電流倍增器(PoP)，實現處理器所需的高密度、大電流的傳輸需求。雙方可藉由這個合作解決更高效能處理器快速發展所面臨的問題，包括高速I/O、高電流需求及複雜性的相應增長等。 據悉，Vicor的合封電源技術可在處理器封裝內實現電流倍增，從而提供更高的效率、密度和頻寬。Vicor指出，在處理器封裝內整合電流倍增器，不僅可將互連損耗銳降90%，同時還可大幅減少通常大電流傳輸所需的處理器封裝引腳，轉而增加於I/O引腳的運用。 Vicor的合封電源解決方案曾在2018 NVIDIA GPU技術大會和2018中國開放資料中心峰會上展出。此一技術可實現從處理器底部進行垂直供電(Vertical Power Delivery, VPD)。垂直供電技術幾乎完全避免了供電傳輸(PDN)的損耗，同時提高了可運用I/O的數量和設計的靈活性。 至於Kyocera則具備數十年的豐富封裝、模組及主機板製造經驗，並在多種應用中採用了Vicor合封電源元件，因而累積了豐富的設計專業技術。Kyocera可透過其設計技術、模擬工具和製造經驗，為複雜的I/O布線、高速記憶體布線和大電流供電提供最佳設計。總而言之，透過這次的合作，Kyocera和Vicor將提供人工智慧(AI)及高效能處理器應用所需的全新解決方案。

Wave Computing積極布局人工智慧(AI)和邊緣運算(Edge Computing)。繼之前日前宣布即將開放MIPS架構(ISA)，供全球半導體企業、開發人員及大學開發新一代的系統單晶片(SoC)外，該公司於近期宣布推出全新TritonAI 64平台，讓使用者可透過單一平台就能用因應各種AI應用案例；同時，該平台提供高效的邊緣推理和訓練效能，以支持當今的AI演算法，同時為使用者提供未來所需的靈活性，確保其對AI演算法的投資。 Wave Computing首席執行長Derek Meyer表示，AI邊緣應用案例正迅速的成長，因而加劇系統單晶片(SoC)設計人員的挑戰。然而，傳統的IP產品並非專為AI設計，為此，該公司推出全新的AI平台TritonAI 64，實現AI邊緣應用的所需的推理和訓練，以支援現今和未來的AI應用；同時，TritonAI 64的推出是繼2018年收購MIPS的另一個里程碑，因其增強了該公司從數據中心到邊緣裝置的AI產品線。 根據技術分析公司Tractica研究指出，到了2025年，人工智慧產品全球市場規模將超過170億美元；而AI邊緣應用的潛在市場範圍(Total Addressable Market)則超過1億美元，成長的因素來自於對於更高效能的推理運算、訓練及AI工作負載日益增加。 而Wave Computing所發布的TritonAI 64，將讓使用者可透過單一平台因應各種AI使用案例。此一平台的特性包括具備MIPS 64位元SIMD引擎，此一引擎可與Wave獨有資料流程圖(Dataflow)和以張量為基礎(Tensor-based)的可配置技術(Configurable Technology)相結合，以及MIPS整合開發環境(IDE)和基於Linux的TensorFlow編程環境。

然而AI應用種類各異，各有千秋。不同的應用領域要求的AI技術也不盡相同。目前最受關注的應用類別當屬嵌入式視覺。這一領域的AI使用所謂的卷積神經網路(CNN)，試圖類比人眼的運作方式。在本文中，將探討電腦視覺(Computer Vision)應用與其他許多相關概念。 網路終端AI的要求 AI涉及創造一個工作流程的訓練模型，然後該模型在某個應用中對現實世界的情況進行推理。因此，AI應用有兩個主要的階段：訓練和推理。 訓練是在開發過程中完成的，通常在雲端進行。推理作為一項持續進行的活動，則是透過部署的設備完成。因為推理涉及的運算問題相對複雜，目前大部分都是在雲端進行，但是做決策的時間通常都十分有限。向雲端傳輸資料然後等待雲端做出決策非常耗時，等到做出決策，可能為時已晚，而在終端做決策則能節省寶貴的幾秒鐘時間。 這種即時控制的需求適用於需要快速做出決策的諸多領域。例如人員偵測相關應用，包括：智慧家庭電器、智慧音訊/影視消費性電子產品、智慧門鈴、自動販賣機、安全攝影機、智慧門等。其他即時線上的應用包括：智慧音箱、零售店攝影機、無人機、收費站攝影機、機器視覺、汽車後裝市場攝影機等。 在快速決策需求的推動下，目前將推理過程從雲端轉移到「網路終端」的訴求非常強烈，即在設備上收集資料然後根據AI決策採取行動。這將解決雲端不可避免的延遲問題。在地化推理還有兩個好處：第一個就是隱私安全。資料從雲端來回傳輸以及儲存在雲端，容易被入侵和盜取。但如果資料從未到達設備以外的地方，出現問題的機率就小得多。 另一個好處與網路頻寬有關。將視訊傳送到雲端進行即時處理會占用大量的頻寬。而在地做決策則能省下這部分頻寬，並將其用於其他要求較高的任務。此外，這類設備通常都是使用電池供電，如果是電源直接供電，兩者都有散熱限制，而對設備的持續使用造成限制。而與雲端通訊的設備則需要管理自身功耗的散熱問題。AI模型演化速度極快。在訓練始末，模型的大小會有極大差異，並且在進入開發階段以前，可能無法有效估算所需運算平台的大小。此外，訓練過程發生的細微改變都會對整個模型造成重大影響，增加了變數，這些也使得網路終端設備硬體大小的估計變得極為困難。 在為特定設備優化模型的過程中，始終伴隨著權衡。這意味著模型在不同的設備中可能以不同的方式運行。最後，網路終端中的設備通常非常小，也限制了AI推理設備的大小。 由此總結出以下關於網路終端推理的幾點重點要求： 用於網路終端AI推理的引擎必須： ．功耗低 ．靈活 ．可擴展 ．尺寸小 已有廠商開發出完全具備以上四個特徵的推理引擎。包含硬體平台、軟體IP、神經網路編譯器、開發模組和開發資源，能夠迅速開發理想中的設計。 推理引擎的選擇 將推理引擎構建到網路終端設備中涉及兩個方面：開發承載模型運行的硬體平台以及開發模型本身。理論上來說，模型可以在許多不同的架構上運行。但若要在網路終端，尤其是在即時線上的應用中運行模型，選擇就變少了，因為要考慮到之前提到的功耗、靈活性和擴充性等要求。 設計AI模型的最常見做法就是使用處理器，可能是GPU或者DSP，也有可能是微控制器。但是網路終端設備上的處理器可能就連實現簡單的模型也無法處理。這樣的設備可能只有低階的微控制器(MCU)。而使用較大的處理器可能會違反設備的功耗和成本要求，因此對於此類設備而言，AI似乎難以實現。 這正是低功耗FPGA發揮作用的地方。與強化處理器來處理演算法的方式不同，低功耗FPGA可以作為MCU的副處理器(圖1)，處理MCU無法解決的複雜任務之餘，將功耗保持在要求範圍內。由於低功耗FPGA能夠進行DSP運算，並能提供低階MCU不具備的運算能力。 圖1　FPGA作為MCU的副處理器 ASICs和特定應用標準產品(ASSP)對於更為成熟、大批量銷售的AI模型而言，採用ASIC或ASSP或許是可行之道。但是由於工作負載較大，這些元件在即時線上應用中的功耗太大。在此情況下，低功耗FPGA可以充當副處理器(圖2)，處理包括喚醒關鍵字的喚醒程序或粗略識別某些影片圖像(如識別與人形相似的物體)，然後才喚醒ASIC或ASSP，識別更多語音或者確定影像中的目標確實是一個人(或甚至可以識別特定的人)。FPGA處理即時線上的部分，這部分的功耗至關重要。然而並非所有的FPGA都能勝任這一角色，因為絕大多數FPGA功耗仍然太高。 圖2　FPGA作為ASIC/ASSP的副處理器 低功耗FPGA可以作為單獨運行的、完整的AI引擎(圖3)，FPGA中的DSP在這裡起了關鍵作用。即便網路終端設備沒有其他的運算資源，也可以在不超出功耗、成本或電路板尺寸預算的情況下添加AI功能。此外它們還擁有支援快速演進演算法所需的靈活性和可擴充性。 圖3　單獨使用FPGA的整合解決方案 低功耗FPGA構建推理引擎 設計AI推理模型的硬體需要不斷平衡所需資源數量與效能和功率要求，萊迪思的ECP5和UltraPlus產品系列能實現這類要求。ECP5系列有三種不同規格的元件，能夠運行一到八個推理引擎。其整合的的嵌入式記憶體從1Mb到3.7Mb不等。功耗最高僅為1W，尺寸也只有100mm2。相較之下，UltraPlus系列的功耗水準約為ECP5系列的千分之一，僅為1mW。占用的電路板面積為5.5mm2，包括最多八個乘法器和最多1Mb的嵌入式記憶體。 萊迪思還提供可在這些元件上運行的CNN IP以及可用於ECP5系列的CNN加速器(圖4)，與可用於UltraPlus系列的輕量化CNN加速器(圖5)。 圖4　適用於ECP5系列的CNN加速器 圖5　適用於UltraPlus系列的輕量化CNN加速器 最後，還可以在開發模組(圖6)上運行並測試這些演示，兩個模組分別對應這兩種產品系列。Himax HM01B0 UPduino Shield採用了一片UltraPlus FPGA，尺寸為22×50mm2。嵌入式視覺開發套件採用了一片ECP5 FPGA，尺寸為80×80mm2。有了FPGA、軟IP和其他處理資料所需的硬體部分，就可以使用設計工具進行編譯，而生成位流，在每次上電後對目標設備中的FPGA進行配置。3 圖6　評估AI應用的開發模組 在FPGA上構建推理模型 創建推理模型與創建底層運行平台大不相同。它更抽象，涉及更多運算，且不涉及RTL設計。這一過程主要有兩個步驟：創建抽象模型，然後根據所選平台優化模型的實現。模型訓練在專門為此過程設計的框架(圖7)中進行。最流行的兩個框架是Caffe和TensorFlow，但不限於此。 圖7　可以對單個模型進行優化以適用於不同的設備 CNN由很多層構成—卷積層，還有池化層和全連接層，每一層都有由前一層的結果饋送的節點。每個結果都在每個節點處加權重，權重多少則由訓練過程決定。訓練框架輸出的權重通常是浮點數。這是權重最為精確的體現，然而大多數網路終端設備不具備浮點運算功能。這時需要針對特定平台對抽象模型進行優化，這項工作由神經網路編譯器負責。編譯器可以實現載入和查看從某個CNN框架下載的原始模型。可以運行效能分析，這對模型優化最關鍵的量化工作至關重要。 由於無法處理浮點數，因此需要將它們轉換為整數。對浮點數四捨五入也就意味著精度會降低。問題是，什麼樣的整數精度才能滿足想要的精度？通常使用的最高精度為16位元，但是權重和輸入可以表示為較小的整數。1位元的設計實際是在一位整數域中進行訓練以保持精度。顯然，更小的資料單元意味著效能更高、硬體尺寸更小以及功耗更低。但是，精度太低就無法準確地推斷視野中的物體。 神經網路編譯器能創建代表模型的指令流，然後可以類比或直接測試這些指令，而判斷在效能、功耗和精度之間是否達到了適度的平衡。測試的標準通常是看一組測試圖像(與訓練圖像不同)中正確處理的圖像百分比。通常可以透過優化模型來優化運行，包括去掉一些節點以減少資源消耗，然後重新訓練模型。這一設計環節可以微調精度，同時保證能在有限的資源下順利運行。 人臉辨識與人員偵測 在以下兩個不同的視覺案例中，將看到權衡是如何發揮作用的。第一個應用是人臉辨識；第二個是人員偵測。將指出不同FPGA之間存在的資源差異如何影響到相對應的應用效能和功耗。兩個示例的輸入都源自同一個攝影機，兩者都在相同的底層引擎架構中運行。在UltraPlus設計實例中(圖8)，圖像的尺寸縮小後通過八個乘法器進行處理，利用了內部記億體並使用了LED指示燈。 圖8　UltraPlus平台用於人臉辨識和人員偵測應用 ECP5系列資源更多，提供了一個計算能力更強的平台(圖9)。攝影機捕捉的圖像在發送到CNN之前在圖像訊號處理器(ISP)中進行預處理。處理結果與原始圖像在標記引擎上比對，而將文本或注釋覆蓋在原始圖像上。並可以使用一系列圖表來衡量兩種應用的效能、功耗和占用面積情況。對於每個應用，兩組示例分別表示：一組輸入較少，一組輸入較多。圖10表示了人臉辨識應用的結果，兩組分別採用了32×32輸入和90×90輸入的情況。 圖9　ECP5平台用於人臉辨識和人員偵測應用 圖10　在UltraPlus和ECP5 FPGA上實現簡單和複雜的人臉辨識應用時的效能、功耗和占用面積。 左側的軸代表處理一張圖片需要的週期數量以及這些週期的分配情況。右側的軸代表在各元件(黑線)上實現的每秒幀數(fps)。最後，每種情況下還標注了功耗和占用面積。左側的32×32輸入示例中，最下方部分代表卷積層上運行的週期。在四個示例中，UltraPlus的乘法器數量最少；其他三片ECP5 FPGA的乘法器數量依次遞增。隨著乘法器數量的增加，卷積層所需的週期數減少。 90×90輸入的示例位於右側，得到的結果完全不同。在每個直條圖的底部有大面積的區域。這是由於設計更為複雜，使用了除元件內部儲存空間以外的更多記憶體。由於需要占用外部DRAM，效能就有所損失。需要注意的是，這種設計無法使用較小的UltraPlus元件。人員偵測應用的情況類似。兩組分別採用了64×64輸入和128×128輸入的情況(圖11)。 圖11　在UltraPlus和ECP5 FPGA上實現簡單和複雜的人員偵測應用時的效能、功耗和占用面積 同樣，較多的乘法器會減少卷積層的負擔，而依賴DRAM則會影響效能。表1總結了各類情形下的效能。它包括了對圖像中最小可識別物件或特徵的度量，用視野範圍的百分比表示。在這裡使用更多輸入能夠為較小的目標提供更多解析度。 低功耗FPGA可實現要求低功耗、具有靈活性和可擴充性的網路終端AI推理設計。並提供成功部署AI演算法所需的關鍵要素，包括：神經網路編譯器、神經引擎軟IP、Diamond設計軟體、開發板與參考設計等。

然而，隨著時序進入2019年，有些以AI為創業題目，或是原本在別的領域耕耘，後來看見AI話題火紅，想來沾AI光的新創業者，已經資金燒盡，創辦者不是想把自己的公司賣掉，就是開始裁員。這些現象顯示，開發AI應用是一回事，要從這些應用變現則是另一回事。 為何AI應用這麼難賺錢？就筆者觀察，這個現象背後的原因有二，一是想用AI解決的問題牽連太廣，除了技術之外，還有商業模式、法律、金融保險等領域的問題需要解決，以一家新創公司之力，根本難以克服。另一個原因則是，有商業價值的應用題目多半與垂直領域的知識密切相關。如果一家AI只懂AI技術，根本解決不了客戶的問題，自然無法讓客戶為產品/解決方案掏出荷包。 AI不是新玩意　速食AI非難事 如果不把統計學領域發展出來的核心知識當作AI發展的起點，而是以艾倫圖靈(Allen Turing)提出圖靈測試的觀念開始，學術圈對人工智慧的研究跟投入，已經有七十多年歷史。如果把許多人工智慧演算法所使用的統計學工具、方法當作人工智慧的發端，則相關技術的發展歷史，已經超過一個世紀。 不管是七十多年或一百多年，以科技業的時間尺度來說，都絕對稱得上是骨董級。這麼漫長的時間所累積、沉澱的知識，加上網路發達跟開放原始碼風潮，有心人要在網路上檢索相關資訊，靠自我進修學AI，絕對是不成問題的。如果在學校念的是數學、統計相關科系，學習各種AI工具的過程，只會更駕輕就熟，因為當前的AI，核心其實是統計跟數學，只是改用程式語言或程式框架來表達。 對大多數資訊科系出身的人來說，學會如何使用AI工具並非太困難的事，但要開發一款AI工具或框架，則是另一回事。統計跟數學都是很高深的學問，要開發AI工具，必須有很紮實的統計跟數學底子，無法速成。所幸對大多數人來說，只要學會如何使用AI工具來解決問題就夠了，不用深入到自己開發AI工具。 但也因為AI工具的使用門檻其實不高，因此產生了「全民瘋AI」的奇怪現象，很多資訊工程背景的工程師投入AI相關產業，或是透過自主進修掌握了AI工具的使用方法，就開始想利用AI來解決問題，創造商業價值。但這其實是一種過度簡化跟跳躍的思維。 AI工具必須與領域知識結合 AI只是一種工具，要用這個工具解決什麼問題，決定了AI工具的商業價值。就像一把菜刀，在廚藝普通的你我手上，大概只能用來切肉切菜，但職業大廚卻可以用來發揮各種刀工，讓食材變得更美、更好吃。而廚藝普通的一般人跟職業廚師最大的差異，就在於對烹飪這門技藝的領域知識(Domain Knowledge)，有著極大的落差。 以半導體、電子業使用AI的成功案例來看，目前AI在產業界最成功的應用在於自動分析大量資料，找出不同資料之間的關聯性，但也僅止於此。一般的AI工具沒辦法告訴使用者，資料的關聯性背後的原因跟其所代表的意義，除非其所使用的AI工具已經結合了特定領域的專業知識。 以IC設計為例，晶片設計工程師在開發晶片時，會需要EDA工具執行大量電路設計模擬，從許多可能的設計方案中，找出效能最好，或結果最符合設計目標要求的設計方案。這個過程需要極大的運算量，同時也會產生大量資料，AI輔助工具可以幫IC設計工程師爬梳出這些資料的相關性，但AI無法告訴晶片設計者，為何資料之間的關聯性會如此分布，因為這涉及了IC設計的領域知識。 在產品測試端，其實情況也類似。不管是晶片或系統產品，在生產過程中或生產完成，進行測試時，都需要經過少則數項、大則數十項、數百項檢測。在真實世界裡，產品缺陷或失效，常常是以群落的形態出現，例如某個檢測項目A不通過，則檢測項目C、D不通過的機率很高，但如果A項目不通過，檢測項目B就很少出問題。AI輔助工具可以幫檢測工程師分析這些資料，找出不同缺陷或失效之間的統計關聯性，但卻無法解釋為何會是這種狀況，因為這也涉及了領域知識。 「知其然，不知其所以然」是目前AI輔助工具在產業應用上最大的問題。因為不知其所以然，所以無法幫助或建議工程團隊下一步該採取什麼行動來解決問題。對AI輔助工具的使用者來說，這種「做半套」的解決方案吸引力有限，工具的供應商自然不容易賺到錢。 有領域知識的工程師最該學AI 在AI工具上手容易，領域知識卻需要靠時間累積的情況下，同樣是會使用AI工具的工程師，身懷領域知識的工程師，身價跟不具備領域知識的工程師相比，自然不在同一個水準上。目前科技業界大喊欠缺AI人才，其實話只說了一半。企業需要的是「具備領域知識」的AI人才，而不是現場實務白紙一張，只懂AI工具的資工人才。 最近有些發展AI應用的新創公司之所以資金燒完，面臨解散或必須把自己賣掉，靠新資金挹注繼續營運的命運，關鍵就在這些新創公司大多是不具備特定領域實務經驗，只懂IT技術的創業團隊，所以他們提出的方案，對客戶而言很難搔到真正的癢處。另一方面，有些企業決定自己培養AI人才，把公司內資工背景的資訊人員送去培訓，也很容易犯了同樣的錯誤。公司裡的IT工程師或MIS，畢竟還是跟產品的研發、製造實務有段距離，同樣有缺乏領域知識的問題，只是狀況外的程度有所差別。 對製造業來說，真正該去學AI的，是負責產品或製程相關研發的工程師，因為這些工程師才有領域知識。正因為AI工具只知其然，不知其所以然，所以需要工程師們的專業知識來解釋這些結果背後的意義，進而找出行動方案。這樣才能讓企業把AI導入到日常運作中。 然而，要製程或研發工程師去學AI、做AI，對許多企業來說是相當具有挑戰性的，因為這些RD工程師平常就已經非常忙碌，要他們再花時間去學AI，進而投入AI工具的二次開發，對企業來說，是很大的投資跟負擔。而且，這些具備AI工具使用、二次開發能力，又有領域知識的工程師，將會是其他同業搶著要的熱門人才，對企業主來說，這樣的育才投資，會不會變成為他人作嫁，又是一個需要審慎考慮的問題。 AI產業進入盤整期　從業人員回頭紮馬步 從2016年開始的AI新創風潮，到現在已經過了兩年多時間，有些未能找到有效商業模式的AI新創公司，已陸續解散或被其他企業收購。2019年將是AI產業盤整、收斂的一年。在這個過程中，很多具備AI使用能力的資訊工程師，不是得轉換跑道進入產業，就是順著公司被收購，有機會接觸到產業運作的實務。這對AI技術的普及應用來說，未嘗不是件好事。 其實，科技業界並不需要那麼多開發AI工具或模型的人力，因為這其實是學術性質很濃厚、很理論的工作，由學術界或幾家世界級大廠來做，也就夠了。懂得使用AI工具的資訊工程師，如果能利用這個AI盤整的機會，投入其他產業，對產業發展跟個人職涯，都是更有幫助的事。但對資訊工程師來說，如果要投入其他產業，最要緊的是要盡速補足產業所需的領域知識，把馬步紮穩了，才能成為企業搶著要的即戰力。

AI、5G到來推升資料中心運算需求大增，為此，英特爾(Intel)近日宣布推出全新產品系列「Intel Agilex FPGA」，不僅為日後邊緣運算、嵌入式設計、5G/NFV和資料中心提供變革性應用和具彈性的硬體加速能力；更期望能藉此維持自身市場競爭優勢，力抗來勢洶洶，積極搶攻資料中心市場的晶片大廠，如賽靈思(Xilinx)、NVIDIA等。 英特爾可程式設計解決方案事業部高級副總裁Dan McNamara表示，現今愈來愈多資料中心業者、網路服務業者需要更高效能的解決方案整合和處理不斷攀升的資料量，以支援邊緣計算、網路、雲端等新興應用。換言之，資料中心對於敏捷、靈活的解決方案需求日益增加，才得以高效地傳輸、存儲和處理資料；而新推出的Agilex FPGA不僅提供客製化的連線性能和加速功能，還能提升工作負載效能與降低功耗。 據悉，新推出的Agilex FPGA系列產品採用英特爾10奈米製程技術與異構3D封裝技術，將類比、記憶體、自訂運算、自訂I/O，英特爾eASIC和FPGA邏輯結構整合到同一個晶片封裝當中；而與Intel Stratix 10 FPGA相比，其性能提升40%，功耗則降低40%。 此外，新產品的特色還包括：高達112Gps的收發器資料傳輸速率、PCIe Gen 5介面支援、Intel eASIC裝置One API、Intel Optane DC持久記憶體支援；以及支援Compute Express Link，其為一種可與未來Intel Xeon可擴充處理器互聯的緩存和記憶體互聯技術。 簡而言之，AI、5G、雲端服務等創新應用興起，推升資料中心的運算需求，而新推出的Agilex FPGA可提供更高靈活性、敏捷性及特定應用軟體的優化和客製化，並同時提升性能和降低功耗。

台灣西門子總裁暨執行長艾偉(Erdal Elver)表示，西門子已投入人工智慧研發三十餘年，將其電氣化、自動化與數位化的專業與人工智慧科技完美結合，致力協助台灣在智慧製造、永續能源、智慧基礎建設全方位數位轉型和智慧升級。 回顧2018財年，西門子在未來製造、永續能源、智慧基礎建設三大領域完成了數個指標性專案，為台灣產業和基礎設施導入人工智慧穩健紮根： ．未來製造：與精誠資訊、緯謙科技和新漢公司針對MindSphere簽訂合作意向書，成為全球策略聯盟夥伴；勝源機械和麗健福生物科技導入西門子MindSphere與數位解決方案，近一步強化生產製造品質與效率。 ．永續能源：提供台灣電力公司智慧電表管理系統EnergyIP，優化電力傳輸效率和供電品質，因應2022年前全台逾300萬個智慧電表的管理和確保再生能源電力傳輸的穩定。 ．智慧基礎建設：臺北南山廣場採用西門子數位化建築解決方案，降低大樓能耗和營運成本，西門子攜手合作夥伴贏得桃園捷運綠線機電系統統包案，提供先進軌道交通科技(Trainguard MT通訊式列車控制系統與列車牽引系統、直流牽引供電系統以及智慧捷運號誌系統)，打造全台最先進的智慧捷運系統。 2019財年，西門子預計將在台灣推動成立物聯網使用者組織MindSphere World，結合產官學專家打造工業物聯網生態鏈。並將在台中智慧製造試營運場域完成「數位化體驗暨研發中心」的初步建置。同時也將進駐「亞洲・矽谷」計畫桃園市虎頭山物聯網創新基地，展示西門子最先進數位科技，提供產官學研各單位技術交流，並將與產官學啟動交流合作，協助台灣全面落實人工智慧於產業中的應用與普及，共創2020+ AI新世代。 台灣西門子總裁暨執行長Erdal Elver表示，西門子將把AI與其電氣化、自動化與數位化的專業結合。