人工智慧
從大數據到智慧資料 AI演算偕感測器邁向工業4.0
既有資料處理/解讀不易
蒐集所有可能資料並儲存在雲端,待日後再進行評估、分析以及結構化,是目前各界廣泛採納的做法,但運用在從資料中擷取價值的目標上卻不特別有效。資料產生附加價值的潛力迄今仍有待開發,導致之後的階段尋找解決方案變得更加複雜。較理想的替代作法,是儘早判斷什麼資訊和應用有關聯,以及要在資料流中擷取什麼資訊。換個方式來說,提煉資料就是從整個處理鏈的大數據萃取出智慧資料,同時判斷哪些AI演算法在個別處理步驟中有較高的成功機率,這樣的決策可以在應用層面執行,而且取決於多種邊界條件,像是可用的資料、應用類型、可用的感測器模態、以及較低階實體流程的背景資訊。
在個別處理步驟中,正確處理與解讀資料非常重要,攸關是否能從感測器訊號中擷取出真正的附加價值。依據應用的種類,可能不容易正確解讀個別感測器資料,以及擷取出所要的資訊。這方面的其中一個重點,就是暫時性行為會直接影響人們想得到的資訊。此外,必須經常考量到各感測器之間的相關性。在一些複雜任務中,光是用簡單的門檻數值以及人工判斷邏輯或規則,已不足以應付當前的需求。
AI模型凸顯資料價值
相較之下,藉由AI演算法處理資料,系統即能自動分析複雜的感測器資料。透過這樣的分析程序,可獲得希望得到的資訊,而附加價值也會在資料處理鏈中和資料一起自動浮現。
作為AI演算法一部分的模型建構,基本上分成兩種不同方法。其中一種建模法是運用公式陳述資料與所要資訊之間的關係。這類方法需要有數學式形態的物理背景資訊。這些所謂的模型方法,在結合感測器資料以及背景資訊後,就能對想獲得的資訊產生更精準的結果。最常見的例子就是卡爾曼濾波法(Kalman Filter)。
倘若以數學公式型態描述資料,但無法描述背景資訊,那麼就必須選用資料驅動(Data-driven)法。這類演算法會直接從資料擷取出所要的資訊。過程中包含所有種類的機器學習方法,例如線性回歸、類神經網路、隨機森林、以及隱藏式馬可夫(Hidden Markov)模型等。
挑選AI方法通常根據目前對應用掌握的知識。倘若已經有完備的專業知識,AI就能扮演更具支持力的角色,而演算法的功用則比較初階。但若是尚未積累專業知識,那麼AI演算法的應用就複雜許多。多數情況中,這樣的應用除了會定義硬體的內涵,還會對AI演算法形成許多限制。
演算法建置近感測器降通訊/儲存成本
在每個步驟中需要的整體資料處理鏈,建置方式必須能產生最高的附加價值。建置一般都屬於整體層面,從內含有限運算資源的小型感測器,經過閘道器與邊緣電腦,一直到大型雲端電腦,顯然演算法不應只建置在單一層面。通常較有利的作法,是將演算法盡量建置在靠近感測器的位置,如此一來即可在早期階段對資料進行壓縮與整理,進而降低通訊與儲存的成本。
此外,早期從資料擷取出關鍵的資訊中,用到的較高層面全域演算法所涉及到的研發工作也比較簡單。在大多數情況中,串流分析(Streaming Analytic)採用的演算法也能避免不必要的資料儲存,進而省下資料傳輸和儲存的成本。這些演算法對每個資料點(Data Point)只會用到一次,因此會直接擷取出完整資訊,不需要儲存資料。
嵌入式AI結合感測器資料提升準確度/效率
例如亞德諾半導體(ADI)旗下以ARM Cortex-M4F處理器為基礎的微控制器ADuCM4050是一款省電的整合式微控制器系統,內建電源管理功能,以及類比與數位周邊裝置,支援資料擷取、處理、控制以及連結功能。這些特色讓它適合執行本地端處理,以及運用尖端智慧型AI演算法對資料進行早期的精確化處理。
EV-COG-AD4050LZ是一款低功耗開發與評估平台,可支援ADI旗下的感測器、微控制器以及HF收發器系列元件。EV-GEAR-MEMS1Z屏蔽元件則主要設計用來評估ADI的各種MEMS技術;舉例來說,如ADXL35x系列包括了ADXL355在內,運用於這種屏蔽元件中能提供震動校正功能、長期重複性、低雜訊性能、以及微型尺寸等特性。而EV-COG-AD4050LZ與EV-GEAR-MEMS1Z的組合,則能用在涉及震動/雜訊/溫度分析的結構健康與機器狀態監控。若有需要,其他感測器也能連到COG平台,藉由多種AI方法,並且運用多重感測器資料的融合,對當前情況提供更好的推測。藉由這種方法,即可在更好的細分度與更高的準確率下針對各種運作與失效狀況加以分類。藉由在COG平台上進行智慧訊號處理,大數據會就地變成智慧資料,而且只須把和應用有關聯的資料傳送到邊緣或雲端。
COG平台針對無線通訊納入額外的屏蔽機制。舉例來說,EV-COG-SMARTMESH1Z除了結合高可靠度與強固性,還藉由支援6LoWPAN與802.15.4e通訊協定帶來的低功耗,而支援種類眾多的工業應用。SmartMesh IP網路由高擴充性、自組網(Self-forming)的多跳點(Multihop)網狀拓撲無線節點構成,這些節點負責蒐集與轉傳資料。網路管理員負責監視與管理網路效能、安全、以及Host端應用的資料交換。在以電池供電的無線狀態監視系統中,嵌入式AI特別能實現完整的附加價值。嵌入在ADuCM4050的AI演算法能在元件內將感測器資料轉換成智慧資料,因此相較於感測器資料直接傳送到邊緣或雲端的模式,傳送的資料流以及耗電都會減少。
COG開始平台內含為此平台開發的各種演算法,已涵蓋許多種類的應用,包括監視機器、系統、結構以及流程,從簡單的偵測異常狀況到複雜的故障診斷皆能應付,同時整合包括加速計、麥克風以及溫度感測器等元件,這樣的組合還能用來監視各種工業機器和系統的震動以及噪音。流程狀態、軸承或定子損壞、電子控制元件失效、甚至電子元件損毀導致系統行為出現未知的變化,都可透過嵌入式AI偵測出來。若業界已針對特定損壞發展出預測模型,那麼這些損壞甚至能靠本地端的元件就能預測出來。藉由這種方法,便能在早期階段執行各種維護措施,防範因出現不必要的元件損壞導致系統失效。倘若尚未建立預測模型,COG平台也能協助領域專家學習機器的行為,長期下來即可推演出機器的模型,作為預測維護的參考依據。
AI演算法尚須判斷資料品質能力
理想的狀況下,透過相對應的本地端資料分析,嵌入式AI演算法應能判斷哪些感測器和特定應用有關聯,以及最適合採用的演算法,以展現平台的智慧擴充性。然而即使人類現已廣泛運用各種AI演算法,僅須簡單的建置流程就能用在不同的應用中,並執行機器狀態監控,不過目前仍須由相關領域技術專家為目標應用找出最佳演算法。
此外,嵌入式AI還具備判斷資料品質的能力,或是針對感測器以及整個訊號處理程序找出與執行最佳化的設定。若是融合多種不同型態的感測器,還可運用AI演算法來彌補某些感測器與方法的優點。如此一來,資料品質以及系統的可靠度都能獲得提升。倘若AI演算法判定感測器的分類和應用完全無關或沒有太多關聯性,系統就會截斷資料流。
例如ADI的COG開放平台內含免費軟體開發套件以及範例專案檔,協助加快硬體與軟體的原型製作、促成開發以及實現原創設計理念。透過多重感測器資料融合(以及嵌入式AI(EV-COG-AD4050LZ),可進而建構出連結智慧型感測器的強固且良好之無線網狀拓撲(SMARTMESH1Z)網路。
(本文作者Dzianis Lukashevich為ADI平台及方案總監;Felix Sawo為Knowtion執行長)
AI結合研磨拋光機器人 水五金產能更上一層樓
工研院與衛浴廠商和成欣業公司(HCG)合作,日前發表人工智慧(AI)虛實整合系統(Cyber Physical System, CPS)研磨拋光機器人技術與產線,透過導入AI及感測器等技術,讓機器人如擁有視覺、聽覺、觸覺,觸覺感受到的研磨力量,能夠協助水龍頭研磨、拋光、瑕疵檢測一次到位,提升產能與訂單。
工研院機械與機電系統研究所所長胡竹生表示,新一代的人工智慧CPS研磨拋光技術生產線,讓機器人具備視覺/聽覺/力覺,使機器人在輔助產線製作水龍頭時,除了能研磨拋光,還可以進行線上瑕疵檢測,並使水龍頭研磨從6分鐘縮短至3分半鐘,效率提升41%;每日檢測時間從200分鐘縮短至80分鐘,檢測時間節省60%、檢測量提升2.75倍。AI辨識研磨品質的正確率高達93.3%,藉由AI應用協助水五金產業迎向智慧製造,達到快速換/混線、少樣多量、提高產能的目標。
圖 和成、工業局與工研院合作發表首條AI人工智慧CPS研磨拋光機器人技術與產線。來源:工研院
臺灣水五金廠商約三百家,以出口為主供應全球50%以上的水龍頭,每年產值約六百億新臺幣,但複雜外型的水五金較難導入自動化設備,高達9成仍使用人力研磨、1成由機器研磨,加上其工作環境高溫多粉塵、噪音大,以及社會少子化與高齡化的趨勢,傳統產業不易招募新血而人力缺乏。因此,工研院從2016年與和成合作開發CPS研磨拋光機器人來解決水五金產業遭遇的瓶頸,並持續導入AI和聽覺/力量感測器等科技來優化機器人功能,打造品質更佳的水五金。
觀摩會現場也展示最新一代AICPS 研磨拋光技術生產線,不僅可研磨拋光,更解決了水龍頭在成品瑕疵檢測方面,仍需仰賴有經驗的老師傅目視判斷品質,過程耗時費工且不客觀的問題。此技術整合AI演算法、聽覺/力量感測器,讓機器人能自動分類成品的好壞,建立瑕疵檢測的客觀標準,使製程不良率控制在10%內,大幅增進產線檢測品質,有助減輕老師傅的工作負擔和實現彈性製造。
此產線透過架設資料蒐集感測器,可蒐集水龍頭加工資訊、研磨速度和工件尺寸誤差等,並建置製程資料庫,將製程中的各項數據、參數量化與可視化,藉由大數據分析,不僅能強化智慧生產,也有助年輕工作者傳承老師傅的研磨工藝。目前此技術可應用於水五金、金屬工件加工、手工具、鋁壓鑄、航太等產業,輔助研磨、拋光與去毛邊等。
汽車產業加快導入先進製程 台積電推7奈米矽智財平台
台積電(TSMC)日前宣布推出7奈米汽車設計實現平台(Automotive Design Enablement Platform, ADEP),協助客戶加速人工智慧推理引擎、先進駕駛輔助系統以及自動化駕駛應用的設計時程。台積電自2018年開始量產7奈米技術,擁有充足的良率學習與品質保證經驗,能夠提供滿足汽車應用日增的高度運算需求的先進製程,同時符合嚴格的耐用性與可靠性要求。
圖 台積電日前宣布推出7奈米汽車設計實現平台。來源:台積電
台積電研究發展組織技術發展資深副總經理侯永清表示,汽車應用向來要求最高的品質水準,隨著先進駕駛輔助系統及自動化駕駛的出現,強大且高效的運算能力變得不可或缺,以驅動人工智慧推理引擎進行道路與交通感測,進而協助駕駛迅速做出決定。台積電擁有豐富的7奈米量產經驗與完備的設計生態系統,滿足市場上對於更高安全性且更智慧化汽車的嚴格要求。
台積電汽車設計實現平台已獲得ISO 26262功能性安全標準的認證,涵蓋標準元件、通用型輸入輸出(GPIO)以及SRAM基礎矽智財,皆奠基於台積公司多年的7奈米生產經驗,支援堅實的設計並獲取首次投片即成功。此外,台積電基礎矽智財已通過AEC-Q100第一級規格的驗證,提供客戶多層品質保證。製程設計套件及第三方矽智財廠商的支援亦已到位,可進一步專注推出差異化的產品。
除了健全的汽車矽智財生態系統,台積電晶圓廠取得IATF 16949認證,提供汽車服務套件(Automotive Service Package)以支援晶圓製造,內建零缺陷思維(Zero Defect Mindset),進而強化管控使元件製造達到汽車零件等級的每百萬缺陷數(DPPM)目標,生產期間的安全投產專案(Safe Launch Program)也能夠確保成功推出新產品。
專訪Arm應用工程總監徐達勇 AI與資訊安全共構AIoT願景
5G時代各類裝置的效能要求大幅提高,AI將協助裝置提升智慧化的能力,Arm應用工程總監徐達勇表示,以手機來說,85%的機器學習應用仍在CPU、或者CPU+GPU的處理。雖然市場上有NPU或者APU的選項,但較為少數。以IoT裝置來說,很多機器學習的推論功能也都在Cortex-M4或者Cortex-M7上處理。另外,隨著機器學習(Machine Learning, ML)應用越來越多,未來也將運用到神經網路處理器(Neural Network Processor),比起加速器更為通用。
Arm應用工程總監徐達勇表示,5G時代各類裝置的效能要求大幅提高,AI將協助裝置提升智慧化的能力
Arm近年積極發展AI能力,相關IP都能進行AI運算,徐達勇指出,與Cortex A系列搭配的,會有Ethos-N77、N-57與N-37,以針對不同應用、不同效能的需求。而與Cortex M系列搭配、為低耗能應用的Ethos-U55 NPU。因應未來5G時代在機器學習的需求,Arm提供從CPU底層微架構上的加強,到在CPU上層的軟體框架,包含Arm Neural Network(NN)以及為Cortex M的CMSIS NN。
而裝置聯網的數量呈現爆發性成長,讓許多裝置暴露在資安風險下,Arm當然也意識到這樣的問題,徐達勇認為,先要做威脅分析,釐清是物理攻擊或是軟體攻擊,針對網路攻擊,Arm TrustZone主要防護軟體攻擊,將SoC設計分為Normal World與Secure World,可以保護一些需要高安全防護的應用。Arm Cyptocell/Crptoisland防護物理攻擊,如有人惡意去量CPU或SoC與Memory之間的讀寫然後去破解,就需要更高階的防護等級。Platform Security Architecture(PSA)則是防護架構,從分析、制定架構、實施、最後到裝置認證,PSA提供確認清單,協助用戶檢查其裝置安全要求是否到位。
開必拓AI技術推一把 立敦大步跨進車用市場
在生產過程中導入人工智慧(AI),以便節省人力、創造更多經濟價值,是許多製造業者正在追求的目標。專門生產鋁電解電容關鍵材料--鋁箔的台灣化成鋁箔廠立敦科技,在與AI新創公司開必拓(Kapito)密切合作兩年多後,成功在台灣廠區全面布署AI影像辨識系統。在AI的幫助下,立敦不僅實現100%全檢,滿足車規元件客戶對品質的嚴格要求,更進一步將半導體產業已經行之有年的製程控制(Process Control)概念引進自家的鋁箔產線上,提高生產良率。
開必拓創辦人暨執行長孫逢佑表示,該公司是一家成立於2017年的AI新創公司,專長是AI演算法開發跟大數據分析。目前開必拓已經商品化的產品名為fastable.ai,這是一個可以客製化的AI解決方案,也是立敦AI品檢系統的核心軟體。透過fastable.ai,加上台灣的自動光學檢測(AOI)設備合作夥伴所提供的硬體,以及立敦團隊提供的資料跟產線實務經驗,我們共同開發出可對電極鋁箔實現100%全檢,並可檢測十多種外觀瑕疵的品檢系統。
立敦科技發言人陳昌源解釋,電極鋁箔是鋁電解電容的關鍵材料,鋁箔的良率高低,會對電容的良率造成直接影響。以出貨量來看,目前鋁電解電容最主要的應用還是在消費性產品,對良率的要求較為寬鬆,傳統的檢測方法還可以滿足客戶需求。但如果要進軍車用市場,客戶對鋁箔的品質要求就會相當嚴格,不僅瑕疵的漏判率要達到0%,誤判率也必須低於0.5%。這是傳統檢測方法很難做到的目標,因此立敦才會決定與開必拓合作,專門為電極鋁箔品檢開發客製化的AI系統。
除了品質的提升外,立敦在台灣的產線布署fastable.ai後,也連帶解決了人力瓶頸的問題。鋁箔是連續製程,產線開動後的生產是24小時不間斷的,如果要靠人力做到100%檢測,一定要三班制輪班,但現在已經很難找到這麼多人手。因此,導入AI品檢,不僅讓產品的品質提升,生產規模也得以擴大。
陳昌源透露,在導入fastable.ai之後,因為AI可以辨別十多種外觀瑕疵,而許多瑕疵的產生,往往跟製程中的某些步驟有直接關係,因此立敦已經開始引進製程控制的觀念,不只把AI用在產品的最終品管,同時也用來監測產線上各種機台的運作狀況,進而預測設備的維運週期,有效提高產線稼動率。
2017年成立的開必拓,創辦團隊結合矽谷AI技術與豐富的竹科產業經驗,目標是用AI技術解決台灣傳統製造業的最常見的少子化、缺工等產業痛點。fastable.ai 是開必拓為品檢打造的軟硬整合設備,以光學鏡頭拍攝產品環繞影像,再以多重AI演算法進行影像辨識,能有效處理極複雜、難以肉眼辨識的瑕疵,達成趨近於人眼的精準判斷與分析能力,幫助工廠自動化完成產品外觀檢測。fastable.ai 曾在車用電子的檢測上創造出0%漏檢率與0.41%誤檢率的成果。
此外,fastable.ai在軟體層面,其實已經發展成一套嚴謹的資料科學操作流程,而不是一個固定的模型或演算法,因此fastable.ai可根據不同產業的需求進行快速調整跟重新訓練,讓許多無法大幅更新、改動現有產線設計的製造業者,能夠更迅速地智慧化關鍵流程,將數據轉化為營收。fastable.ai客製化調整完成後,最快2週即可布署到產線上。可應用的產業包含紡織品、金屬加工品、車用電子元件、半導體/精密產品、塑/橡膠射出品與醫美產品等六大領域。
傳人工智慧新創Wave將倒閉
據semiwiki報導,人工智慧(AI)晶片新創公司Wave Computing即將倒閉。Wave成立於2008年,主要透過即時的AI解決方案,來擴展邊緣運算到數據中心的深度學習。2018年12月,Wave曾宣布MIPS開放原始碼的計畫,然而此計畫一年後即關閉。
圖 Wave Computing即將倒閉。來源:Wave Computing
Wave的產品線多元,因而被稱為可擴充的整合性AI平台,並利用MIPS處理器提供邊緣到數據中心的數據流處理。Wave在2018年6月收購高瞻創投旗下的MIPS Technologies,一舉攻入DPU(Dataflow Processing Unit)的生產,強化其在深度學習(ML)市場的地位。2018年Wave曾開放MIPS原始碼,希望藉此提升MIPS的應用範圍,但是一年後隨即停止。
Wave由Dado Banatao及Pete Foley創立,Banatao擔任Wave的董事長,同時也是高瞻創投(Tallwood Venture Capital)的合夥人。2019年在Art Swift擔任Wave的CEO 四個月後,轉由Sanjai Kohli接任CEO職位至今。
Google開源框架加速AI訓練 最高節省80%成本
近日Google研究人員發表一篇說明SEED RL框架的文章,該架構可將人工智慧(AI)模型的訓練擴及數千個機器。並且促進每個機器達到每秒訓練數百萬個框架的速度,同時減少80%的成本,可望為過去無法與大型AI實驗室競爭的新創公司帶來平等的發展機會。
圖 近日Google研究人員發表一篇說明SEED RL框架的文章。來源:Google AI
在雲端進行複雜的機器學習非常昂貴。華盛頓大學曾經為了訓練用來製作/辨別假新聞的AI模型Grover,在兩週內花費了25,000美元。人工智慧研究組織OpenAI每小時支付256美元來訓練語言模型GPT-2,而Google支出大約6912美元訓練雙向轉換器模型BERT,用以重新定義11種自然語言處理任務的最新狀況。
SEED RL建構在Google的TensorFlow 2.0框架之中,透過集中模型使用圖形卡與張量處理器(tensor processing units, TPU)。為了避免遇到數據傳輸瓶頸,其使用分散式推論(distributed inference)訓練模型的學習元件,集中執行AI推論。目標模型的變量和狀態資訊保留在原本的位置,而每個步驟的觀察結果則會回傳給學習者,並且基於開源的通用RPC框架網路庫,維持在延遲最低的狀況。
為了評估SEED RL,研究團隊在常見的Arcade環境,以及DeepMind實驗室/Google Research Football三種環境中進行基準測試。團隊表示,他們解決了在Google Research Football中未解決的任務,並透過64個雲端TPU核心,達到每秒240萬幀的處理速度,此成果是目前最先進的分散式代理人機制的80倍。
瞄準未來資料中心需求 賽靈思高階FPGA再升級
5G不僅將為電信及資料中心內部網路帶來更高的頻寬需求,相關網路設備還必須支援許多前所未有的智慧功能,以提升網路安全跟增加網路的靈活性。有鑑於此,賽靈思(Xilinx)於11日發表新一代高階產品Versal Premium,不僅廣泛支援目前市場上最先進的網通協定與高速介面技術,並具備大量可編程邏輯資源,可讓電信與網通設備開發者設計出各種獨特的應用功能。Versal Premium系列特色為高度整合且功耗最佳化的網路硬核,是業界最大頻寬與最高運算密度的自行調適平台。其專為在散熱條件與空間有限環境中運作的最大頻寬網路,以及需要可擴充與靈活應變應用加速的雲端供應商而設計。
圖 賽靈思針對網路與雲端加速推出全球頻寬最大與運算密度最高的自行調適平台Versal Premium。
Versal為業界首款自行調適運算加速平台(Adaptive Compute Acceleration Platform;ACAP),是一個功能遠超常規晶片架構的革命性全新異質運算元件類別。全新Versal Premium以台積電7奈米製程技術而打造,結合軟體可編程能力、動態可配置硬體加速與預置連接與安全功能為一體,為加快產品上市進程提供了强大引擎。作爲Versal ACAP的最新產品系列,Versal Premium系列可提供比當前FPGA高達3倍的傳輸量,並內建乙太網路、Interlaken與加密引擎等元件,以實現快速且安全的網路。該系列提供了目前部署主流FPGA兩倍的運算密度,同時還針對持續擴展的多元且不斷發展的雲端與網路作業提供靈活應變的能力。
賽靈思產品與平台行銷副總裁Kirk Saban,Versal Premium是針對下一代網路設備與雲端資料中心所開發的解決方案,透過網路硬核IP突破性的整合,成就單晶片400G與800G的解決方案。Versal Premium在硬體與軟體開發人員都能輕鬆進行編程的可擴充平台上,提供了卓越的頻寬與運算密度,從而達到加速最佳化並大幅降低整體擁有成本(TCO)。」
Versal Premium是基於已經量產上市的Versal AI Core與Versal Prime ACAP系列產品所打造。Versal Premium創新且獨有的功能包含112Gbps PAM4收發器、頻寬可達數百Gb/s的乙太網(Ethernet)、Interlaken連接、高速加密以及內建DMA、同時支援CCIX與CXL的PCIe Gen5。在與Vitis統一軟體平台與Vivado設計套件整合後,Versal Premium能為硬體與軟體開發人員提供完整的解決方案堆疊,以協助發揮最高的生產力。
5G技術將使網路流量大幅增加,帶動功耗最佳化傳輸與現有資料佔用、功耗範圍內的最佳化傳輸量與運算密度的需求。為因應上述的挑戰,Versal Premium系列提供了高達9Tb/s的可擴充、自行調適的序列頻寬。具體方法為將112G PAM4與整合的網路功能模組用於收發器與核心網路、都會網路和資料中心互連(Data...
即時/安全/可靠 邊緣運算執行高效機器學習
舉例來說,如ILSVRC影像分類競賽(圖1),在這場競賽中即是使用一種稱為機器學習(ML)的人工智慧─AlexNet早在2012年就贏得這場競賽,成為第一個使用深度神經網路和GPU來進行訓練的模型;而ResNet-152在2015年的影像分類競賽中亦擊敗人類。
圖1 影像分類中機器與人類的比較
電腦優於人類的其他範例還包含遊戲,表1中的範例是機器擊敗人類冠軍以及人類仍較優秀的非競賽情境。
機器學習無疑為智慧家庭、智慧零售、智慧工廠和智慧城市之類的應用情境帶來全新美好的必要功能,且現今各種企業都能利用這項技術。運用此技術的相關機器學習雲端服務供應商有亞馬遜(Amazon) AWS、SageMaker、微軟(Microsoft) Azure ML和Google Cloud ML,而這類機器學習雲端服務的成長都極為驚人。
邊緣執行ML流程簡化
直到最近,因為推出各種運算和儲存資源,機器學習的重心都集中在執行大量集中式電腦中心的雲端,其快速移轉至邊緣有以下幾個原因:
.雲端處理、儲存空間與頻寬的成本無法將資料傳送到雲端,以執行人工智慧功能的決策。
.較完善的使用者體驗需要在邊緣進行快速的人工智慧功能決策。
.隱私權和安全性考量會限制在雲端中儲存的資料類型。
.提升可靠性。
以上這些因素讓邊緣無庸置疑成為機器學習處理許多應用的顯著位置。這也是半導體廠商推出運用專屬高效能機器學習加速器之應用處理器的原因之一,像恩智浦(NXP)的i.MX 8M Plus使用14nm FinFET製程技術,提供高效能與低功耗,並具備雙鏡頭ISP在內的各種新功能,可支援兩個低成本的HD相機感測器或一個4K相機感測器,以執行臉部、物件和手勢辨識的機器學習任務。其中也整合獨立800MHz Cortex-M7來支援即時任務與低功率、H.265和H.264的影片編碼和解碼、800MHz HiFi4 DSP,以及用於語音辨識的8PDM麥克風接口。工業物聯網功能包含Gigabit乙太網路與時效性網路(TSN)、兩個CAN-FD介面和ECC。
另一方面,資料科學家正為在邊緣上部署的資源限制裝置最佳化特定演算法,進而協助加速移轉到邊緣。MobileNet是由Google開發的影像分類演算法,著重在高準確度,同時又能大幅減少所需的運算資源數量。圖2中顯示處理過程中大幅減少的趨勢。從VGG-16模型到MobileNet v2模型的轉變讓在邊緣所需的運算數量減少50倍,協助在邊緣的資源限制硬體解決方案,執行複雜的機器學習處理。
圖2 針對邊緣最佳化的NN演算法
同樣地,使用行動電話在邊緣執行MobileNet v1比起在雲端中執行MobileNet v1的速度明顯更快,此差異的成因是將雲端網路延遲降到最低,而網路往返延遲的新增範圍可以輕易橫跨200毫秒到超過1.4秒(大幅延遲回應時間)。該演算法的目標是達低於100毫秒的回應,以即時向使用者顯示(圖3)。
圖3 在邊緣更快速的使用者體驗
以下是i.MX 8M Plus支援的應用程式,這些應用程式會在邊緣執行機器學習。如圖4所示,這些使用案例都需要特定層級的效能來判斷需要哪種層級的執行硬體。這就是應用處理器須具備專屬機器學習加速器的主因。
圖4 機器學習使用案例
因為上述原因,便可較易理解為何要在邊緣執行機器學習應用。然而,必須符合幾個額外需求才能順利完成部署:
・機器學習開發人員的生態系統─讓實作變得簡單。
・硬體安全性─保證隱私權與安全性。
・全新、創新的混合SoC架構─提供符合成本效益的解決方案。
・可擴充和安全的邊緣部署─讓部署變得容易。
打造適用於機器學習部署的全面性生態系統
機器學習應用的重大突破需要結合設計與部署的生態系統來負責處理任務,這也是半導體業者打造創新邊緣智慧工具環境的原因,以恩智浦eIQ為例,該工具支援各種機器學習處理元件,包含Arm Cortex-A和Cortex-M處理器、圖形處理器(GPU)、DSP和機器學習加速器。eIQ機器學習軟體環境包含推論引擎和程式庫,兩者皆利用開放原始碼機器學習技術中的改善技術,像是TensorFlow Lite、OpenCV、CMSIS-NN和Arm NN;而針對較熱門的i.MX RT應用處理器,則透過適用於MCUXpresso和Yocto(Linux)的開發環境進行評估,為應用開發過程提供順暢的支援;在物件偵測和語音辨識中的範例應用程式中會隨附eIQ軟體,作為邊緣機器學習的起點(圖5)。
圖5 eIQ機器學習開發環境
確保邊緣安全性
邊緣的安全性至關重要,其所需的功能包含安全啟動信賴起點、晶片內建加密、安全布建、相互裝置驗證、安全裝置管理、OTA或無線安全更新與生命週期管理。為了支援這樣的安全性,半導體業者打造了可擴充的EdgeLock組合,其中包含安全元件、安全驗證器和應用處理器的嵌入式安全以及MCU。像是i.MX 8M Plus具備進階EdgeLock嵌入式安全系統(含資源網域控制器、信任區、HAB、加密啟動、使用RSA的公開金鑰加密與橢圓曲線演算法),其可為邊緣節點提供完整性、驗證確實性和隱私,並提供從邊緣到閘道和雲端的安全性。
AI/ML領域更迭不斷 加速人們生活便利性
人工智慧領域的變化步調正逐漸加快。如圖6來自「2018年人工智慧指數」和Monster.com所示的圖表呈現深度學習職缺方面的趨勢。
圖6 2015~2017年所需人工智慧技能的職缺成長
至於圖7則顯示在公司盈餘會議中提到人工智慧和機器學習的次數。
圖7 2007~2017年公司盈餘會議提到次數-IT公司
人工智慧與機器學習為電腦產業中帶來劇烈的改變,這樣的改變可使人們的生活更便利完善。新應用處理器如i.MX 8M...
安提國際SparkBot計畫整合邊緣垂直應用 預計於EW2020亮相
安提國際(Aetina)專注在工業用GPGPU和以GPU為基礎的運算平台,為強化產業發展下的必要能量且滿足人工智慧開發者對於運算平台的要求,安提國際規畫相關計畫「SparkBot」,以因應未來的趨勢洪流。「SparkBot」以單字「Spark」和「Robot」組成,代表安提國際對智慧物聯網整合的熱情與決心,同時,點燃產業邊緣端的AI能量並鼓舞整個產業向前推進。這個計畫不僅是將安提的平台持續與不同軟、硬體執行預先整合,更為人工智慧開發者們提供不同的邊緣智慧應用概念。SparkBot計畫堅持在相關產品上能夠與垂直系統整合商合作,並積極與不同軟、硬體廠商簽署合作備忘錄,打造更堅強的產業生態圈;此外,在計畫中,安提也設計實驗型機器人,不僅作為展示上的亮點,更是統整智慧概念,讓不同的智慧應用得以結合,創造出更多的智慧方案。
SparkBot實驗型機器人將會於Embedded World 2020中展示,其中有三種機器人平台,分別為以TurtleBot Waffle Pi和安提Jetson AGX Xavier-AX710平台組成的Surface(面)、TurtleBot Burger和安提Jetson TX2-AN310平台組成的Line(線)、以及TurtleBot Burger 和安提Jetson Nano-AN110平台組成的Dot(點),以緊湊的點、線、面羅織出全面且綿密的邊緣運算智慧部署。而在展覽上,將會有物流應用的概念展出,包含倉儲環境中的控制與管理、倉儲機器人、以及自走車等,歡迎親臨現場體驗、參觀。