- Advertisement -
首頁 標籤 人工智慧

人工智慧

- Advertisment -

專訪Arm儲存方案資深經理黃晏祥 Arm即時處理器布局運算型儲存

針對海量資料的產生,應用趨勢希望能在越接近數據生成的位置處越好,原因是安全性、延遲性與能源效率都能提升。運算型儲存(Computational Storage)已經崛起,成為數據儲存拼圖的關鍵之一,Arm宣布推出Cortex-R82,為第一個64位元、具備Linux作業系統能力的Cortex-R處理器,可加速企業與運算型儲存解決方案的發展與部署。 根據統計85%的硬碟控制器與固態硬碟控制器都是以Arm為基礎架構,讓處理更靠近數據,需要更高的效能。Arm儲存方案資深經理黃晏祥表示,依據作業負載的不同,Arm Cortex-R82與之前世代的Cortex-R8相比,最高可以提供兩倍的效能提升,能讓儲存應用以較低的延遲,運行如機器學習等作業負載,並可選用Arm Neon技術提供額外的加速。 Arm儲存方案資深經理黃晏祥表示,在儲存數據的位置直接進行處理,可為物聯網、機器學習與終端運算等應用,創造更多機會 儲存控制器傳統上運行裸機/RTOS作業負載以儲存及存取數據;不過,Cortex-R82選用的記憶體管理單元(MMU),可讓頻繁的作業系統在儲存控制器上直接運行。黃晏祥指出,在儲存數據的位置直接進行處理,可為物聯網、機器學習與終端運算等應用,創造更多機會。以數據庫加速加速為例,因為減少大型檔案的移動,安全性與隱私得以提升,數據可以有效率地轉檔或編碼以利串流進行影像處理,並且採用不同的位元率與解析度。 隨著儲存市場演化,合作夥伴最大的需求之一就是彈性。黃晏祥說明,Cortex-R82處理器支援最多八核的彈性架構,並可依據外部軟體需求,調整在儲存控制器上運行的作業負載類型。例如,停車場會固定使用視訊監控來辨識車牌資訊,以供後續收費使用。停車場白天會搜集車輛的車牌數據,用多核來進行密集儲存。到了晚上,這些核心會用來處理收費的數據,並依需求進行調整以執行數據分析與機器學習。由於儲存控制器為了應對不同的市場,且功能變得越來越多元,Cortex-R82的彈性架構,同時降低成本並縮短上市時間。
0

工研院資通所所長闕志克:為台灣資通訊產業鋪平道路

高科技可以說是台灣這幾十年最重要的產業,工研院多年來協助國內產業發展,提供技術服務、人才,面對產業挑戰接踵而來,工研院資通所所長闕志克針對半導體新興小晶片(Chiplet)產業模式、5G開放架構、人工智慧晶片、新興應用測試技術與設備等,希望可以協助國內高科技產業面對眼前與未來的挑戰,持續忠實扮演台灣資通訊產業最佳幫手的角色。 工研院資通所所長闕志克表示,工研院希望開發的技術不是針對單 一廠商,而是能夠協助一個產業、一群廠商,幫國內高科技產業面對眼前與未來的挑戰。 Chiplet模式降低IC設計廠產業競爭門檻 傳統上IC設計就是許多矽智財(SIP)的集合,但是隨著半導體製程不斷演進,先進製程成本越來越高,導致小型IC設計公司競爭門檻不斷提高,Chiplet設計就是讓IC設計公司只專注在自己專長的部分,包括設計與生產都透過最具競爭力的方式,其他IP過去需透過授權取得,未來就直接交易裸晶,再使用系統級封裝(System in Package, SiP)技術生產出完整晶片。 在這個模式底下,IC設計公司可以節省IP授權費用,直接購買裸晶或用交易的方式取得其他功能電路,在最終晶片出貨時才需支付費用;同時專注將自己專長的小晶片電路量產,可降低製造時間、成本;事實上,相關作法在大型IC設計公司已經行之有年,但發展適合小型IC設計公司的Chiplet產業鏈(ecosystem)與商業模式(Business Model)對台灣整體IC設計產業的發展更有幫助。 Chiplet的設計模式會對現有的商業模式帶來衝擊,以IP公司為例,過去授權費是主要收入來源,而在Chiplet模式下,不僅損失授權收入,還要負擔硬體的庫存。然而,現有的半導體先進製程,對中小型IC設計公司來說負擔太高,用不起先進製程在產品競爭力上就矮人一截,帶動Chiplet產業鏈發展越來越具體。另外,每個小晶片會用自己最佳化的製程生產,不再像過去強迫使用同質製程做成SoC,透過半導體異質封裝技術進行整合,也會讓晶片成本下降,適合中小型IC設計公司投入。 Chiplet是在每一個功能電路尋求最適合的製程,所以精神是在效能與成本中取得最佳化,可能因為某些功能電路採用較差的製程,而犧牲部分晶片的效能,因此更適合中小型IC設計公司,因為領導廠商的旗艦產品也希望在效能上取得領先,而中小型IC廠的產品通常都不屬於這個類別,反而是設計、製造的彈性,且能在某些電路上享受先進製程的效能。 建構5G開放架構底層技術 5G產業化的過程帶動開放架構的發展,過去大型電信設備商硬體、軟體、服務一條龍的銷售模式,帶來一些挑戰與質變的聲音,第一個階段是希望將硬體與軟體解構,硬體希望盡量標準化,可以降低成本。接取網路(Radio Access Network, RAN)又分成無線電單元(Radio Unit, RU)、中央單元(Centralized Unit, CU)、分布單元(Distributed Unit, DU)三個部分,標準化/開放的過程中,首先受惠的就是台灣的網通與伺服器廠商。 相較於2G、3G、4G時代,國內產業對技術規格、標準的掌握度不高,但5G標準就有很大的進展,台灣大概從2014年就投入5G標準的制定工作,而且切入最底層技術難度也較高的實體層(Physical Layer)與Layer 1協定技術開發,甚至貢獻了部分研發成果到國際標準制定組織,過去這些技術台灣的掌握度都很低,此舉有助於台灣廠商在5G O-RAN發展的過程中,建立良好的競爭基礎。 而應用與市場的發展,開放架構在企業專網會更有機會,由於一般公網要求更多功能包括:移動性、覆蓋率等,專網運作範圍相對較小,而且多數用途為智慧製造,所以並不要求移動性,網路功能要求較公網低,技術挑戰也小,而企業專網要求自主性與低成本,更有意願採用開放架構。 協助晶片廠導入AI技術 而未來AI應用無所不在,不管是哪個領域都會有AI的需要,現階段不是所有晶片公司都擁有AI技術團隊,因此工研院開發了一個AI解決方案,希望能對產業有所幫助;分成三個層面,第一是AI晶片架構分析工具,適合大型IC設計公司如瑞昱、聯發科,想要自己開發AI晶片;第二類是中型的IC設計公司就與工研院合作開發AI晶片,如神盾;如果廠商只想要一個通用型的AI引擎,也可以透過軟硬體參考設計輕鬆導入。 AI底層的硬體,如何協助AI模型更有效的運作非常重要,目前多數台灣廠商的需求,不是要開發一個純AI晶片,而是希望在各自原有的技術產品上加入AI功能,尤其工具與編譯器(Compiler)這部分台灣廠商的能力都相對不足。另外,針對影像處理,希望透過算法的設計,降低運算的負擔,以車輛辨識為例,沒有必要把每個影像都當作獨立的運算單位,這樣太浪費處理器資源,可以參考前一個處理結果,只處理變化的內容,有效降低運算需求。 建立高階測試能力與設備研發實力 展望未來幾年,資通所想要發展關鍵技術的測試能力,包括新興產業的測試方法與測試設備,如5G、Micro LED與電動車電池等,這兩年台灣5G技術的發展,算是有一些成果,未來5G系統運轉,對於系統的效能測試,可以藉由先前累積的技術協助產業。另外,台灣半導體產業實力毋庸置疑,但是台灣在IC測試設備還是仰賴國外的廠商,自製設備的市占率僅約2%,要能測試晶片,設備的技術等級通常要更高階,尤其測試設備的晶片,技術等級更高。這部分的市場量不大,但是技術門檻高,市場競爭對手少,產品毛利率也高,台灣未來應該朝向高質化領域發展。 Micro LED近期成為產業熱門話題,一小片螢幕就有上百萬顆LED,如何點亮?如何進行快速的瑕疵檢測?也是未來Micro LED產業化之後一個重要的議題。最後,越來越多電動車上路,裡面的電池淘汰之後,還有很多利用價值,如何回收測試利用也是非常重要的一環。台灣多年來在晶片測試領域表現領先,但是相關設備一直未能自給自足,有能力自行生產測試設備,對於更長久的產業競爭優勢非常重要。
0

整合多階/類比記憶體運算 AI邊緣功耗難題迎刃而解

雖然使用者可以享受到這些AI應用帶來的益處,但同時仍有隱私、功耗、延遲和成本等諸多疑慮,這些疑慮便成為AI 應用的挑戰。如果有一個能夠從資料來源,執行部分/全部運算(推論)的本地處理引擎,那麼這些問題即可迎刃而解。傳統數位神經網路的記憶體存在功耗瓶頸,難以實現這一目標。為了解決此問題,可以將多階記憶體與類比記憶體內運算方法結合使用,使處理引擎滿足更低的毫瓦級(mW)到微瓦級(μW)功率要求,進而在網路邊緣執行AI推論。 雲端AI面臨隱私/功耗/延遲挑戰 如果透過雲端引擎為AI應用提供服務,使用者必須主動/被動上傳一些資料到雲端,運算引擎則在雲端處理資料並提供預測,然後將預測結果發送給終端用戶使用。以下概述資料處理過程面臨的挑戰(圖1): 1.隱私問題:對於Always-on、Always-aware設備,個人資料或機密資訊在上傳期間或在資料中心保存期限期間可能遭受濫用的風險。 2.不必要的功耗:如果每個資料位元都傳輸到雲端,則硬體、無線電、傳輸裝置以及雲端中不必要的運算都會消耗電能。 3.小批量推論的延遲:如果資料來自邊緣裝置,有時至少需要一秒才能收到雲端系統的回應。當延遲超過100毫秒時,人們便有明顯感知,造成不佳的用戶體驗。 4.資料經濟需要創造價值:感測器隨處可見且價格低廉,能夠蒐集大量資料,但是如果每筆資料都上傳到雲端進行處理的效益不高。 圖1 從邊緣到雲端的資料傳輸 要使用本地處理引擎解決這些挑戰,首先必須針對目標使用案例,利用指定資料集合對執行推論運算的神經網路進行訓練。這通常需要高效能運算和記憶體資源,以及浮點運算。因此,機器學習解決方案的訓練部分仍需在公共、私有雲或本地GPU、CPU和FPGA Farm上實現,同時結合資料集合來生成最佳神經網路模型。神經網路模型的推論運算不需要反向傳播,因此在該模型準備就緒之後,可利用小型運算引擎針對本地硬體進行深度優化。推論引擎通常需要大量乘積累加運算(Multiply Accumulate, MAC)引擎,隨後是啟動層,例如修正線性單元(ReLU)、Sigmoid函數或雙曲正切函數,具體取決於神經網路模型複雜度,以及各層之間的池化層。 大多數神經網路模型需要大量MAC運算。例如,即使是相對較小的「1.0 MobileNet-224」模型,也有420萬個參數(權重),執行一次推論需要多達5.69億次的MAC運算。此類模型中的大多數都由MAC運算主導,因此這裡的重點是機器學習計算的運算部分,同時還要尋找機會來建立更好的解決方案。圖2為一個簡單的完全連接型兩層網路。輸入神經元(資料)透過第一層權重處理。第一層的輸出神經元透過第二層權重處理,並提供預測,例如模型能否在指定影像中找到貓臉 。 圖2 完全連接的兩層神經網路 這些神經網路模型使用「點積」運算計算每層中的每個神經元,如下面的公式所示: Yi=∑i Wi Xi 〗 (為簡單起見,公式中省略了「偏差」項)。 在數位神經網路中,權重和輸入資料儲存在DRAM/SRAM中。權重和輸入資料需要移至某個MAC引擎旁以進行推論。根據圖3,採用這種方法後,大部分功耗都源自於獲取模型參數以及將資料登錄到實際發生MAC運算的ALU。從能量角度來看,使用數位邏輯閘的典型MAC運算消耗約250fJ的能量,但在資料傳輸期間消耗的能量超過運算本身兩個數量級,達到50皮焦(pJ)到100pJ的範圍。實際上,很多設計技巧可以大幅減少記憶體到ALU的資料傳輸,但整個數位方案仍受馮紐曼架構的限制。這意謂著,有大量的機會可以減少功率浪費。如果執行MAC運算的能耗可以從約100pJ減少到若干分之幾pJ,將產生什麼樣的可能性? 圖3 機器學習運算中的記憶體瓶頸 消除記憶體瓶頸並降低功耗 如果記憶體本身可用來消除之前的記憶體瓶頸(圖3),則在邊緣執行推論相關的運算就成為可行方案。使用記憶體內運算的方式,可以大幅減少必須移動的資料量,也就能消除資料傳輸期間浪費的能源。快閃記憶體單元運行時產生的主動功率消耗較低,在待機模式下幾乎不消耗能量,因此可以進一步降低能耗。 以Microchip子公司Silicon Storage Technology(SST)的memBrain技術為例,該解決方案奠基於SST的SuperFlash記憶體技術,這項技術已成為適用於微控制器和智慧卡應用的多階記憶體的公認標準。此解決方案內建一個記憶體內運算架構,允許在儲存權重的位置完成運算。權重毋需資料移動,只有輸入資料需要從輸入感測器,例如相機和麥克風,移動到記憶體陣列中,因此消除了MAC運算中的記憶體瓶頸。 這種記憶體概念基於兩大基本原理:一是電晶體的類比電流回應基於其臨界值電壓(Vt)和輸入資料,二則是基爾霍夫電流定律,即在某個點交匯的多個導體網路中,電流的代數和為零。瞭解這種多階記憶體架構中的基本非揮發性記憶體(NVM)位元單元也十分重要。圖4是兩個ESF3(第3代嵌入式SuperFlash)位元單元,帶有共用的抹除閘(EG)和來源線(SL)。每個位元單元有五個終端:控制閘(CG)、工作線(WL)、抹除閘、來源線和位元線(BL)。透過向EG施加高電壓執行位元單元的抹除操作,同時向WL、CG、BL和SL施加高/低電壓偏置訊號來執行程式設計操作,並且向WL、CG、BL和SL施加低電壓偏置訊號以執行讀取操作。 圖4 SuperFlash ESF3單元 採用這種記憶體架構,用戶可以透過微調程式設計操作,以不同Vt電壓對記憶體位元單元進行程式設計。記憶體技術利用智慧演算法調整記憶體單元的浮柵(FG)電壓,以從輸入電壓獲得特定的電流回應。根據最終應用的要求,可以在線性區域或閾下區域對單元進行程式設計。 圖5說明了在記憶體單元中儲存多個電壓的功能。例如,如果要在一個記憶體單元中儲存一個2位元整數值,需要使用4個2位元整數值(00、01、10、11)中的一個,進行記憶體陣列中,每個單元的程式設計。此時需要使用四個具有足夠間隔的可能Vt值之一,對每個單元進行程式設計。圖5的四條IV曲線分別對應於四種可能的狀態,單元的電流回應取決於向CG施加的電壓。 圖5 ESF3單元中的程式設計Vt電壓 受訓模型的權重透過程式設計設定為記憶體單元的浮柵Vt,因此,受訓模型每一層,例如完全連接層的所有權重,都可以在類似矩陣的記憶體陣列上進行程式設計(圖6)。對於推論運算,數位輸入,如數位麥克風,首先利用數位類比轉換器(DAC)轉換為類比訊號,然後應用到記憶體陣列。隨後該陣列對指定輸入向量並存執行數千次MAC運算,產生的輸出隨即進入相應神經元的啟動階段,隨後利用類比數位數轉換器(ADC)將輸出轉換回數位訊號。然後,這些數位訊號在進入下一層之前進行池化處理。 圖6 用於推論的權重矩陣記憶體陣列 這類多階記憶體架構模組化程度非常高,而且十分靈活。許多記憶體晶片可以結合在一起,形成一個混合了權重矩陣和神經元的大型模型(圖7)。在此案例中,M×N晶片配置透過各晶片間的類比和數位介面相互連接。 圖7 memBrain的模組化結構 截至目前,文章主要討論了該架構的晶片實施方案。提供軟體發展套件(SDK)可幫助開發解決方案,除了晶片外,SDK還有助於推論引擎的開發。SDK流程與訓練框架無關。用戶可以在提供的所有框架,包含TensorFlow、PyTorch等框架中,根據需要使用浮點運算創建神經網路模型(圖8)。創建模型後,SDK可協助量化受訓神經網路模型,並將其映射到記憶體陣列。在該陣列中,可以利用來自感測器或電腦的輸入向量執行向量矩陣乘法。 圖8 memBrain SDK流程 多階記憶體方法結合記憶體內運算功能的優點包括: 1.較低功耗:專為低功耗應用設計的技術。功耗方面的第一個優點是,這種解決方案採用記憶體內運算,因此在運算期間,從SRAM/DRAM傳輸資料和權重不會浪費能量。功耗方面的第二個優點是,快閃記憶體單元在臨界值模式下以較低的電流運行,因此主動功率消耗非常低。第三個優點是待機模式下幾乎沒有能耗,原因是非易失性記憶體單元不需要任何電力即可保存始終開啟設備的資料。這種方法也非常適合在權重和輸入資料的稀疏性時加以利用,如果輸入資料或權重為零,則記憶體位元單元不會啟動。 2.減小封裝尺寸:該技術採用分離柵(1.5T)單元架構,而數位實施方案中的SRAM單元基於6T架構。此外,與6T SRAM單元相比,這種單元是小得多。另外,一個單元即可儲存完整的4位元整數值,而不是像SRAM單元那樣需要4×6=24個電晶體才能實現此目的,從根本減少晶片上占用的空間。 3.降低開發成本:由於記憶體效能瓶頸和馮紐曼架構的限制,很多專用設備,例如NVIDIA的Jetsen或Google的TPU,趨向於透過縮小幾何結構提高每瓦效能,但這種方法解決邊緣運算難題的成本卻很高。採用將類比記憶體內運算與多階記憶體結合的方法,可以在快閃記憶體單元中完成晶片運算,這樣便可使用更大的幾何尺寸,同時降低掩膜成本(Mask Cost)和縮短開發週期。 邊緣運算應用的前景十分廣闊,然而,首先需要解決功耗和成本方面的挑戰,邊緣運算才能得到發展機會。使用能夠在快閃記憶體單元中執行晶片上運算的記憶體方法,可以消除主要障礙。這種方法利用經生產驗證的公認標準類型多階記憶體技術解決方案,且此方案已針對機器學習應用進行優化。 (本文作者為Microchip嵌入式記憶體產品開發總監)
0

工研院ICT TechDay推動未來智慧商機

AI人工智慧及5G是被預期下一個十年最重要的技術,工研院舉辦一年一度的ICT TechDay(資通訊科技日),展示超過20項最新資通訊創新技術,從AI晶片與應用、資訊安全、自駕車與無人機,到5G通訊與邊緣運算四大領域,臺灣在半導體和資通訊產業已有一定優勢,在AI人工智慧與5G物聯網催生下,業者有機會在全球供應鏈搶進核心地位,扮演下世代資訊科技重要角色。 工研院舉行2020 ICT TechDay,邀請重量級貴賓分享ICT產業趨勢。圖左至右為臺灣雲端物聯網產業協會理事長徐爵民、工研院資通所所長闕志克、電電公會理事長李詩欽 工研院資訊與通訊研究所所長闕志克表示,隨著AI人工智慧技術快速發展,AI人工智慧發展重點將從軟體走向硬體,從集中式運算走向邊緣運算(Edge Computing);工研院從晶片、架構及應用三方面著手,開發AI推論晶片(DNN Inference Chip)、AI推論架構(DNN Inference Architecture),到DNN Model與應用的AI人工智慧Total solution,為產業提供多元的AI人工智慧端到端解決方案。 工研院研發「AI深度學習演算法」,影像辨識可由類神經網路自我學成,技術精準度超過99% 闕志克認為,5G多元應用所帶動的新市場也備受關注,尤其是5G專網方面。製造業對生產可靠度需求高,精準掌握生產及設備數據,長年都有蒐集智慧發展所需的數據資訊,加上產業上中下游供應連結度強,互動性高,因此,在面對快速少量、彈性、多元製造需求下,運用5G專網發展智慧製造將是製造業者具備差異化的重要工具,也是所有應用場域中最早落實的產業。目前看到5G專網將有三種方式推動,公網、公網白牌化、專網專頻,公網白牌化採用開放架構設備,網通業者及系統整合商將有更多投入的新機會;專網專頻有機會因工廠等智慧場域已普遍採用Wi-Fi系統,可透過Wi-Fi技術升級與5G專網整合,Wi-Fi設備商及提供應用服務的系統整合業者也可望迎來另一波成長的機會。 工研院研發無人機AI美學攝影技術,透過蒐集網美照片整理出多種拍照風格,再搭配AI影像辨識,讓無人機模仿專業攝影師的拍照手法,自動取景拍出最優畫面 在AI相關解決方案部分,ICT TechDay展示「AI深度學習演算法」、「應用程式白名單」、「無人機AI美學攝影體驗」、「自駕車管理系統與運算平台」、「行動邊緣運算系統專網」等20餘項關鍵技術。例如工研院研發 AI深度學習演算法,攜手新創公司邁爾凌科技及遠東集團旗下軟體公司遠創智慧,開發國產AI車牌辨識解決方案,提供關鍵演算法、訓練器打造國產AI軟韌體訓練整合模組,搶攻新市場。
0

新冠疫情加速製造業數位轉型腳步 AI視覺/手臂整合更強大

就在新冠疫情起起伏伏,製造業者對智慧製造的需求更加迫切的背景下,2020年台灣科技相關產業的第一個大型實體展覽—台北國際自動化展揭開了序幕。雖然參觀人士必須戴著口罩才能入場,但場內觀展的人潮仍不在少數,且許多參展廠商都端出了人工智慧(AI)相關的展示內容,更讓今年的自動化展飄著濃濃的AI味。 安全皮膚技術助陣 工業機器人走向協作化 新冠疫情使得許多工廠面臨現場勞動力不足的考驗,進而使工廠人機協作的升級轉型需求大增。但工業機器手臂為追求生產效率的極大化,作業時往往必須與人類作業員保持安全距離,使得人機協作的理想很難落實。如何讓工業機器手臂與人類作業員安全地協同工作,成為機器手臂產業的重大議題。 為實現工業協作手臂的理想,專注研發機器手臂安全皮膚的原見精機,與日本川崎重工(KAWASAKI)攜手合作,共同發表了搭載安全皮膚的工業機器手臂(圖1),藉由高達95%且無死角的包覆度,讓工業機器手臂的安全度大為提升,並朝工業協作的目標跨出一大步。 圖1 原見精機與川崎重工合作,讓原本專為工業應用設計的KHI RS007L機器手臂,在加裝專為其設計的安全皮膚後,升級為工業協作手臂 原見精機董事長蘇瑞堯表示,該公司自2017年創立以來,靠著全球唯一的表面式力感測器解決方案,獲國內外諸多機器人龍頭廠商青睞,攜手提升智慧製造人機協作的安全性。很榮幸本次與川崎重工進一步深化夥伴關係,推出搭載於其機械手臂、市面上包覆最完善的機器人觸覺技術解決方案,現正於日本進行最後檢測實驗,預計不久後即可問世量產。該公司將持續以MIT的堅強技術實力,與更多夥伴攜手打世界盃,以安全的工業協作自動化為核心,擘畫下世代工廠未來。 川崎重工新事業開發部部長野田真指出,產業環境日新月異,川崎重工於工業自動化與機器人產業發展的五十多年間,不斷開發並尋找能符合市場需求的技術。原見精機獨有的觸覺感測解決方案,有效促進大型工業機器人與人類的協作,為新時代自動化產業的發展注入活水。搭載於KHI RS007L的T-Skin安全皮膚新產品,提供機器手臂在協作同時又保有完整的工業精準特性,升級為堅實、精準、耐用的下世代機器人。 原見精機的T-Skin安全皮膚,具有高感度特性,只要一公斤力碰觸就可命令機器人停止。該產品是全球第一個通過歐盟CE驗證最高規格的觸覺感測安全產品,且符合人機協作技術規範ISO/TS 15066的人體安全撞擊測試,產品安全與功能安全均獲認可,達到完整機械系統的安全要求。 原見精機總經理盧元立則進一步說明,KAWASAKI的輕量型機器手臂KHI RS007L是目前同一負重等級中,全球運作速度最快的機械手臂。該手臂原本是專為工業應用設計的產品,但由於人機協作是機器手臂很重要的發展趨勢,如何讓工業機器手臂在快速、精準的既有優勢上,提高其安全性,是許多機器手臂業者都在追求的目標。 在既有的工業手臂上加裝安全皮膚,可讓工業手臂快速升級為工業協作手臂,且成本也遠低於購置新的協作型手臂(Cobot)。但安全皮膚必須針對手臂進行深度客製化,才能避免安全皮膚拖累或干擾機器手臂的運作。原見與川崎重工合作,為KHI RS007L開發專用安全皮膚T-Skin的目的,就是為了讓該手臂能一方面保有其輕巧快速的優勢,另一方面又更加安全。 除了與川崎重工直接合作外,原見也已經針對其他機器手臂品牌的多款產品開發出外掛式的安全皮膚,可讓製造業者用最實惠的投資額,將既有的工業手臂升級為工業協作手臂。 驅控整合式機器關節讓手臂設計更彈性 在本次自動化展中,除了安全皮膚外,與機器手臂有關的重要技術,還有工研院所發表的第三代驅控整合式機器關節。 工研院機械所智慧機器人技術組長黃甦表示,目前市場上絕大多數機器手臂的臂長與構型,都是由機器手臂原廠定義,使用者跟系統整合商(SI)無法依照自家產線的需求或場域狀況進行調整,也使得某些很特別的應用場域找不到適合的機器手臂。因此,工研院發想出新的設計理念,把整隻手臂拆分成一個個關節單元,讓使用者或SI可以依照應用場域的狀況,在一定的容許範圍內,針對每一節手臂的臂長、手臂的整體構型進行客製化,打造出量身訂做的機器手臂。 目前這項技術已經發展到第三代,與前兩代關節模組相比,第三代關節模組單位重量的扭力輸出較第一代關節模組增加約30%,臂長則比第二代更長,又取消了L型關節設計,只保留N型與I型關節,因此整支手臂的外觀更纖長,但又比第二代關節模組多出一個自由度,可實現七軸手臂設計(圖2)。整體來說,利用第三代關節模組組成的機器手臂,比以往的手臂更不占空間,卻又因為多出一個自由度,能負擔更多元化的作業任務。 圖2 工研院機械所展示利用其第三代機器關節模組實現的高度客製化機器手臂 黃甦透露,目前新竹清華大學已經採購了兩支由第三代關節組成的機器手臂,將以此進行雙臂機器人的開發,另也有醫療產業的SI業者利用第三代關節更不占空間的特性,設計出手術用的輔助機器人,可以在開刀房內執行夾持內視鏡這類原本由護士執行的助理工作,讓護士可以去做其他工作。 此外,還有多家台灣的馬達、齒輪等手臂零組件業者,也已經向工研院取得技轉,利用這項技術發展出內建自家馬達、齒輪等關鍵零組件的關節模組。跟提供零組件相比,提供關節模組不僅更貼近SI客戶的需求,單價跟利潤空間也比只銷售零組件更好。 機器視覺/AI緊密結合 手臂應用場景更多元 除了手臂本身的進步外,本次自動化展上,結合人工智慧的機器視覺也比往年更有看頭。所羅門以「AI 3D視覺賦予機器人感知能力」為主題參展,與合作夥伴共同展出多達16項智慧製造與智慧物流的相關應用,包含台灣首次發表的智慧物流分撿與包裝解決方案、智慧焊道辨識方案、智慧打磨系統。 所羅門董事長陳政隆指出,轉型智慧工廠,只有機器手臂是不夠的,因為無法成功辨識物件的機器手臂,在實際的產業應用上會受到很多限制,而這也是所羅門發展AI 3D視覺的主要原因。有AI 3D視覺的機器人,才能讓機器人的應用更多樣化,真正符合產業彈性製造的需求。 事實上,所羅門近年來在AI、機器視覺與機器手臂的整合應用上,投入了相當多資源,每年自動化展上的現場展示,也隨著機器視覺的辨識能力越來越高,而變得更多樣化、更複雜,更貼近實際應用需求。 圖3 所羅門展示的AI智慧焊道辨識方案 據所羅門評估,現在AI、機器視覺與機器手臂的整合應用,已經脫離技術驗證階段,開始走向大量部署。但有許多客戶反應,受到網路頻寬、延遲等因素的影響,現階段要在產線上部署這種高度智慧化的系統,必然要在產線旁配置搭載了高階繪圖卡的工業電腦,由此衍生的成本也是不小的導入障礙。因此,所羅門正著手將其AI機器視覺系統雲端化,以便在網路性能進一步提升,例如5G、TSN網路普及後,能立刻提供用戶雲端部署的選項,降低硬體建置的費用。 AI結合領域知識 自動化長智慧 在本屆自動化展中,幾乎所有跟影像有關的應用,不管是以機器視覺引導機器手臂運作,或是用機器視覺對大小工業產品進行檢測,都能看到AI技術的身影。對工業自動化產業而言,這是頗不尋常的現象。 由於工業自動化對系統的穩定度、可靠度要求遠高於一般資通訊產業或消費性電子產業,因此自動化相關業者對於新技術導入,向來採取比較審慎、保守的態度,除非技術已經相當成熟,否則不會輕易將其導入到自家的產品或解決方案中。 但AI在自動化應用中普及的速度,打破了自動化產業穩紮穩打的習慣,從今年自動化展的展示內容,可以發現相關業者並不是把AI當作展現研發實力的題目,而是真的已經在生產線上累積了一定的部署實績。 俗話說,禍福相倚。新冠疫情對製造業的正常運作造成十分巨大的干擾,但同時也促使製造業者加快數位轉型的腳步,並使得新技術的導入速度明顯加快。對自動化業者,乃至更上游的電子設備、半導體元件供應商來說,或許也算是失之東隅,收之桑榆吧。
0

運算型儲存超前部署 Arm Cortex-R82即時處理器就位

物聯網(IoT)、人工智慧(AI)與5G等應用持續發展,帶動網路資料量大幅增加,其中物聯網數據量預計在2025年將超過79ZB。針對海量資料的產生,應用趨勢希望能在越接近數據生成的位置處越好,原因是安全性、延遲性與能源效率都能提升。運算型儲存(Computational Storage)已經崛起,成為數據儲存拼圖關鍵的一部份,Arm宣布推出Cortex-R82,為第一個64位元、具備Linux作業系統能力的Cortex-R處理器,可加速次世代企業與運算型儲存解決方案的發展與部署。 運算型儲存(Computational Storage)較傳統運算模式簡化,且更有效益 根據統計85%的硬碟控制器與固態硬碟控制器都是以Arm為基礎架構,讓處理更靠近數據,需要更高的效能。Arm儲存方案資深經理黃晏祥表示,依據作業負載的不同,Arm Cortex-R82與之前世代的Cortex-R8相比,最高可以提供兩倍的效能提升,能讓儲存應用以較低的延遲,運行如機器學習等作業負載,並可選用Arm Neon技術提供額外的加速。Cortex-R82本身為64位元架構,最高可以存取1TB的DRAM,供儲存應用進行數據處理。 儲存控制器傳統上運行裸機/RTOS作業負載以儲存及存取數據;不過,Cortex-R82選用的記憶體管理單元(MMU),可讓頻繁的作業系統在儲存控制器上直接運行。黃晏祥指出,在儲存數據的位置直接進行處理,可為物聯網、機器學習與終端運算等應用,創造更多機會。以數據庫加速加速為例,因為減少大型檔案的移動,安全性與隱私得以提升,數據可以有效率地轉檔或編碼以利串流進行影像處理,並且在必要情況下採用不同的位元率與解析度。 Arm Cortex-R82處理器支援最多八核的彈性架構 隨著儲存市場演化,合作夥伴最大的需求之一就是彈性。黃晏祥說明,Cortex-R82處理器支援最多八核的彈性架構,並可依據外部軟體需求,調整在儲存控制器上運行的作業負載類型。例如,停車場會固定使用視訊監控來辨識車牌資訊,以供後續收費使用。停車場白天會搜集車輛的車牌數據,用多核來進行密集儲存。到了晚上,這些核心會用來處理收費的數據,並依需求進行調整以執行數據分析與機器學習。由於儲存控制器為了應對不同的市場,且功能變得越來越多元,Cortex-R82的彈性架構,同時降低成本並縮短上市時間。 Arm Cortex-R82可依據外部軟體需求,調整在儲存控制器上運行的作業負載類型 為了開發這些未來使用場景所需的系統單晶片,Arm的合作夥伴要能取用簡便且合乎成本效應的技術。Arm為合作夥伴研究可以降低複雜性與成本的方法,Cortex-R82利用Arm Linux與伺服器生態系,為開發人員帶來全新的軟體工具與技術,例如Docker與Kubernetes,以在儲存應用上提供加速的實作方法。同時,Cortex-R82也利用Arm在安全方面的基礎,並相容Arm TrustZone,確保儲存控制器韌體可以與Linux或其它的即時工作量間隔開來。
0

所羅門參加台北自動化展 展出智慧物流分揀與包裝方案

2020臺北國際自動化工業大展將於8月19日至22日在南港展覽館舉行!看好人工智慧(AI)發展與自動化需求,所羅門集團將聚焦智慧物流、智慧製造兩大主題,與其他合作夥伴聯合展出16個視覺應用項目,包括智慧物流、焊道檢測、智能化打磨與檢測等。 所羅門指出,許多倉儲、發貨中心已全面啟動自動化,唯獨在分揀流程仍高度依賴人力運作。所羅門自主研發的智慧物流解決方案,透過AI 3D視覺與深度學習,賦予機器人感知能力,如同裝上眼睛與大腦,讓機器人突破使用限制,即便商品隨機推放,機器人依舊不需事先學習即能成功辨識上千萬種商品包裝、物流箱等物件,因此相當適用物流業的分揀作業。 此外,這套系統還能教會機器人根據訂單內容,即時量測所有商品品項的材積,因此無論是為客戶訂單找尋最合適大小的包裝紙箱,或是將物流箱內排列空間使用到極致,都能幫客戶找到空間利用的最佳化解決方案,為業者省下包材與運費成本。 所羅門的AI-3D視覺系統是目前市面上品牌相容度最高的系統,可支援20家以上國際機械手臂品牌及主要PLC廠牌,客戶涵蓋全球500大企業。卓越的研發能力,讓所羅門連續獲得三屆台灣精品獎、連續兩年世界性工業視覺獎(Vision Systems Design),最近剛結束的中國視覺展Vision China,也拿下視覺領域創新金獎。今年首度報名德國紅點設計大獎,簡潔直觀的圖形化介面獲得評審團激賞,榮獲其中的頂級獎項最佳設計獎(Best Of The Best)。
0

安提國際發表NVIDIA Turing系列 加速精確繪圖運算

GPGPU和邊緣運算解決方案供應商安提國際發布NVIDIA Quadro嵌入式解決方案,未來將發售一系列Quadro Turing架構的MXM圖形模組,以GPU解決方案協助客戶完成良好的產品應用。Quadro為NVIDIA顯示卡中適用於工作站、電腦輔助設計、電腦成像、數位內容打造、科學運算和機器學習的方案,在各式工業用繪圖、成像及人工智慧領域的應用方面,Quadro系列產品能夠符合應用場域的需求與期待。 Quadro Turing架構的MXM圖形模組,以GPU解決方案協助客戶完成良好的產品應用 (來源:安提國際) Quadro MXM產品中,安提將會提供三種Quadro Turing架構GPU的MXM,包括以Quadro T1000打造的M3T1000-PN、Quadro RTX3000打造的M3T3000-QN,以及Quadro RTX5000打造的M3T5000-WN。這次的MXM系列將提供3,072個CUDA運算核心與9.4TFLOPS的運算效能,能夠達成多數工業用與專業繪圖設計的需求。同時,顯示卡提供四個顯示閘口,支援高動態範圍成像(HDR)影片、解析度8K 60Hz的高品質成像。提供使用者在工作上的視覺體驗,其繪圖運算能力更能夠提供符合需求且精確的資料分析。 安提的顯示卡以精小、緊湊的設計為主,以利在各種應用情境中,能夠彈性部署在尺寸、重量與功耗(SWaP)皆有所要求的嵌入式系統,尤其適合應用在極需精確影像呈現與高度運算工作量的醫療與遊戲產業。Quadro MXM系列皆以Turing架構為主,為高效能的視覺運算的資料中心所打造。其中配備有NVIDIA Turing架構的Quadro RTX系列,支援即時光線追蹤,展現真實的光線移動、影子變化、光線倒影成像等,也可以及時提供電影品質的渲染效果。RTX Turing GPU的特色在於著色技術上的進展,相較於過去的架構,帶來更強大、彈性的效能。 Quadro RTX Turing系列也支援深度學習超高取樣技術(DLSS),通用於各式人工智慧技術的深度學習訓練。Tensor核心則可讓使用Tensor Float 32的AI訓練獲得10倍加速效能、使用FP64的高效能運算提升2.5倍,帶來更良好的人工智慧訓練、推論以及繪圖運算能量。
0

疫情推波AI應用 診斷系統/智慧輔具助醫療照護

2016年圍棋軟體Alpha Go問世後,人工智慧(AI)技術成為熱門話題。直至2020年,人工智慧的技術發展邁向普及,廣泛應用於各領域之外,機器學習(Machine Learning, ML)、深度學習(Deep Learning)、邊緣運算(Edge Computing)的技術都更臻成熟。今年疫情掀起智慧醫療討論風潮,將AI用於藥物研發與病毒研究,同時回顧自2012年AlexNet架構問世後,影像辨識大量運用在診斷及手術輔助場景。另一方面,結合AR的人機介面往智慧輔具方面發展,透過生物感測輔助身障人士擁有更便利的生活。種種醫療照護領域應用需求,搭配台灣AI技術的破壞式創新,使得台廠有望在市場中搶得商機。 AI朝向深度學習/少資料訓練發展 資策會產業情報研究所(MIC)資深產業分析師兼組長韓揚銘說明,MIC統計在2016年Alpha Go出現以後的深度學習框架更新狀況,發現2018年度各框架的更新總次數最高,總共達31次。框架更新的過程中,可觀察到有兩大趨勢,一是很多公司提供深度學習的框架加速AI模型的開發,二則是許多公司討論深度增強式學習框架應用的可能性。市場上的深度學習框架開發仍處於百家爭鳴階段,大廠之間不斷競爭,希望成為未來應用主流。 現階段的人工智慧技術由深度學習主導,朝向改善深度學習、解開AI判讀過程的黑盒子,以及使用少量資料訓練模型的方向發展。其中Meta-Learning只需要搜集少數資料,即可從不同的模型架構來快速獲得學習能力,達到通用的學習效果。影像辨識的模型訓練,也可以使用生成對抗網路(GAN)合成影像資料,再透過生成模型與判別模型相互訓練,達成多樣本訓練的需求。部分醫療影像便是使用GAN技術,用2D影像資料訓練模型,來進行3D影像的判讀。 韓揚銘分析現階段台灣的AI市場,由AI起家的AI產業,以及做出AI產品的科技公司所形成的產業AI,統計共有342家,並擴及13領域。技術分布上,以數據推論為大宗,第二大為電腦視覺(圖1)。成立時間上,以2016年Alpha Go研發前後為分界,2013年AI相關的公司開始大幅增加,又以2017年增加幅度最高。投入的領域方面,2016年以前成立的公司,以製造、跨域整合及商業服務為主,2016年以後,多數公司投入跨域整合、醫療健康、行銷與媒體。 圖1 產業AI與AI產業技術發展 資料來源:MIC,06/2020 為疫情協作 補足AI算力需求 2020年隨新型冠狀病毒(COVID-19)疫情發生,AI技術大量應用在疫苗及藥物的研發工作,其中所需要的大量運算能力,可藉由分散式的協作達成。工研院產科國際所研究經理陳右怡舉例說明,AI進行疫苗研發跟藥物開發需要強大的算力,而為了補足算力,史丹佛大學的實驗室透過網站提供軟體下載,全球各地的志願者下載後,可以設定電腦在閒置的時段內提供算力來解碼病毒,並將結果回傳實驗室,由全球百萬台電腦共同進行,拆解COVID-19的病毒結構,以利藥物研究。 影像辨識助臨床診斷 回顧AI在智慧醫療領域的進程,新冠疫情尚未爆發前,2012年Google發表AlexNet架構,人類在影像辨別上有大幅的技術成長,資策會MIC資深產業分析師吳駿驊表示,自此開始AI相關的論文數量在六年間成長六倍。然而新技術的研發伴隨法規等落地挑戰,由於診療輔助的AI系統來自於大量醫療數據的機器學習成果,上市前達成臨床與效能評估後導入醫院,但是進入實際應用場景後,仍會隨著比對醫師診斷結果、搜集更多使用者數據而不斷的循環更新。換句話說,AI診斷系統上市後仍因為持續的訓練、優化而改變,但是當時的規範無法歸類相關產品,AI系統因而面臨醫療法規認證的挑戰。直到2018年4月FDA採認全球首款AI設備,通過一款近視視網膜的AI影像辨識系統的認證。吳駿驊進一步說明,目前世界各國的規範不同,但是隨著AI的技術持續推進,法規就會逐漸具體化。 就AI醫療發展的現況而言,MIC統計CB Insights在2020年5月挑選百大新創的AI公司中(圖2),醫療領域在去年跟今年都有14家,14家之中又以診斷輔助為大宗,數量跟募資金額皆最高。吳駿驊提及,影像辨識的判讀輔助是最具快速商用機會的應用,來自量測腫瘤、斷層掃描、病理切片、核磁共振、超音波及X光的影像數據,可以協助醫師快速分類並判讀病徵,找到高風險的影像或者避免醫師漏診。 圖2 輔助診斷與藥物開發為市場熱區 資料來源:CB Insights;MIC整理,05/2020 生物感測搭配UI成就智慧輔具 除了AI醫療的臨床應用,非接觸式的人機介面也是AI在醫療照顧領域有成功案例的技術趨勢。當AI結合跨領域知識,便可以造福過往不易接觸科技的族群,如視障/聽障/身障人士,皆可透過生理感測技術,取得智慧輔具而獲得更便利的生活。此外AR應用的加入,則為醫生提供更多手術所需的參考依據。 資策會MIC資深產業分析師林巧珍提及,非接觸的人機介面結合生物感測,能夠開發出更人性化且價格親民的輔具,也能在手術方面輔助醫生判斷病人狀態。例如智慧義肢BrainCo藉由感測腦波跟肌肉訊號,達到控制智慧義肢的目的,並且結合演算法學習使用者的習慣,協助肢障人士做到拿杯子、握手等動作。視障輔具Orcam則是結合手勢辨識、語音與視覺UI的產品,當視障者將Orcam戴在眼睛旁邊,手指向任何物品或文字,裝置即可朗誦內容或提供物品名稱。在購物情境中,裝置會告訴使用者手中的鈔票面額,或者閱讀時為使用者朗讀內容。 人機介面用在智慧輔具之外,結合AR所做的Medivis是手術房的混合實境系統,由兩位醫師號召軟體工程師創業,可應用在手術房與教學情境中。以腦部手術為例,傳統上醫生會先從平面顯示器觀看患者大致的2D器官位置圖片,現在如果改用混合實境的視覺UI介面,能夠把患者的全息影像直接覆蓋、顯示在患者的身體上面,手術醫生可以隔空透過手勢即時與影像互動,即可看到患者的器官全貌,找到精準的下刀位置,大幅降低手術風險。此外,Medivis還能用於醫學院的教學訓練。除了顯示虛擬實境3D影像,Medivis可以容納最多20個學生跟同一個影像互動,降低模擬手術成本的同時提高學生學習成效。 林巧珍認為,目前UI技術由不同單位各自研發,但是接下來將走向合作,形成跨領域產業。整體而言,智慧輔具作為剛性需求,賦能載具將開枝散葉,市場敏感度高的新公司即便沒有大廠的知名度跟資源,還是有機會突圍成為獨角獸公司。加上未來三到五年AR/MR的技術越加活絡,科技設備的控制會跳脫螢幕與滑鼠,直接由視覺、手勢甚至意識操控。 台廠機會在精準醫療 綜觀AI醫療的走向,吳駿驊提出台灣廠商的三大機會。一是在原先以國際大廠為主流的醫療產業中,AI破壞式創新的快速研發形式,使得台灣有機會進入醫療的核心市場。其二是醫療儀器生產多來自大型廠商,而雲端廠商如Google、阿里巴巴皆想競爭智慧醫療的軟體市場,除了面臨多數醫院資料不能上傳雲端的問題,軟硬體產商也都積極尋找合作夥伴,以提供完整的方案。 在產業的競合關係中,ICT業者可以考慮利用新創與醫院的合作優勢,打造國內醫院的智慧解決方案,包括如何收資料、部署AI等,在應用的流程中隨時搜集資料。第三個機會則來自精準醫療的需求。生病往往是飲食不對、沒有運動等生活習慣導致,如果能夠搜集並分析生理數據,便有可能達到疾病預防的效果。而搜集數據所需的感測器,包含穿戴裝置使用的判斷模型皆是台灣的技術強項,因此可以發展相關的消費性電子產品(圖3)。 圖3 健康照護各次領域也快速採用AI技術 資料來源:MIC,05/2020  
0

NVIDIA/佛羅里達大學合作打造教學用AI超級電腦

晶片製造商Nvidia日前宣布與佛羅里達大學(UF)合作,為高等教育打造人工智慧(AI)超級電腦,提供700 petaflop的AI性能,UF可望成為國際上具先進AI教學技術的學校。 圖 Nvidia與UF合作,為高等教育打造AI超級電腦。來源:Nvidia 這個合作計畫案的資金總額為7,000萬美元,其中2,500萬來自NVIDIA,提供的項目包括軟、硬體、訓練與相關服務,另外2,500萬則由NVIDIA共同創辦人暨UF校友Chris Malachowsky提供。UF則耗資2,000萬設立以AI為中心的超級電腦與數據中心,期望成為優良的AI教育大學。 UF同時透過NVIDIA DGX SuperPOD架構,強化其現有使用NVIDIA晶片的超級電腦HiPerGator,預計在2021年初讓這台電腦開始運作。超級電腦將能協助UF的學生學習AI工具,並將所學用以解決海平面上升、人口高齡化、數據安全、客製化藥物、大眾運輸與食品安全等問題,預計在2030年將累積30000名從UF畢業的AI人才。 過去NVIDIA以提供個人電腦的影像晶片,提升遊戲畫面的臨場感聞名,但現在已有許多數據中心採用內建GPU的運算硬體,用以加快AI的執行速度,例如訓練電腦分類影像。
0
- Advertisement -
- Advertisement -

最新文章

- Advertisement -

熱門文章

- Advertisement -

編輯推薦

- Advertisement -