- Advertisement -
首頁 標籤 AI

AI

- Advertisment -

NVIDIA推出BlueField DPU系列產品

NVIDIA日前宣布推出全新處理器資料處理器(DPU),這款處理器採用新穎的資料中心基礎架構單晶片(Data-center-infrastructure-on-a-chip, DOCA),能夠在網路、儲存及安全達到突破性的效能表現。 BlueField-2X 擁有 BlueField-2 DPU 的各項關鍵功能,其中針對 NVIDIA Ampere GPU 的 AI 功能予以強化 NVIDIA創辦人暨執行長黃仁勳於GPU技術大會主題演講中,揭露 NVIDIA的三年DPU發展藍圖,包含於DPU加速的資料中心基礎架構服務上,發展各項應用程式的全新BlueField-2系列DPU以及NVIDIA DOCA軟體開發套件。黃仁勳表示,資料中心已經成為新的運算單位。DPU是現代且安全加速資料中心的重要元素,其中 CPU、GPU 及 DPU 可以組合成一個可完全程式化並支援人工智慧的單一運算單位,同時能提供過去無法實現的安全及運算能力水準。 優化後的 BlueField-2 DPU能夠從CPU中卸載關鍵的網路、儲存和安全性工作,讓組織可以將其IT基礎架構轉化為最先進的資料中心,這些資料中心具備加速功能、可完全程式化,以及「零信任(Zero-Trust)」安全保障,以避免資料外洩和網路攻擊。單一 BlueField-2 DPU可以為同個資料中心提供原本需要使用多達125個CPU核心的服務,如此一來便能釋出寶貴的CPU核心來運行其它的企業應用項目。 全球的伺服器製造商,包括華碩 (ASUS)、源訊科技(Atos)、戴爾科技 (Dell...
0

整合多階/類比記憶體運算 AI邊緣功耗難題迎刃而解

雖然使用者可以享受到這些AI應用帶來的益處,但同時仍有隱私、功耗、延遲和成本等諸多疑慮,這些疑慮便成為AI 應用的挑戰。如果有一個能夠從資料來源,執行部分/全部運算(推論)的本地處理引擎,那麼這些問題即可迎刃而解。傳統數位神經網路的記憶體存在功耗瓶頸,難以實現這一目標。為了解決此問題,可以將多階記憶體與類比記憶體內運算方法結合使用,使處理引擎滿足更低的毫瓦級(mW)到微瓦級(μW)功率要求,進而在網路邊緣執行AI推論。 雲端AI面臨隱私/功耗/延遲挑戰 如果透過雲端引擎為AI應用提供服務,使用者必須主動/被動上傳一些資料到雲端,運算引擎則在雲端處理資料並提供預測,然後將預測結果發送給終端用戶使用。以下概述資料處理過程面臨的挑戰(圖1): 1.隱私問題:對於Always-on、Always-aware設備,個人資料或機密資訊在上傳期間或在資料中心保存期限期間可能遭受濫用的風險。 2.不必要的功耗:如果每個資料位元都傳輸到雲端,則硬體、無線電、傳輸裝置以及雲端中不必要的運算都會消耗電能。 3.小批量推論的延遲:如果資料來自邊緣裝置,有時至少需要一秒才能收到雲端系統的回應。當延遲超過100毫秒時,人們便有明顯感知,造成不佳的用戶體驗。 4.資料經濟需要創造價值:感測器隨處可見且價格低廉,能夠蒐集大量資料,但是如果每筆資料都上傳到雲端進行處理的效益不高。 圖1 從邊緣到雲端的資料傳輸 要使用本地處理引擎解決這些挑戰,首先必須針對目標使用案例,利用指定資料集合對執行推論運算的神經網路進行訓練。這通常需要高效能運算和記憶體資源,以及浮點運算。因此,機器學習解決方案的訓練部分仍需在公共、私有雲或本地GPU、CPU和FPGA Farm上實現,同時結合資料集合來生成最佳神經網路模型。神經網路模型的推論運算不需要反向傳播,因此在該模型準備就緒之後,可利用小型運算引擎針對本地硬體進行深度優化。推論引擎通常需要大量乘積累加運算(Multiply Accumulate, MAC)引擎,隨後是啟動層,例如修正線性單元(ReLU)、Sigmoid函數或雙曲正切函數,具體取決於神經網路模型複雜度,以及各層之間的池化層。 大多數神經網路模型需要大量MAC運算。例如,即使是相對較小的「1.0 MobileNet-224」模型,也有420萬個參數(權重),執行一次推論需要多達5.69億次的MAC運算。此類模型中的大多數都由MAC運算主導,因此這裡的重點是機器學習計算的運算部分,同時還要尋找機會來建立更好的解決方案。圖2為一個簡單的完全連接型兩層網路。輸入神經元(資料)透過第一層權重處理。第一層的輸出神經元透過第二層權重處理,並提供預測,例如模型能否在指定影像中找到貓臉 。 圖2 完全連接的兩層神經網路 這些神經網路模型使用「點積」運算計算每層中的每個神經元,如下面的公式所示: Yi=∑i Wi Xi 〗 (為簡單起見,公式中省略了「偏差」項)。 在數位神經網路中,權重和輸入資料儲存在DRAM/SRAM中。權重和輸入資料需要移至某個MAC引擎旁以進行推論。根據圖3,採用這種方法後,大部分功耗都源自於獲取模型參數以及將資料登錄到實際發生MAC運算的ALU。從能量角度來看,使用數位邏輯閘的典型MAC運算消耗約250fJ的能量,但在資料傳輸期間消耗的能量超過運算本身兩個數量級,達到50皮焦(pJ)到100pJ的範圍。實際上,很多設計技巧可以大幅減少記憶體到ALU的資料傳輸,但整個數位方案仍受馮紐曼架構的限制。這意謂著,有大量的機會可以減少功率浪費。如果執行MAC運算的能耗可以從約100pJ減少到若干分之幾pJ,將產生什麼樣的可能性? 圖3 機器學習運算中的記憶體瓶頸 消除記憶體瓶頸並降低功耗 如果記憶體本身可用來消除之前的記憶體瓶頸(圖3),則在邊緣執行推論相關的運算就成為可行方案。使用記憶體內運算的方式,可以大幅減少必須移動的資料量,也就能消除資料傳輸期間浪費的能源。快閃記憶體單元運行時產生的主動功率消耗較低,在待機模式下幾乎不消耗能量,因此可以進一步降低能耗。 以Microchip子公司Silicon Storage Technology(SST)的memBrain技術為例,該解決方案奠基於SST的SuperFlash記憶體技術,這項技術已成為適用於微控制器和智慧卡應用的多階記憶體的公認標準。此解決方案內建一個記憶體內運算架構,允許在儲存權重的位置完成運算。權重毋需資料移動,只有輸入資料需要從輸入感測器,例如相機和麥克風,移動到記憶體陣列中,因此消除了MAC運算中的記憶體瓶頸。 這種記憶體概念基於兩大基本原理:一是電晶體的類比電流回應基於其臨界值電壓(Vt)和輸入資料,二則是基爾霍夫電流定律,即在某個點交匯的多個導體網路中,電流的代數和為零。瞭解這種多階記憶體架構中的基本非揮發性記憶體(NVM)位元單元也十分重要。圖4是兩個ESF3(第3代嵌入式SuperFlash)位元單元,帶有共用的抹除閘(EG)和來源線(SL)。每個位元單元有五個終端:控制閘(CG)、工作線(WL)、抹除閘、來源線和位元線(BL)。透過向EG施加高電壓執行位元單元的抹除操作,同時向WL、CG、BL和SL施加高/低電壓偏置訊號來執行程式設計操作,並且向WL、CG、BL和SL施加低電壓偏置訊號以執行讀取操作。 圖4 SuperFlash ESF3單元 採用這種記憶體架構,用戶可以透過微調程式設計操作,以不同Vt電壓對記憶體位元單元進行程式設計。記憶體技術利用智慧演算法調整記憶體單元的浮柵(FG)電壓,以從輸入電壓獲得特定的電流回應。根據最終應用的要求,可以在線性區域或閾下區域對單元進行程式設計。 圖5說明了在記憶體單元中儲存多個電壓的功能。例如,如果要在一個記憶體單元中儲存一個2位元整數值,需要使用4個2位元整數值(00、01、10、11)中的一個,進行記憶體陣列中,每個單元的程式設計。此時需要使用四個具有足夠間隔的可能Vt值之一,對每個單元進行程式設計。圖5的四條IV曲線分別對應於四種可能的狀態,單元的電流回應取決於向CG施加的電壓。 圖5 ESF3單元中的程式設計Vt電壓 受訓模型的權重透過程式設計設定為記憶體單元的浮柵Vt,因此,受訓模型每一層,例如完全連接層的所有權重,都可以在類似矩陣的記憶體陣列上進行程式設計(圖6)。對於推論運算,數位輸入,如數位麥克風,首先利用數位類比轉換器(DAC)轉換為類比訊號,然後應用到記憶體陣列。隨後該陣列對指定輸入向量並存執行數千次MAC運算,產生的輸出隨即進入相應神經元的啟動階段,隨後利用類比數位數轉換器(ADC)將輸出轉換回數位訊號。然後,這些數位訊號在進入下一層之前進行池化處理。 圖6 用於推論的權重矩陣記憶體陣列 這類多階記憶體架構模組化程度非常高,而且十分靈活。許多記憶體晶片可以結合在一起,形成一個混合了權重矩陣和神經元的大型模型(圖7)。在此案例中,M×N晶片配置透過各晶片間的類比和數位介面相互連接。 圖7 memBrain的模組化結構 截至目前,文章主要討論了該架構的晶片實施方案。提供軟體發展套件(SDK)可幫助開發解決方案,除了晶片外,SDK還有助於推論引擎的開發。SDK流程與訓練框架無關。用戶可以在提供的所有框架,包含TensorFlow、PyTorch等框架中,根據需要使用浮點運算創建神經網路模型(圖8)。創建模型後,SDK可協助量化受訓神經網路模型,並將其映射到記憶體陣列。在該陣列中,可以利用來自感測器或電腦的輸入向量執行向量矩陣乘法。 圖8 memBrain SDK流程 多階記憶體方法結合記憶體內運算功能的優點包括: 1.較低功耗:專為低功耗應用設計的技術。功耗方面的第一個優點是,這種解決方案採用記憶體內運算,因此在運算期間,從SRAM/DRAM傳輸資料和權重不會浪費能量。功耗方面的第二個優點是,快閃記憶體單元在臨界值模式下以較低的電流運行,因此主動功率消耗非常低。第三個優點是待機模式下幾乎沒有能耗,原因是非易失性記憶體單元不需要任何電力即可保存始終開啟設備的資料。這種方法也非常適合在權重和輸入資料的稀疏性時加以利用,如果輸入資料或權重為零,則記憶體位元單元不會啟動。 2.減小封裝尺寸:該技術採用分離柵(1.5T)單元架構,而數位實施方案中的SRAM單元基於6T架構。此外,與6T SRAM單元相比,這種單元是小得多。另外,一個單元即可儲存完整的4位元整數值,而不是像SRAM單元那樣需要4×6=24個電晶體才能實現此目的,從根本減少晶片上占用的空間。 3.降低開發成本:由於記憶體效能瓶頸和馮紐曼架構的限制,很多專用設備,例如NVIDIA的Jetsen或Google的TPU,趨向於透過縮小幾何結構提高每瓦效能,但這種方法解決邊緣運算難題的成本卻很高。採用將類比記憶體內運算與多階記憶體結合的方法,可以在快閃記憶體單元中完成晶片運算,這樣便可使用更大的幾何尺寸,同時降低掩膜成本(Mask Cost)和縮短開發週期。 邊緣運算應用的前景十分廣闊,然而,首先需要解決功耗和成本方面的挑戰,邊緣運算才能得到發展機會。使用能夠在快閃記憶體單元中執行晶片上運算的記憶體方法,可以消除主要障礙。這種方法利用經生產驗證的公認標準類型多階記憶體技術解決方案,且此方案已針對機器學習應用進行優化。 (本文作者為Microchip嵌入式記憶體產品開發總監)
0

工研院ICT TechDay推動未來智慧商機

AI人工智慧及5G是被預期下一個十年最重要的技術,工研院舉辦一年一度的ICT TechDay(資通訊科技日),展示超過20項最新資通訊創新技術,從AI晶片與應用、資訊安全、自駕車與無人機,到5G通訊與邊緣運算四大領域,臺灣在半導體和資通訊產業已有一定優勢,在AI人工智慧與5G物聯網催生下,業者有機會在全球供應鏈搶進核心地位,扮演下世代資訊科技重要角色。 工研院舉行2020 ICT TechDay,邀請重量級貴賓分享ICT產業趨勢。圖左至右為臺灣雲端物聯網產業協會理事長徐爵民、工研院資通所所長闕志克、電電公會理事長李詩欽 工研院資訊與通訊研究所所長闕志克表示,隨著AI人工智慧技術快速發展,AI人工智慧發展重點將從軟體走向硬體,從集中式運算走向邊緣運算(Edge Computing);工研院從晶片、架構及應用三方面著手,開發AI推論晶片(DNN Inference Chip)、AI推論架構(DNN Inference Architecture),到DNN Model與應用的AI人工智慧Total solution,為產業提供多元的AI人工智慧端到端解決方案。 工研院研發「AI深度學習演算法」,影像辨識可由類神經網路自我學成,技術精準度超過99% 闕志克認為,5G多元應用所帶動的新市場也備受關注,尤其是5G專網方面。製造業對生產可靠度需求高,精準掌握生產及設備數據,長年都有蒐集智慧發展所需的數據資訊,加上產業上中下游供應連結度強,互動性高,因此,在面對快速少量、彈性、多元製造需求下,運用5G專網發展智慧製造將是製造業者具備差異化的重要工具,也是所有應用場域中最早落實的產業。目前看到5G專網將有三種方式推動,公網、公網白牌化、專網專頻,公網白牌化採用開放架構設備,網通業者及系統整合商將有更多投入的新機會;專網專頻有機會因工廠等智慧場域已普遍採用Wi-Fi系統,可透過Wi-Fi技術升級與5G專網整合,Wi-Fi設備商及提供應用服務的系統整合業者也可望迎來另一波成長的機會。 工研院研發無人機AI美學攝影技術,透過蒐集網美照片整理出多種拍照風格,再搭配AI影像辨識,讓無人機模仿專業攝影師的拍照手法,自動取景拍出最優畫面 在AI相關解決方案部分,ICT TechDay展示「AI深度學習演算法」、「應用程式白名單」、「無人機AI美學攝影體驗」、「自駕車管理系統與運算平台」、「行動邊緣運算系統專網」等20餘項關鍵技術。例如工研院研發 AI深度學習演算法,攜手新創公司邁爾凌科技及遠東集團旗下軟體公司遠創智慧,開發國產AI車牌辨識解決方案,提供關鍵演算法、訓練器打造國產AI軟韌體訓練整合模組,搶攻新市場。
0

Arm DevSummit 2020開放報名

專為軟體、硬體開發專家和工程專業領域人士舉辦的全新會議–Arm DevSummit 2020,即將於11月4日至5日兩天於線上舉行。Arm DevSummit 2020是為軟體、硬體工程師所設計的線上活動體驗,會中將依當今最重要的七大科技主軸、共有23個來自Arm及其生態系夥伴分享的分組議程(Tech Session),探索最新行動技術和高性能運算、解決自動技術方面之各式挑戰,同時深入剖析機器學習、物聯網和晶片設計的最新發展。這個匯集軟體與硬體最新知識的論壇,適合軟體開發者、硬體設計工程師、晶片設計師,半導體生態企業參與,深入了解 5G、AI、物聯網時代,最前端的科技話題。 除了技術含量豐厚的分組議程,本次論壇也特別在11月4日與11月5日兩天,邀請產業重磅嘉賓,與Arm台灣總裁曾志光一起進行高峰對話。首日11月4日安排了凌華科技董事長劉鈞,以及美國高通台灣暨東南亞總經理劉思泰,深入剖析台灣的工業物聯、以及人工智慧技術,如何為科技與製造產業生態鏈創造機會並帶來改變。第二天11月5日,則為新創團隊開設創業導師對談時間,由阿里巴巴創業者基金執行董事李治平,以及群聯電子董事長暨執行長潘健成,從趨勢洞察、專業技術、資金籌募、人才培育等面向,為新創企業或者準備創業的團隊,分享寶貴心法與致勝秘訣。 Arm DevSummit 2020 自即日起開放報名,全部課程完全免費。選定分組議程及主題演講後,可透過即時上線聆聽及課後隨選方式進行。所有分組議程均有中文字幕。歡迎有興趣的產業菁英報名參加。
0

西門子/歐利速精密工業/遠傳電信攜手打造5G智慧產線

台灣於今年初正式迎來5G世代,5G大幅提升聯網效率、數據傳輸速度、低延遲性等優勢,助於人工智慧、網路安全、數位分身、虛擬實境/擴增實境與智慧智造的結合應用,並透過與電信業者、自動化業者合作將能加速台灣製造業者的智慧化轉型。製鞋設備業者歐利速精密工業,正式攜手遠傳電信與智慧製造解決方案廠商西門子,導入西門子開放式物聯網雲端平台MindSphere,並將5G、擴增實境(Augmented Reality, AR)整合應用,實現設備生產產線的智慧化升級。 製鞋設備業者歐利速精密工業將5G、擴增實境整合應用,實現設備生產產線的智慧化升級 MindSphere平台將協助歐利速精密工業匯集產線上設備機台的運作數據,進行智慧化分析,達到機台之間無縫溝通協作,並藉由持續監控耗電量、轉矩和頻率,隨時掌握重要機台的運作狀態,探尋最佳維護時機與實際維護需求,提高機台使用率和產能、延長維護間隔、減少停機時間、實現預測性維護、降低非預期成本的發生,並達到能源資料管理和資源配置最佳化。 基於遠傳電信5G的聯網傳輸基礎架構,則可讓廠務端得以加快擷取和分析所有機台運作資料的速度,進而提高生產運作效率、彈性以及安全性。同時歐利速精密工業將其設計開發的ROMPS(Remote Operation Maintenance Platform Solution)解決方案整合至該平台,並著眼於5G高速連網傳輸能力和AR能將虛擬與現實場景結合互動的特性,進而加以整合應用,提供品牌鞋廠與製造工廠遠端設備維護、操作指導與教育訓練服務,提供即時有效率的服務,還能確保疫情期間,工廠人員出入嚴格控管及員工差旅受限的同時,確保服務與業務持續不中斷。
0

助開發者部署AI應用 Google AI平台預測服務正式開放

日前Google發布了開放大眾使用的人工智慧(AI)平台預測服務,有助於開發者在雲端準備、建立、執行及分享機器學習(ML)模型,全託管的服務模式可加速模型在終端裝置的布建。這個服務奠基於Google Kubernetes Engine的後端,並具備了高可靠性/彈性及低延遲的架構。 Google發布通用性的AI平台預測服務,有助於開發者在雲端準備/建立/執行及分享機器學習模型 調研機構IDC預測,2020年全球在認知及AI系統的花費將達到776億美元,高於2019年的240億美元。調研機構Gartner也表示,近期針對全球數千家企業管理層的調查中顯示,採用AI的比例在過去4年間成長270%,光是過去一年間即成長了37%。AI平台預測的推出,為Google原有的產品擴增託管服務,將成為與亞馬遜(Amazon)、微軟(Microsoft)、IBM競爭的利器。 由於該服務的引擎自動選擇了可相容的雲端硬體,如AI加速晶片,有助於使用XGBoost或scikit框架訓練的模型更容易部署。在有支援的虛擬機器(Virtual Machine)上,該服務展現了包含顯示卡、處理器、RAM、網路使用率等效能數據,同時顯示了隨時間計算的模型副本。資安方面,預測服務允許用戶自訂義參數並提供模型部署工具,而這些配備只授權定義範圍內的網路存取相關資源及服務。 該服務提供模型預測的資料和視覺化工具,來協助解釋預測結果。此外,AI平台預測可以持續評估即時增加的模型所需的自動真實標記(Ground-truth Labelling),透過反覆訓練來提升效能增加的機會。而AI平台預測的所有功能都能全託管,在無叢集運算的環境下,由專門的企業支援。如果用戶的流量過大,Google會適時管理,以免模型超載。
0

英特爾11代處理器增強物聯網/AI效能

日前英特爾(Intel)在2020年的工業高峰會(Industrial Summit 2020)上,發表了新的強化物聯網的功能,包含第11代的英特爾處理器、Atom x6000E系列、Pentium及Celeron N、J系列,提供人工智慧(AI)、資訊安全、即時性給需要邊緣運算的客戶。藉由軟硬體的結合以及完整的生態系統,為邊緣運算晶片市場提供解決方案。 第11代處理器增強物聯網功能  第11代的處理器強化了物聯網設備所需的高速處理、機器視覺與低延遲功能,提升最多23%的單執行緒(Single-thread)效能;多執行緒(Multithread)的效能則提高19%;以及增加2.95倍的圖像處理效能。新的雙影像解碼器可以支援處理器每秒1080p 30fps的速度,並且可同時輸出四個4K或兩個8K頻道。此外,AI演算法可以在多達96個圖形執行單元上運作,也可以在內建Vector Neural Network Instructions (VNNI)的CPU上執行。若搭配時序協調(Time Coordinated Computing, TCC)技術,以及時效性網路(Time-sensitive Networking, TSN),第11代處理器便能應用在以下情境: ‧ 工業:重要的控制系統,如PLC、機器人等,或者工業電腦及人機介面 ‧ 零售、銀行、旅宿業;智慧化、沉浸式的數位廣告、無人商店及自助退房 ‧ 醫療;高解析度且由提供AI診斷的醫學影像設備 ‧ 智慧城市;內建AI推論及分析功能的智慧錄影機
0

感測/無線連接/AI高度結合 智慧物聯網萬事俱備

隨著無線感測與感測器技術演進,物聯網的應用逐漸落地,其中設備維護、無線網路連接、深度感測及人工智慧(AI)運算需求,皆是物聯網發展的重要技術。工業4.0透過自動化狀態監測(CbM)的即時預警,能確保產線上的設備正常運作,以及大型公共建設與交通系統安全。Wi-SUN千點組網則確保遠距傳輸的穩定性跟速度,而3D深度感測實現各項環境辨識與虛擬實境應用。最終加上人工智慧的運算助力,感測器的精準度便能顯著提升。 MEMS感測器高穩定/低成本助攻CbM 工業4.0時代,工廠走向智慧化、自動化,生產線上的機械手臂應用越來越多,但設備存在長時間使用後失效的風險,因此需要感測器即時預警生產線上的突發狀況,避免造成巨大損失。茂宣專業技術經理王浚睿(圖1)說明,以晶圓廠為例,設備失效最嚴重的狀況,可能是產線停工所導致千萬元的損失。此外,CbM也能應用在公共建設與交通工具,如橋梁、飛機、火車系統中,能夠避免意外發生。 圖1  茂宣專業技術經理王浚睿表示,MEMS感測器採用CMOS製程,具有產品的一致性佳,對於低頻訊號的反應回饋良好 CbM的振動量測在感測器的選擇上,常見壓電式(Piezo)或微機電系統(MEMS)兩種類型。Piezo是市場上目前比較常見的震動感測器,使用陶瓷材料設計的壓電元件,只能手工量產,所以產出有限且成本較高,在低頻訊號方面的反應較為遲鈍,並容易受到環境溫度影響而出現飄移。相較Piezo,MEMS感測器採用CMOS製程,具有產品的一致性佳,對於低頻訊號的反應回饋良好,且雜訊強度(Noise Density)低、不容易因為溫度變化飄移等優勢,可以做為震動感測的選項之一。例如亞德諾半導體(ADI)的ADXL系列MEMS感測器除了噪聲比較低,還具備無線模組,使得感測器的布建更方便。 建置MEMS感測器時,需考慮位置、連接方式、馬達以外的機件、尺寸四大面向。王浚睿解釋,位置方面,尋找震動源之前,須確定量測的位置正確。如果測量的位置跟震動源距離太遠,或是傳導的時候震動幅度已經遞減,量到的訊號就不夠精確。同時,感測器連接的方式很多,找到正確的感測器型號來連接待測物是一大重點。各型號的感測器頻率響應曲線不同,須依照感測器標注的最大測量頻率選擇適合的類型。接著,確定在機械結構中欲測量的部分,才能確認震動所造成的異音為高頻或低頻訊號。最後,感測器的尺寸應取決於整體的配重。感測器不能比待測物重,以免影響待測物本身的震動狀況。 藉由CbM的應用,正確建置的MEMS感測器能隨時感知生產線上的震動狀況,並在出現異常現象時即時預警,避免設備問題而影響產線運作。此外,CbM為交通系統與大型公共建設維持安全性,促進工廠安全及城市安全的維護工作朝向自動化發展。 Wi-SUN具遠距傳輸/高穿透特性 智慧城市的應用與物聯網息息相關,未來物聯網將有非常多結點布建到城市中,海量的連線需求需要高覆蓋、穩定的通訊系統支援。濎通科技行銷經理呂沐勳(圖2)觀察物聯網通訊的痛點,遠端更新是必要的功能之一,因為軟體不斷更新,如果裝置不具備遠端更新的功能,就需要靠人力個別更新,不符合成本效益。電池方面,使用電池發電的裝置,需要考慮電池壽命,如果電池更換得太過頻繁便會拉高成本。同時,有些通訊協定由廠商自行開發,因此發展新應用時,必須諮詢原先制定協議定的公司,才能擴大發展相關應用,顯得限制重重。 圖2 濎通科技行銷經理呂沐勳認為,Wi-Sun技術適合應用在智慧城市、智慧能源等領域                   面對大範圍的無線網路傳輸需求,呂沐勳認為,Mesh組網的Wi-SUN技術可以解決前述的物聯網通訊痛點,適合應用在智慧城市、智慧能源等領域,如東京電力公司已全面使用Wi-SUN智慧電表,取代NB-IoT電表。Mesh組網具自適應的網路系統,可以自動組網,當環境中增加新的節點,Mesh組網會自動連線。另外,因為Mesh組網具備自動修復功能,如果網路中增加新的建築物,切斷原本的組網路徑,Mesh組網便會透過別的節點重新連接,維持連線順暢。 看好Wi-SUN的特性,濎通科技提出Wi-SUN通訊方案,採用RF及PLC的雙模融合技術,設計出整合線傳輸PLC跟無線傳輸的單晶片,運用演算法自動切換,在無線連線中斷時執行有線傳輸,有線傳輸中斷時則改用無線連接,達到同時滿足快速且穩定的長距離傳輸效果。 呂沐勳進一步說明,良好的物聯網通訊解決方案應具備三項特色,其一是無頻段授權/通訊費。以電信商營運的NB-IoT為例,在電信商的管理之下,每個節點都需要支付電信費用,導致傳輸成本較高。二則是具有長距離/高穿透/廣覆蓋,以及自動組網/自動修復功能,以濎通的VC7300為例,其優勢便在於可從地下2樓傳輸到地上6樓,滿足智慧電表的抄表需求。最後則是支援IPv6協定,才能讓每個節點都有身分認證,確保連線安全。 3D感測走入消費市場 感測技術與無線通訊的結合促使物聯網應用落地,而感測領域其中的一大趨勢即為3D感測。艾邁斯半導體台灣區總經理李定翰(圖3)提及,3D感測的應用越來越熱門,其發展主要聚焦在行動裝置、智慧家庭、工業自動化與自動駕駛四個面向。行動裝置上的應用演進最快,從過去以鏡頭為重心的設計,轉為加入距離測量、人臉辨識、虛擬實境遊戲、實境導航等功能。在安全驗證方面,智慧型手機及智慧建築的身分驗證不只透過指紋,更搭配臉部辨識提高安全性。同時隨著疫情出現戴口罩而難以辨識人臉的情境下,中國已研發出可以辨識戴口罩的臉部辨識系統。 圖3 艾邁斯半導體台灣區總經理李定翰指出,目前ToF的應用逐漸從iToF走向dToF 當3D感測應用在智慧家庭,以掃地機器人為例,過去的掃地機器人大多藉由放置虛擬牆或使用紅外線偵測決定移動路線。新一代放入ToF感測器的機器人,在清潔空間之前,會先行掃描環境,甚至搭配3D感測布建地圖,計算出最快速及省電的打掃路徑。如果將3D感測模組放入冰箱中,便能測量裡面的材積容量大小調整溫度,或者提出某些區塊的食物已經放超過一個禮拜的警示,達到省電與協助管理食材的效果。 李定翰表示,目前ToF的應用逐漸從iToF走向dToF。iToF的鏡頭有很多限制,在陽光下感測器很容易飽和,同時進行多工傳輸的路徑容易讓運算有問題。而dToF的量測則更為精確,可測量的距離也更遠。隨著電子元件及PVC的精確度、製程進步,dToF很快就會取代iToF,例如臉部辨識的變型,可以結合最新的dToF輔助演算。如線上購物廠商,為鞋子、衣服的尺寸數據建立資料庫,消費者只需要輸入身高、三圍,即可在網站上進行3D試穿模擬。 AI力助終端感測 除了3D感測,在AIoT市場,感測器的應用也開枝散葉,智慧醫療、智慧家庭、智慧城市、智慧農業,無處不見AI、IoT與感測器結合的應用。Arm應用工程總監徐達勇(圖4)舉例說明,醫療照護藉由生理感測預警疾病症狀;工業4.0藥品包裝產線,採用人工智慧視覺辨識,確認每個包裝內的藥品數量相同,或者透過震動感測確認工廠設備有無異常;農業中的蝦子養殖,運用AI影像辨識,確保蝦子的飼料不會因為過量而影響水質,也能隨時觀察蝦子的健康。 圖4 Arm應用工程總監徐達勇提及,Arm預估2020~2024年,每年AIoT裝置會有至少20%的成長 AI運算的位置分為雲端、本地及裝置三種,徐達勇指出,調查客戶希望AI運算的位置,53%的客戶青睞在裝置端運算,比較困難的特定需求再進行雲端運算。雲端運算雖然提供強大的算力,但是延遲問題、高頻寬需求、安全性跟隱私疑慮,促使多數客戶傾向選擇在裝置上運算。 雖然客戶偏好AI的終端運算,然而終端運算會面臨幾項挑戰。一是終端裝置的應用很重視使用者體驗,需要提高算力才能達到提高使用者體驗的目的。此外,終端裝置的設計重視成本控制,同時裝置電力來源多半是電池,因此低功耗也是設計重點。最後,不論選擇何種運算方式,隱私安全都是客戶重視的關鍵。對此,Arm近期設計的IP Cortex-M55便以加速AI運算為目標,特別加強DSP跟機器學習的運算能力。 如果採用通用處理器執行機器學習運算,相對的效能比較差,生產晶片的成本就會提高,所以此設計聚焦在DSP/機器學習的運算能力提升,並且提高處理器或能源的效率,達到降低功耗的目的。資安方面沿用Arm第8代MCU開始的TrustZone功能,處理器可以分成兩種執行模式,安全性比較敏感的內容就使用安全模式執行。 觀察AIoT的趨勢,徐達勇表示,Arm預估2020~2024年,每年AIoT裝置會有至少20%的成長,並且到年底之前,至少20%的終端裝置會具備機器學習功能。因此Arm專注AIoT的市場發展,IP瞄準AI終端裝置的效能需求設計,可望滿足未來不斷增加的市場需求。
0

宸曜推新Edge AI解決方案

強固嵌入式電腦品牌Neousys宸曜科技推出了功能強大的無風扇AI邊緣運算嵌入式平台NRU-120S,該平台內建 NVIDIA JETSON AGX Xavier GPU 開發套件、並具有緊湊尺寸的機箱設計,配備 4個支援螺絲鎖定的 PoE+埠口和 2個2.5英吋 HDD托盤。 邊緣AI技術的開發應用在人們日常生活中已逐漸普及,Neousys宸曜 NRU-120S僅30W低功耗的無風扇嵌入式平台能同時提供相當於主流 120W GPU圖像加速運算效能,為新興的邊緣AI應用提供了獨特的解決方案。 Neousys NRU-120S提供大量的I/O連接埠口,它具有四個千兆位802.3at PoE+埠口,可以為 PD受電設備提供 25.5W的功率;而在資料儲存上,除了Xavier模組上的32GB eMMC內嵌記憶體,NRU-120S還配備了專用於 SSD快速讀/寫的 M.2 2280NVMe插槽、以及兩個可熱插拔的2.5英吋 HDD硬碟托盤,便於即時更換儲存裝置;除此之外,NRU-120S還提供支援WiFi和4G模組的mini-PCIe插槽、可跨平台同步的 1xGPS...
0

開放銀行/場景金融/普惠金融 數位金融三大穿雲箭超前部署

每當讀者接到銀行或保險公司的電話行銷專員來電,會有什麼反應?是耐心聽他說完冗長的話術,委婉跟他說正在忙,還是直接掛他電話? 很多人一直很難理解,都已經進入數位金融的時代了,為何還有如此傳統、沒有效率、又不精準的電話行銷作法? 金融業者理應掌握了消費者的個人資料及財務狀況,甚至還有線下到線上非常詳細的交易記錄,怎麼還有如此不科學、缺乏資料分析能力的行銷手法?因為銷售模式太過落後,因此,若電話行銷專員被狠心拒絕,也就不足為奇了。 事實上,隨著金融科技成為顯學,人工智慧(AI)、大數據的應用大舉進入金融產業,近幾年金融業的數位轉型腳步發展明顯加速許多,在數位金融的浪潮之下,又以開放銀行(Open Banking)、場景金融、普惠金融等議題最受關注,堪稱金融業超前部署最熱門的三大關鍵字。 開放銀行實現金融數據共享 開放銀行的概念其實很簡單,就是過去用戶的金融消費資料都是掌握在金融業者或監管機構手上,但基於「數據共享可以產生價值」的核心精神,由政府出面強制規定金融業者在用戶同意的前提下,將相關數據的使用權還給消費者;在資訊開放透明的情況下,可降低第三方服務業者(TSP)的進入門檻,並刺激金融業者發展更多創新服務。 開放銀行最早由英國政府於2015年開始推動,後來許多國家也都相繼跟進,台灣也在2019年中加入戰局,分三階段實施:第一階段的「公開資料查詢」已經完成,將開放利率、匯率、產品資訊、分行資訊、ATM位置等公開的金融資訊為主,讓用戶可以輕鬆比較各家銀行的定存利率、房貸利率與外幣匯率等資訊。 第二階段則以「消費者資料查詢」為主,開放消費者本人同意的授權資料,讓消費者在同一介面看到各銀行的存款、貸款、信用卡、保單、基金、繳費等資訊,也能在B銀行直接使用A銀行的個人金融資料。 下一步進入第三階段後,則將開放且能直接執行所有「交易資料」,消費者可直接透過第三方服務業者的App連結不同帳戶,進行扣款授權、消費支付甚至貸款清償等作業,真正邁向開放銀行的願景。 在這樣的開放架構下,不管是電信業者、零售業者、科技業者與各種產業,都能針對用戶打造個人化、客製化、精準化的消費體驗,打破金融數據長年被壟斷的情況;最重要的是,金融業者將從過去「畫地盤」的保守心態,改變為「共享地盤」的開放思維,轉而與不同產業積極合作,才有創造新客戶、新業務、新市場的機會,例如保險業者可以與醫療機構進行數據共享,打造更符合消費者需求的保單內容與合理的保險費用;信用卡業者可以與百貨零售業者、電信業者合作,在實體場域投放更精準的行動廣告給潛在消費者(圖1)。 圖1 金融科技的發展趨勢 (資料來源:KPMG) 場景金融讓銀行無處不在 過去民眾要處理金融業務,必須跑去銀行或ATM,後來有了網路銀行及手機App,部分業務可以透過電腦或行動裝置遠端進行,在不久的將來,銀行將真正打破實體場域的界線,在不同的應用場景都能享受串連好的金融服務,銀行將是無處不在。 業界也有另外一種說法—「內嵌式銀行」(Embedded Banking),亦即銀行將變得「無形」,包括存匯、貸款、保險、信託、信用卡及財富管理等金融服務,透過科技工具嵌入到客戶食、衣、住、行、育、樂等生活環境中。 舉例來說,永豐銀行就與多家廟宇合作推廣場景金融。信徒可以到具有Q版神像的ATM領錢,印出來的明細表就有籤詩,然後可以憑著上頭的QR Code去換取「平安水」;另外也可下載App,信徒不用大老遠奔波就能遠端點光明燈、添香油錢、抽籤詩,將金融科技與信仰文化完美結合。 國泰金控則與多家旅遊平台合作,打造更有智慧的旅遊金融場景。當顧客在旅遊平台上訂購行程後,系統就會詢問是否需要購買旅遊平安險、換匯等相關需求,或者機場接送、機場貴賓室等服務,顧客可選擇用信用卡點數兌換或優惠價購買,不用重複填寫個人資料;另外,由於掌握消費者的行程、交易行為與消費偏好,後續也能提供個人化的旅遊商品進行精準行銷。 若再以購屋為例,當房仲順利成交了一筆物件,過去銀產業者頂多只能爭取房貸及產險業務,但在場景金融的架構中,包括室內設計、房屋裝潢、購買家具、搬家等服務都可統整在其中。 可以預期的是,未來不管是在辦公大樓、校園、社區中,或者到遊樂園、逛夜市、看展覽,都會有業者建立類似的場景金融。銀行不再只是聚焦於數位金融能夠幫公司省多少錢、或賺多少錢,而是打造「以客為本」的創新用戶體驗,讓金融服務真正融入生活、體現溫度(圖2)。 圖2 美國民眾對行動銀行功能的需求 (資料來源:Business Insider Intelligence) 普惠金融降客戶認證門檻 金融服務雖然本質上是開放給所有用戶使用,但不可否認的是,基於風險及獲利等考量,幾乎所有金融體系都是遵守80/20法則,將多數資源用來服務金字塔頂端的VIP客戶。儘管聯合國早在2005年就提出「普惠金融」的概念,希望普羅大眾都有平等獲取金融商品與服務的機會,但因為客戶認證(KYC)的成本太高,實際運作上很難實現這個願景。 直到近幾年金融科技的發展,才讓金融服務開始打破地理、收入、社會階層等界線,其中尤以開發中國家的推展成績最為明顯(圖3)。例如,在基礎建設較為匱乏的一些國家,民眾不容易到銀行或ATM使用提款、匯款、貸款等服務,甚至許多人連銀行帳戶都沒有,就有不少傳統銀行與新創業者聯手,透過手機App或實體商家提供簡易的金融服務。 圖3 2014~2019年全球金融科技投資交易件數及金額 (資料來源:KPMG) 而印尼人民銀行為了將金融服務推廣至離島及偏鄉地區,就推出一系列的App,民眾不用跑到分行,可以在兩分鐘內掃描證件完成開戶作業,比起原本的兩週大幅縮短作業時程,然後即可透過App進行存款、提款、貸款等業務。 同時,新加坡金融科技公司soCash,則是用簡單的設備搭配App,即可讓店家化身為銀行分行,取代現在投資報酬率偏低的ATM,民眾在這些店家的櫃台即可辦理提款、貸款、換匯等業務;目前其與星展銀行、渣打銀行、中國工商銀行等合作,在新加坡、印尼、馬來西亞等國推展,光是新加坡就有1,500家合作店家,並有超過20萬用戶。 至於台灣也有部分金融科技公司以AI技術投入普惠金融領域。如諦諾智金(Adenovo)就與嘟嘟房合作,針對汽車族與機車族推出超快速「車貸」服務,由諦諾智金針對用戶的消費記錄、收入紀錄及信用記錄,結合嘟嘟房的車主行為數據,建立精準的車貸風險評估及多維度信用分析模型,讓車貸可以做到「秒貸」審核,也讓消費者、車商、保險公司與銀行都能攜手互助,以信任的種子長出普惠金融的大樹。
0
- Advertisement -
- Advertisement -

最新文章

- Advertisement -

熱門文章

- Advertisement -

編輯推薦

- Advertisement -