- Advertisement -
首頁 標籤 邊緣運算

邊緣運算

- Advertisment -

整合多階/類比記憶體運算 AI邊緣功耗難題迎刃而解

雖然使用者可以享受到這些AI應用帶來的益處,但同時仍有隱私、功耗、延遲和成本等諸多疑慮,這些疑慮便成為AI 應用的挑戰。如果有一個能夠從資料來源,執行部分/全部運算(推論)的本地處理引擎,那麼這些問題即可迎刃而解。傳統數位神經網路的記憶體存在功耗瓶頸,難以實現這一目標。為了解決此問題,可以將多階記憶體與類比記憶體內運算方法結合使用,使處理引擎滿足更低的毫瓦級(mW)到微瓦級(μW)功率要求,進而在網路邊緣執行AI推論。 雲端AI面臨隱私/功耗/延遲挑戰 如果透過雲端引擎為AI應用提供服務,使用者必須主動/被動上傳一些資料到雲端,運算引擎則在雲端處理資料並提供預測,然後將預測結果發送給終端用戶使用。以下概述資料處理過程面臨的挑戰(圖1): 1.隱私問題:對於Always-on、Always-aware設備,個人資料或機密資訊在上傳期間或在資料中心保存期限期間可能遭受濫用的風險。 2.不必要的功耗:如果每個資料位元都傳輸到雲端,則硬體、無線電、傳輸裝置以及雲端中不必要的運算都會消耗電能。 3.小批量推論的延遲:如果資料來自邊緣裝置,有時至少需要一秒才能收到雲端系統的回應。當延遲超過100毫秒時,人們便有明顯感知,造成不佳的用戶體驗。 4.資料經濟需要創造價值:感測器隨處可見且價格低廉,能夠蒐集大量資料,但是如果每筆資料都上傳到雲端進行處理的效益不高。 圖1 從邊緣到雲端的資料傳輸 要使用本地處理引擎解決這些挑戰,首先必須針對目標使用案例,利用指定資料集合對執行推論運算的神經網路進行訓練。這通常需要高效能運算和記憶體資源,以及浮點運算。因此,機器學習解決方案的訓練部分仍需在公共、私有雲或本地GPU、CPU和FPGA Farm上實現,同時結合資料集合來生成最佳神經網路模型。神經網路模型的推論運算不需要反向傳播,因此在該模型準備就緒之後,可利用小型運算引擎針對本地硬體進行深度優化。推論引擎通常需要大量乘積累加運算(Multiply Accumulate, MAC)引擎,隨後是啟動層,例如修正線性單元(ReLU)、Sigmoid函數或雙曲正切函數,具體取決於神經網路模型複雜度,以及各層之間的池化層。 大多數神經網路模型需要大量MAC運算。例如,即使是相對較小的「1.0 MobileNet-224」模型,也有420萬個參數(權重),執行一次推論需要多達5.69億次的MAC運算。此類模型中的大多數都由MAC運算主導,因此這裡的重點是機器學習計算的運算部分,同時還要尋找機會來建立更好的解決方案。圖2為一個簡單的完全連接型兩層網路。輸入神經元(資料)透過第一層權重處理。第一層的輸出神經元透過第二層權重處理,並提供預測,例如模型能否在指定影像中找到貓臉 。 圖2 完全連接的兩層神經網路 這些神經網路模型使用「點積」運算計算每層中的每個神經元,如下面的公式所示: Yi=∑i Wi Xi 〗 (為簡單起見,公式中省略了「偏差」項)。 在數位神經網路中,權重和輸入資料儲存在DRAM/SRAM中。權重和輸入資料需要移至某個MAC引擎旁以進行推論。根據圖3,採用這種方法後,大部分功耗都源自於獲取模型參數以及將資料登錄到實際發生MAC運算的ALU。從能量角度來看,使用數位邏輯閘的典型MAC運算消耗約250fJ的能量,但在資料傳輸期間消耗的能量超過運算本身兩個數量級,達到50皮焦(pJ)到100pJ的範圍。實際上,很多設計技巧可以大幅減少記憶體到ALU的資料傳輸,但整個數位方案仍受馮紐曼架構的限制。這意謂著,有大量的機會可以減少功率浪費。如果執行MAC運算的能耗可以從約100pJ減少到若干分之幾pJ,將產生什麼樣的可能性? 圖3 機器學習運算中的記憶體瓶頸 消除記憶體瓶頸並降低功耗 如果記憶體本身可用來消除之前的記憶體瓶頸(圖3),則在邊緣執行推論相關的運算就成為可行方案。使用記憶體內運算的方式,可以大幅減少必須移動的資料量,也就能消除資料傳輸期間浪費的能源。快閃記憶體單元運行時產生的主動功率消耗較低,在待機模式下幾乎不消耗能量,因此可以進一步降低能耗。 以Microchip子公司Silicon Storage Technology(SST)的memBrain技術為例,該解決方案奠基於SST的SuperFlash記憶體技術,這項技術已成為適用於微控制器和智慧卡應用的多階記憶體的公認標準。此解決方案內建一個記憶體內運算架構,允許在儲存權重的位置完成運算。權重毋需資料移動,只有輸入資料需要從輸入感測器,例如相機和麥克風,移動到記憶體陣列中,因此消除了MAC運算中的記憶體瓶頸。 這種記憶體概念基於兩大基本原理:一是電晶體的類比電流回應基於其臨界值電壓(Vt)和輸入資料,二則是基爾霍夫電流定律,即在某個點交匯的多個導體網路中,電流的代數和為零。瞭解這種多階記憶體架構中的基本非揮發性記憶體(NVM)位元單元也十分重要。圖4是兩個ESF3(第3代嵌入式SuperFlash)位元單元,帶有共用的抹除閘(EG)和來源線(SL)。每個位元單元有五個終端:控制閘(CG)、工作線(WL)、抹除閘、來源線和位元線(BL)。透過向EG施加高電壓執行位元單元的抹除操作,同時向WL、CG、BL和SL施加高/低電壓偏置訊號來執行程式設計操作,並且向WL、CG、BL和SL施加低電壓偏置訊號以執行讀取操作。 圖4 SuperFlash ESF3單元 採用這種記憶體架構,用戶可以透過微調程式設計操作,以不同Vt電壓對記憶體位元單元進行程式設計。記憶體技術利用智慧演算法調整記憶體單元的浮柵(FG)電壓,以從輸入電壓獲得特定的電流回應。根據最終應用的要求,可以在線性區域或閾下區域對單元進行程式設計。 圖5說明了在記憶體單元中儲存多個電壓的功能。例如,如果要在一個記憶體單元中儲存一個2位元整數值,需要使用4個2位元整數值(00、01、10、11)中的一個,進行記憶體陣列中,每個單元的程式設計。此時需要使用四個具有足夠間隔的可能Vt值之一,對每個單元進行程式設計。圖5的四條IV曲線分別對應於四種可能的狀態,單元的電流回應取決於向CG施加的電壓。 圖5 ESF3單元中的程式設計Vt電壓 受訓模型的權重透過程式設計設定為記憶體單元的浮柵Vt,因此,受訓模型每一層,例如完全連接層的所有權重,都可以在類似矩陣的記憶體陣列上進行程式設計(圖6)。對於推論運算,數位輸入,如數位麥克風,首先利用數位類比轉換器(DAC)轉換為類比訊號,然後應用到記憶體陣列。隨後該陣列對指定輸入向量並存執行數千次MAC運算,產生的輸出隨即進入相應神經元的啟動階段,隨後利用類比數位數轉換器(ADC)將輸出轉換回數位訊號。然後,這些數位訊號在進入下一層之前進行池化處理。 圖6 用於推論的權重矩陣記憶體陣列 這類多階記憶體架構模組化程度非常高,而且十分靈活。許多記憶體晶片可以結合在一起,形成一個混合了權重矩陣和神經元的大型模型(圖7)。在此案例中,M×N晶片配置透過各晶片間的類比和數位介面相互連接。 圖7 memBrain的模組化結構 截至目前,文章主要討論了該架構的晶片實施方案。提供軟體發展套件(SDK)可幫助開發解決方案,除了晶片外,SDK還有助於推論引擎的開發。SDK流程與訓練框架無關。用戶可以在提供的所有框架,包含TensorFlow、PyTorch等框架中,根據需要使用浮點運算創建神經網路模型(圖8)。創建模型後,SDK可協助量化受訓神經網路模型,並將其映射到記憶體陣列。在該陣列中,可以利用來自感測器或電腦的輸入向量執行向量矩陣乘法。 圖8 memBrain SDK流程 多階記憶體方法結合記憶體內運算功能的優點包括: 1.較低功耗:專為低功耗應用設計的技術。功耗方面的第一個優點是,這種解決方案採用記憶體內運算,因此在運算期間,從SRAM/DRAM傳輸資料和權重不會浪費能量。功耗方面的第二個優點是,快閃記憶體單元在臨界值模式下以較低的電流運行,因此主動功率消耗非常低。第三個優點是待機模式下幾乎沒有能耗,原因是非易失性記憶體單元不需要任何電力即可保存始終開啟設備的資料。這種方法也非常適合在權重和輸入資料的稀疏性時加以利用,如果輸入資料或權重為零,則記憶體位元單元不會啟動。 2.減小封裝尺寸:該技術採用分離柵(1.5T)單元架構,而數位實施方案中的SRAM單元基於6T架構。此外,與6T SRAM單元相比,這種單元是小得多。另外,一個單元即可儲存完整的4位元整數值,而不是像SRAM單元那樣需要4×6=24個電晶體才能實現此目的,從根本減少晶片上占用的空間。 3.降低開發成本:由於記憶體效能瓶頸和馮紐曼架構的限制,很多專用設備,例如NVIDIA的Jetsen或Google的TPU,趨向於透過縮小幾何結構提高每瓦效能,但這種方法解決邊緣運算難題的成本卻很高。採用將類比記憶體內運算與多階記憶體結合的方法,可以在快閃記憶體單元中完成晶片運算,這樣便可使用更大的幾何尺寸,同時降低掩膜成本(Mask Cost)和縮短開發週期。 邊緣運算應用的前景十分廣闊,然而,首先需要解決功耗和成本方面的挑戰,邊緣運算才能得到發展機會。使用能夠在快閃記憶體單元中執行晶片上運算的記憶體方法,可以消除主要障礙。這種方法利用經生產驗證的公認標準類型多階記憶體技術解決方案,且此方案已針對機器學習應用進行優化。 (本文作者為Microchip嵌入式記憶體產品開發總監)
0

康佳特推採英特爾處理器模組 提升邊緣運算能力

提供嵌入式運算技術供應商德國康佳特推出基於Intel新款低功耗處理器的五款嵌入式模組,包含SMARC, Qseven, COM Express Compact和Mini 運算機模組以及Pico-ITX單板。該系列產品基於低功耗10奈米技術的Intel Atom x6000E系列以及Celeron和PentiumN&J系列處理器 (代號Elkhart Lake), 為新一代邊緣互聯的嵌入式系統基礎。新的康佳特板卡和模組的圖形性能提高了一倍,可同時呈現3個顯示器(4kp60);相比前代的處理器,其在四核心水準上的多線程運算能力大幅提升50%。其它優勢包括在即時工業市場中尤為受歡迎的時效網路(TSN)、Intel協調時間運算(Intel TCC)、實時系統(RTS的虛擬機監控支援,以及BIOS可配置ECC和可選擴展溫度支援(-40°C到+85°C)。 康佳特資深產品經理Jürgen Jungbauer表示,結合可靠的即時運作、即時連接和即時虛擬機監控技術符合該公司對物聯網連接的工業應用需求。該公司板卡和模組配備了新款Intel Atom、Celeron和Pentium處理器,在自動化與控制方面實現重大飛躍,可用於智慧電網中的分布式進程控制、智慧機器人,以及精密製造中的PLC、CNC等領域。它還被用於測試、量測和交通(例如火車和軌旁系統或聯網的自動駕駛車輛)等各種即時應用領域。這些領域都將受益於更具成本效益的ECC系統,因為集成的糾錯校正代碼讓用戶能夠使用更經濟的傳統記憶體,而毋需專門的ECC 記憶體。 此外,新款處理器也非常適合各種非即時應用,因為它的許多功能與特性對如今的各類邊緣互聯系統至關重要,例如POS機、kiosk、數字標牌系統、分布式娛樂與博弈設備等需要進行遠程設備間通訊的系統。 英特爾工業解決方案部門的高級總監Jonathan Luse說道:「物聯網涵蓋一系列設備、技術和應用,各自有獨特的運作前提,往往需要一些特定用途的組件、接口甚至是子處理器。Intel Atom x6000E系列以及Celeron和PentiumN&J系列處理器採用先進的10奈米運算和圖形技術,並集成諸多的功能和I/O,旨在打造適用於各類物聯網應用的統一平台。 為達成此目標,基於新款Intel Atom、Celeron和Pentium處理器的板卡和模組包含創新的協同處理器可執行選項,以實現全面的帶外管理,再加上全方位的嵌入式安全功能,可構建穩定而可靠的應用,如驗證啟動、測量啟動、Intel平台信任技術(IntelPTT)和Intel Dynamic Application Loader(Intel DAL)。新的板卡和模組支援Intel分布式OpenVino工具包和微軟ML,能夠加快機器學習算法的實施,可運用於預防性維護等領域。 進一步的技術提升包括:支援最高16GB的LPDDR4x記憶體,其傳輸速度可達4267 MT/s;加大數據頻寬的...
0

整合感測/通訊量測體重 計重檯秤系統成就智慧養殖

因此,在民以食為天的基本民生需求下,若沒有從「食」的來源端來管控或是有一套智慧生產的方式協助的話,飲食的問題就會變成不斷上演食物供需失衡的民生問題。而透過智慧農業的切入,將可逐步改善因天候或是人為所導致的各種問題。加上政府致力於智慧農業的導入與建立,以及大量大數據資料的分析與應用,可望逐漸降低不斷從產品生產過程或民生需求所產生的問題。換言之,在智慧農業中,用來量測飼養的家禽或水禽重量的應用於智慧農業之智慧型計重檯秤系統,就有其被開發的需求。 近年全球人口越來越多,糧食的需求也慢慢增加,同時受到氣候變遷所導致的極端氣候及鄉村人口老化、少子化的影響,導致農牧業人力減少許多。因此,政府開始推動智慧農業,結合無線通訊科技進行資料的蒐集,透過資料的整合及分析,減輕農場作業負擔及降低勞動力需求,建立更有效率的農場經營。其中,關鍵元素與作法包括制定相關農業科技策略,發展農業科技技術跨域整合之創新農業技術,重視農產品衛生安全與營養需求,並運用物聯網(IoT)、雲端運算(Cloud Computing)與大數據(Big Data)等技術,進而提升產品附加價值。 文中將說明整合紅外線觸控框(IR Multitouch)介面與具備RS-232串列介面的傳統計重檯秤裝置,該裝置運用邊緣運算的概念,精準地擷取與收集禽隻的數量與正確體重。最後,再將禽隻的體重與數量結果透過NB-IoT無線通訊模組傳送至網頁上,並紀錄每天禽類體重長成的過程,以了解如何孕育出最佳飼料轉換成禽隻體重的最佳養殖環境。 解決台灣養殖體重測量痛點 製做本系統的目的,是針對國內本土環境所提出的應用。透過智慧禽舍採用的智慧型計重檯秤系統,可以針對不同生長周齡的禽隻進行適合其生長的重量擷取與分析,並將環境綜合資訊及參數收集於資料庫,進行分析與經驗數據累積,提高飼養管理效率與品質,並有效節省人力,邁向智慧化生產與管理。 台灣正在邁向智慧養殖,會使用智慧禽舍來監控家禽或水禽的生長環境與飼養過程。其中,最難收集到的數據就是家禽或水禽的成長體重,因為無法固定禽類的動作與位置,使得禽類的重量數值僅能估算或是常出現誤差值。因此本裝置利用紅外線多點觸控取代影像辨識,來計算禽類的數量,可更準確且方便的偵測禽類的數量。一般影像辨識都需要經過較繁瑣的演算法與軟體分析,技術性較高且花費時間多,還會因為光線等外在因素導致判斷錯誤。而改用紅外線觸控框介面,則可以更快速且方便的取得數量,同時搭配計重檯秤取得重量數據後,即可上傳至網路,農場主人便能隨時隨地查看禽類的生長曲線。 此外,此裝置亦內建各種禽類的成長曲線表,確認所擷取的體重是否超出標準值的上下限,進而確保系統收集到準確的禽類體重。由於不同禽隻類型的成長重量曲線不一樣,因此可以運用指撥開關來設定所飼養的是否為家禽(雞)或水禽(鴨),進而達到智慧化傳統計重檯秤的目標。 紅外線感測取得精準數據 在應用於智慧農業之智慧型計重檯秤系統設計中,使用Holtek HT66F2390微處理器為核心。其中,主要利用紅外線觸控框取得感測資料,再使用NB-IoT模組將資料存入資料庫,供網頁監看與使用。 UART串列介面 UART是一種通用非同步收發傳輸器,通常稱作UART,其為將資料由串列通訊與並列通訊間傳輸轉換。UART通常用在與其他通訊協定(如EIA RS-232)的連結上。在串列傳輸通訊協定的格式內容中,是由四種資料共11個位元所組成,共分為起始位元(Start Bit)、資料內容(Data)、奇偶同位元檢查碼(Priority Bit)、停止位元(Stop Bit)。 如圖1所示,資料透過FIFO(First Input First Output)的方式,由最低有效位元(Least Significant Bit, LSB)開始傳輸直至最高有效位元(Most Significant Bit, MSB),奇偶同位元(PB)可以選擇忽略不使用。在此系統利用計重檯秤 (DHBH-W)的UART串列介面,讀取磅秤上的重量,並以UART將資料傳輸至微處理器解析。最後,再透過NB-IoT無線通訊模組(SIM7020E),以UART做初始化,並將處理後的資料透過NB-IoT無線通訊模組上傳至MQTT伺服器。 圖1 UART資料傳輸格式示意圖 USB通訊協定/人性化介面 由於紅外線觸控框為USB HID人性化介面裝置。因此,須了解USB協定的基本原理。在USB完整的通訊協定中,包含了USB封包、傳輸類型、描述元、裝置要求、群組等USB規格書中相關的協定。唯有遵循此協定,才能執行USB周邊裝置與PC之間的資料傳輸與命令的設定。如下圖2所示,顯示了USB主機端如何與裝置執行通訊協定的傳輸格式。從圖2中,也可看出一個通訊協定所需包含的各種封包與各類型欄位。 圖2 標準USB控制型傳輸 在USB的傳輸中,因不同周邊裝置的類型與應用,訂定了四種的傳輸類型,分別是控制型傳輸(Control Transfer)、中斷型傳輸(Interrupt Transfer)、巨量傳輸(Bulk Transfer)以及等時型傳輸(Isochronous Transfer)。其中,需要特別注意的是慢速裝置僅支援控制型傳輸與中斷型傳輸而已。在USB裝置中,則針對不同裝置的應用特性,個別地執行中斷傳輸、巨量傳輸或等時傳輸。 而USB...
0

施耐德推三相不斷電系統 用於關鍵基礎設施/邊緣運算

全球能效管理商施耐德電機日前宣布,外接電池款Galaxy VS三相不斷電(UPS可支援60-100 kW 380V。隨著功率範圍的擴大,Galaxy VS(高效,模組化,易部署的三相UPS)現在可為更廣泛的關鍵基礎設施和邊緣運算應用提供保護。 Galaxy VS系統已相容EcoStruxure功能,用戶隨時隨地皆可安心使用。設計特別針對邊緣運算與小型數據中心對於空間及存取方面的特殊關鍵需求。憑藉高達99%的系統效率,使電池壽命加倍,讓Galaxy VS的總擁有成本(TCO)顯著降低。 施耐德電機3相業務線副總裁Christopher Thompson表示,隨著關鍵基礎設施和邊緣運算應用對電力及效率的需求不斷增加,Galaxy VS系列及其新擴展的功率範圍更能滿足客戶和市場需求。Galaxy VS系統的簡潔設計,容錯能力及模組化設計,使其能夠比傳統不斷電系統更快地部署並在更小的空間中提供冗餘,進而節省了用戶的時間,精力和金錢。 Galaxy VS系列的優勢包括在施耐德電機獨特專利ECOnversion模式下運行時,效率最高可達99%,進而使用戶可以通過節省能源(取決於型號)在二至三年內收回最初的投資;簡潔的設計提供了高密度技術,特別適用於狹窄空間的全正面存取,進而實現了便捷,快速的連接與維護服務;關鍵系統組件被設計為具容錯設計的模組。 這樣可在負載降低時提供內部冗餘以及縮短平均維修時間;藉由新一代管理軟體EcoStruxure IT Expert和EcoStruxure Asset Advisor,全時透過由專家服務所提供顯示的設備性能和狀態,讓用戶輕鬆進行管理。而Green Premium環保標章認證,透過設計提供永續營運績效。
0

凌華推一站式邊緣方案 簡化工業AI機器視覺部署

邊緣運算解決方案商凌華科技(Adlink)推出全新的 NEON-1000-MDXAI智慧相機系列以及智慧棧板解決方案,搭載 Intel Movidius Myriad X VPU(支援經過 OpenVINOTM 最佳化的推論模型)與凌華科技的 Edge 視覺軟體,以快速、簡單的方式將以AI為基礎的機器視覺導入現有環境。此all-in-one解決方案讓機器視覺專家和開發人員更快地建構、測試和部署機器學習(ML)模型,同時為IoT解決方案團隊和系統整合商提供連接、串流及自動化機器視覺工作所需的工具。 凌華科技IoT策略解決方案與技術事業處資深產品經理許凱翔表示,在這個生產高度智慧自動化的時期,人們都感受到提高產量的壓力。若要在不影響目前工作流程的前提下引進自動化,AI機器視覺是最快速、最簡單且最具成本效益的方式之一。例如,該公司的智慧棧板解決方案經證實可將傳統條碼掃描時間縮短90%,同時提供客製化服務,除了安裝智慧相機之外,完全不必動到生產線。採用高度整合的NEON-1000可有效減少佔用空間、可靠性和相容性問題,並且為客戶減輕維護負擔。 Intel Movidius Myriad X VPU將ML模型最佳化並提供良好的AI運算能力。NEON-1000-MDX 智慧相機能排除感測器模組、接線與VPU模組間的複雜整合問題,簡化機器視覺部署流程。透過預先安裝的Edge Vision Analytics(EVA)SDK,使用者可以根據環境和系統需求使用各種現成外掛程式,同時使用OpenVINO優化過的神經網路進行推論,不需要額外的編碼或整合工作。 全新一站式NEON-1000-MDXAI智慧相機支援產品分類和瑕疵偵測,能將智慧製造的生產效率最大化,如同獲獎肯定的凌華科技 Edge 智慧棧板解決方案。智慧棧板將智能化和自動化導入手動倉儲作業,例如收貨、揀貨、包裝、運輸和工作人員安全。智慧棧板提供端對端整合式系統,以連接新設備與現有設備、擷取多個影像資料流,並利用 NEON-1000-MDX VPU 的高效能處理能力實現邊緣機器學習與推論。 透過凌華科技 Edge軟體平台,開發人員可以與任何現有的雲端、機器學習平台、神經網路、工業相機、機器視覺系統、機械等連線並整合,不限供應商。凌華科技的機器視覺AI軟體能依據所見物體分類、隨時間推移變得更聰明,以及建立自動化工作流程。 凌華科技IoT解決方案與技術部副總Steve...
0

安提邊緣智慧系統滿足5G聯網需求

AI解決方案已經廣泛的應用在各產業之中,且AI的運算核心也逐漸從雲端轉移至邊緣端,邊緣運算在企業智慧化服務中占有一席之地。為了發展更多的應用方案,GPGPU和智慧邊緣運算解決方案供應商安提國際發表AN810-XNX邊緣運算平台,結合NVIDIA Jetson Xavier NX 運算模組和AN810載板,提升AI運算效能。此邊緣運算平台擁有多元的I/O插槽選擇,可擴展各產業邊緣端的人工智慧應用,如全自動機器人設備、無人機、工業檢測、醫療影像與深度學習。 AN810-XNX邊緣運算平台結合NVIDIA Jetson Xavier NX 運算模組和AN810載板 安提國際總經理羅智榮表示,AIoT的應用環境十分多元且複雜,綜觀各類型邊緣系統,以GPU為基礎的平台擁有極高的相容性,可彈性應用於各領域。此外,羅智榮也提到,微軟的Azure服務也能進一步強化系統功能。AN810-XNX不論在載板設計、本身運算條件下,皆有高度的相容性,同時,從邊緣到雲端、乃至裝置管理的加值服務,都讓其十分適合應用在各類型AI領域,尤其在如機器人、無人機、工業IoT、醫療與深度學習等嵌入式的邊緣裝置。 AN810-XNX結合NVIDIA Jetson Xavier NX運算模組與安提載板AN810,Nano-ITX尺寸載板同時支援M.2 M-key、E-key和B-key等插槽,提供多樣訊號源如PCIe、SATA、USB 3.2 Gen2和USB 2.0等,並搭配高度47.3mm的專用風扇。此平台擁有良好的通訊功能特色,加上物聯網產業對5G應用的需求,可與4G/5G模組整合,提供高速無線通訊連接與資料傳輸。針對大量的邊緣裝置管理,AN810-XNX可透過M.2插槽支援Innodisk InnoAGE SSD頻外管理模組,透過客製化的雲端管理平台,統一管理與遠端監控邊緣裝置,在系統關閉或損壞時即時修復,縮短設備當機的時間,增強遠端管理的穩固性,完善邊緣裝置整體的管理模式。而平台也通過微軟Azure IoT認證,讓應用藉由安提平台,透過Azure雲端服務,縮短研發期程、迅速落地。 此外,面對大量的視覺AI應用,此平台支援一組120-pin MIPI CSI-II介面的接口,在廣泛的智慧視覺應用中,平台能夠驅動多功能的AI解決方案,同時處理高解析度相機與影像分析所要求的高密集人工智慧運算量。後援部分,安提國際提供系統加值服務,針對標準品及客製品項皆有定期的BSP及DTB架構更新。
0

AWS王定愷:雲端服務引領半導體/5G新機遇

雲端應用隨著網路的發展越來越普及,更持續滲透到許多領域,亞馬遜網路服務(Amazon Web Services, AWS)身為雲端運算服務的先驅,透過雲端技術向個人、企業和政府提供一系列資訊科技基礎架構和應用的服務,如儲存、資料庫、計算、機器學習等。面對產業的發展與競爭,AWS將帶領由下而上的新經濟模式,為產業創造數位轉型的契機。 AWS香港暨台灣總經理王定愷表示,新經濟的發展,產業高峰將提前顯現,使用者經驗會轉變成客戶黏著度,有準備才能把握商機 全球產業逐漸進入新經濟模式,AWS香港暨台灣總經理王定愷表示,傳統經濟下的業務模式,週期固定且反覆,由經驗與產品驅動,引導企業布局與反應,IT部署緩慢,以月或季甚至年為週期;而新經濟「爆紅」、「秒殺」、「事件驅動、需求暴增」下,決策、應變與IT部署作業不及,會導致客戶體驗不佳,營運挑戰大增,假期返鄉售票、光棍節、疫情爆發等事件都會湧入爆量的網路流量,使用者經驗會轉變成客戶黏著度,有準備才能把握商機。 因應新經濟的發展,導入雲端、網路等新工具的應用,是未來幾年企業數位轉型與創新的重點,王定愷指出,2019年全台有近六成的企業進行數位轉型,2021年底,台灣將有47.8%中小企業展開數位轉型,2022年台灣將有超過四成的IT支出投放在數位轉型和創新。台灣的高科技產業也已經投入相關的進化過程,利用雲端進行EDA工作,並透過雲端的儲存空間與運算能力協助將IC電路設計與驗證。 傳統經濟由技術驅動,新經濟由需求驅動,兩者發展模式大異其趣 具體的案例就是台灣的半導體產業兩大巨擘聯發科(MTK)與台積電(TSMC),王定愷強調,以聯發科近期在市場上大有斬獲的7奈米5G解決方案天璣系列設計為例,一顆7奈米晶片從開發到設計完成,至少需要上千台高階運算主機的協助,為滿足複雜的設計運算需求,聯發科將研發設計使用的EDA工具搬上AWS雲端執行,進行大量且反覆的設計驗證工作,從前期電路設計、性能分析到產生晶片電路圖,都能用它來完成,對照其目前在市場上取得的成功,AWS的雲端服務貢獻不言可喻。另外,AWS與台積電更共同開發了稱為虛擬設計環境(Virtual Design Environment, VDE)的應用,允許透過雲端的方式來協作,改善了過往設計與投產前繁複的溝通,加速晶圓量產的效率。 而5G時代來臨,AWS也與不同領域業者攜手發展各式各樣的合作,在網路雲、管、端三大架構下,AWS扮演雲的角色,電信業者在管的部分發揮作用,而端則是像智慧手機這類百花齊放的終端裝置。王定愷說明,因應5G時代興起的邊緣運算(Edge Computing)趨勢,AWS也推出Outposts整櫃式主機,透過多接取邊緣運算(Multi-access Edge Computing, MEC)串聯雲、管、端,Outposts具備與AWS數據中心相同的設計基礎架構,由AWS完全管理、監管和操作,單一管理面板,提供與AWS Region中相同的API工具,可協助業者加速5G邊緣運算服務落地,將端落到台灣。 AWS Outposts整櫃式主機,透過多接取邊緣運算(Multi-access Edge Computing, MEC)串聯雲、管、端  
0

高通攜華晶科攻5G和AIoT 打造4K視覺影像解決方案

華晶(Altek)成為高通(Qualcomm)人工智慧物聯網(AIoT)生態系的重要夥伴,基於QCS610系統單晶片(SoC)的IPC610攝影機開發套件(DevelopmentKit)原型機,將有助快速進入AIoT生態鏈並擴展市場。 正因5G具備高速率、低延遲與廣連結三大特性,高通專為AIoT打造「視覺智慧平台(VisionIntelligencePlatform)」,搭載專為AIoT開發的QCS610的系統單晶片,並由IPC610原型機提供高品質4K視覺影像處理能力和機器學習提供強大的邊緣運算能力(EdgeAI),實現工業級與消費級智慧視覺影像解決方案,可運用於智慧零售、智慧家庭、及居家辦公(WFH)等多元場景。 華晶科夏汝文執行長表示,華晶科與高通擁有長期的合作夥伴關係,從視覺智能平台首次發布開始,是首個為物聯網專門建置的系統晶片,我們共同開發了一系列基於高通技術的SoC邊緣運算AI視覺影像解決方案,包含具有邊緣運算能力的AI攝影機和AIBOX。透由精準快速辨識並提供保護數據隱私,在不同的場域中創造全新的體驗。 高通產品管理高級總監TimYates表示,相信在5G時代中,未來在智慧安控市場中支持4K辨識率的需求將會持續增加,而目前需要升級現有的全高清(FullHD)安控攝影系統,加入支持AI智慧功能的需求力道更是強勁。在高通支持最新的QCS610系統晶片具備強大的AI推理計算能力,華晶科提供優化各種應用上需要的AI視覺影像處理能力,是兼具性能和成本的AIoT智慧視覺解決方案。
0

安提國際推新高效智慧邊緣運算系統

AI解決方案已經廣泛的應用在各產業之中,且AI的運算核心也逐漸從雲端轉移至邊緣端,邊緣運算在企業智慧化服務中佔有一席之地。為了發展更多的應用方案,GPGPU和智慧邊緣運算解決方案供應商安提國際發表了全新的AN110-XNX邊緣運算平台。結合NVIDIA Jetson Xavier NX 運算模組和AN110載板,外型大小精巧,但擁有高達21 TOPS的運算效能,不僅可以驅動邊緣端的智慧應用,如智慧交通、工廠、零售、醫療等,也可以打造全自動的機器人設備。 AN110-XNX的小型化設計,包含風扇的尺寸僅87.4x68.2x52 mm,但卻蘊藏更強大的AI運算能力。全新Jetson Xavier NX擁有384個 CUDA核心、48個 Tensor核心、6個Carmel ARM CPU處理器,以及2個NVDIA深度學習加速器,讓NX模組能夠提供高達 21 兆次的運算能力。這大幅度地擴展開發人員和客戶當前的可用選擇—需要高性能的嵌入式邊緣運算系統卻受限於大小、重量、功耗、預算或成本的AI應用。 AN110-XNX支援MIPI CSI-II介面的相機,可搭載1個4K或2個FHD相機,在廣泛的智慧視覺應用中,安提的平台能夠驅動多功能的AI解決方案,同時處理高解析度相機與影像分析所要求的高密集人工智慧運算量。同時,安提國際AN110-XNX平台另有提供帶機殼版本AN110-XNX-EN70,提供顧客多元選擇並快速落地使用。在安提國際智慧邊緣系統加值服務的內容中,提供安提標準品及客製品項的BSP及DTB架構更新。而針對NX模組,安提國際規畫更進一步的計畫,5G通訊與邊緣裝置的遠端管理功能,皆會實踐在這樣的智慧邊緣解決方案上,以應付持續擴大的人工智慧市場需求。 安提國際產品經理朱鴻欽表示,NVIDIA為當前邊緣運算解決方案的領頭羊,安提今年與其鏈結合作夥伴網絡,能夠更深入透過他們的運算模組,來打造更多適切的應用。安提長期專注於長期供貨的嵌入式產品與工業領域適用的解決方案,NVIDIA Jetson系列具有雲端的原生功能,模組緊湊的設計提供良好的AI運算能力,搭配安提設計周詳的載板,讓系統能夠輕易部署和快速整合生成邊緣AI應用。
0

建碁智見高辨識率AI臉部辨識引擎免費申請試用

泛宏碁集團之建碁旗下以AI 視覺應用為主的建碁智見公司 AOPEN Smart Vision,結合集團強大專業的AI研發實力,日前發布100%由台灣本地專家團隊研發之AI臉部識別演算法—AVCP,具人臉辨識之高精準度、防假臉的基本辨識外,口罩辨識也輕鬆無感通過。目前在國內及東南亞企業、醫院、工廠及知名零售品牌之二岸分公司已有廣泛應用、樹立口碑實例。AVCP演算法平台提供API方便軟體開發商對接各種應用程式,為推廣人臉辨識應用,建碁智見開放軟體開發商申請30天免費試用。 建碁智見總經理林銘祥表示,企業人臉辨識出缺勤管理及門禁系統,連結雲後台便可以時刻掌握全球各據點的人員出勤狀況,避免誤/代打卡或強化安全管理,確保非權限者闖入企業機密區域。中部某地區醫院,希望導入員工刷臉作為上下班打卡系統以減少醫護人員的手部接觸、降低汙染風險。 AVCP之AI人臉辨識演算法技術係由集團內100%在台灣研發無資安問題,AVCP採用類神經網路深度學習應用演演算法在國際臉部辨識資料庫準確率達99.53%(LFW)及Mega Face準確度97.24%的高水準特色,AVCP支援離線使用、毋需上傳雲端系統,即使在無網路的環境下仍可如常使用、辨識運作不受影響。AVCP符合人工智慧深度學習架構的嚴格要求,支援多種邏輯推理引擎,如:OpenVINO、TensorRT、TensorFlow及CoreML等,同時在Intel Movidius及NVIDIACUDA 等GPU硬體架構下進行效能加速;針對如Jetson及ARM等AIoT邊緣運算設備,皆能進行輕量化與效能優化,加速深度學習演算法的運算速度。特別適合欲建立人員資料的企業員工、會員管理及金融安全之嚴格防護需求產業。 緯創軟體事業群2019年甫遷入位於汐止遠雄U-Town新辦公室,直接導入以人臉識別方式做為員工打卡、進出門禁及訪客系統之應用。緯創軟體人資長Steve提到,自從導入刷臉打卡的門禁後,同仁不需要擔心卡片忘記、遺失的問題、準確度高,HR同仁僅需在人員入職及離職時僅需從後台做資料的更動,而不需製作卡片,工作效率相對提升。 此外,在北部某大型醫院亦將多人動態識別做為高齡患者之動態追蹤管理之用,當辨識到該樓層病患離開護理區樓層時即開始記錄時間,超過一定時間若未偵測到返回即發訊息通知護理站啟動院區尋人機制。林銘祥表示,人臉辦識可應用的範圍廣,舉凡有建置個人資料的單位都適合,此次因為疫情關係,也讓許多企業單位重視健康與安全,能協助企業主以最少人力資源快速達成系統升級是該公司的目標。
0
- Advertisement -
- Advertisement -

最新文章

- Advertisement -

熱門文章

- Advertisement -

編輯推薦

- Advertisement -