- Advertisement -
首頁 標籤 邊緣運算

邊緣運算

- Advertisment -

三向直搗技術/智慧應用難關 聊天機器人起腳射門

時至今日,全球各地,從制定相關決策的政府機關,大型上市公司與夾縫求生存的中小企業,無一不提出數位轉型、扶植新創、組織創意轉型等方向。而此篇文章將試圖探討在現今的技術條件與市場期待心理下,是否能夠因為使用新技術、或者開闢新賽道進行聊天機器人的市場突圍? 聊天機器人無法滿足使用者期待 科技的快速發展來自人追求快速、方便的本性,但人類的想法與思緒十分複雜,因此聊天機器人難以全面滿足使用者的需求。回想日常生活的溝通情境,當人們在日常溝通的時候,除了說出口的字句,對方的肢體動作與眼神有沒有影響到自身的判斷?讀者是否會自行腦補一些情境?尤其跟老闆、同事或下屬進行具目的性的談判對話時,語句之外的線索顯得更重要。 聊天機器人不夠聰明的原因,是它距離人類多模態交互的能力還很遙遠。現今最普遍和流行的生活應用,當屬智慧音箱(如Amazon的Echo),一般人在買回去的當下充滿興奮感,嘗試各種指令來挑戰智慧音箱的極限後,就將它放置在屋裡的某一角落,成為一個可有可無的家用品,無法實際融入使用者的生活情境中。即便仰賴大數據和人工智慧(AI)的相關技術持續更新,用戶體驗也漸入佳境,但仍缺乏具代表性的現象級App,無法滿足多數人的使用需求。另一方面,若人們嘗試降低自己對產品的期待,單純利用聊天機器人詢問明確的問題(如天氣),請它做一件明確的事情(如播放音樂),這樣的基本需求可以被滿足。 聊天機器人技術發展三向剖析 聊天機器人是一項技術整合的產物,其中牽涉的技術範圍有電腦視覺、自然語意、機器學習(Machine Learning, ML)與深度學習(Deep Learning, DL)等。本文根據市場調研機構Gartner所提供新興科技發展週期報告,來審視各個技術目前位處的位置、困境、與待解決的問題。 電腦視覺 電腦視覺(Computer Vision, CV)目前處於泡沫化的谷底階段,意即此技術無法滿足使用者的期待,導致大家對於它的創新了無興趣。CV從實驗室的前沿技術,到如今能夠聽懂人類的指令,花了整整半個多世紀,產生瞄準在新零售、醫療、工業製造和網路娛樂等應用的期待。然而,人工智慧情緒識別離開人類的干預,對複雜情感的理解和表達能力,仍須持續的技術突破。其中,利用AI判斷並理解實體環境的CV,不僅是辨識情緒的關鍵技術之一,也被公認為未來三至五年最重要的技術之一,不僅眾多新創企業投入,大企業也紛紛利用自己既有的優勢企圖先布局並搶占先機,現階段大約聚焦在下列4個發展方向: 1. 服務平台:提供機器學習開發工具和雲端服務的商業型平台,讓開發者毋需從頭自行建構。 2. 影音資料庫:利用海量資料進行機器學習的模型訓練,將使用者上傳的相片和影音資料,與個人特徵資訊進行連結,大量使用電腦視覺技術客製化廣告投放以增加營收。 3. 硬體製造:如NVIDIA、英特爾(Intel)的晶片製造。 4. 消費性產品:近期可期待者為手機人機互動的介面。 自然語意 自然語意(Natural Language Procession, NLP)與CV處於泡沫化谷底階段。自然語意發展分為兩大階段,一種是應用傳統的分詞執行自然語言處理,第二階段則是近年由於機器學習快速發展,大家開始應用機器學習執行NLP。透過NLP所能實現的功能包含神經機器翻譯(Neural Machine Translation)、智慧人機交互(就是所謂的聊天機器人,受限於技術,目前只能在特定場景實現多輪次的對話)、機器閱讀理解與機器創作。但如前言所述,現實狀況下,人與人當面溝通,仍會有語意上的誤解,在此情況下,如何期待科技可以奇蹟似地解決這一切?自然語言處理首先透過斷詞、理解詞,接下來是分析句子,包含語法和語義的自然解析這兩個步驟,再轉化為電腦容易處理與計算的形式。上述在處理時,需耗費大量的人力成本,除此之外,還牽涉建構者本身對於所屬領域的專業度、邏輯與理解能力(所謂的人工智慧訓練師)。此外,NLP毫無疑問的是一個未來巨大的市場,無論電腦視覺或是語音識別,想要實現更人性化的功能,就需要NLP的加持,同時可預期隨著NLP技術的不斷發展,將會逐漸呈現NLP、語音與視覺融合發展的趨勢。 機器學習/深度學習 機器學習與深度學習位處在過度期望的高峰階段,各方話題與議題熱度竄升。機器學習指的是可以從資料中歸納規則的方法,是第三波人工智慧發展的代表技術,而在眾多機器學習演算法中,深度學習則是近幾年成長最快,表現最好的技術。遺憾的是,截至目前為止,幾乎每個深度學習實踐者都認同的一件事是:深度學習模型數據效果有限。要實現真正的深度學習需要滿足下列三點,這三點可以協助讀者辨別此項技術到底是人工智慧還是科幻小說。 1. 大量的數據與活動:為了使神經網路能發現新的模型,就需要有大量的數據,這些數據可以透過反覆試驗來處理和分類。 2. 運算能力:假設已有一定量的有意義數據,則需要運算能力,所幸目前已有一系列更低成本的選擇,如微軟Azure等雲端託管服務。 3. 新的敏捷方法:最後,也是最重要的一點,需要採用新的敏捷方法思考和解決問題。 大型資料庫用於訓練精確模型的必要性已成為一個非常重要的問題,同時,需要低效的人工標注數據成為一個更大的挑戰。在當前的深度學習應用中,數據的問題無處不在,由於建基於大規模數據,當滿足所需環境和約束條件時,這些系統會產出令人驚豔的成果;但若不符合上述場景,它也可能完全失效。舉例來說,若有人試圖解決大量翻譯或無人駕駛的問題,則需花很長時間來思考重要數據中的所有因素,需先建構演算法,而在過程中有很高的失敗機率。雖說如此,深度學習和先進模型的興起仍是一次革命性的進步,加速了那些針對以前無法解決的問題之技術解決方案出現,在思維上邁出重要的一步。 聊天機器人短期內破局可能性具困難度 產業中的廠商若以業務角度分析,主要分為三類: 1. 2C公司:產品直接面對用戶,如Amazon的Echo,由於未能滿足人類對於AI的美好想像,距離規模化應用上有大段距離。 2. 2B公司:如金融領域的智慧監管系統、醫療領域的醫療問答和診斷助理等。但是實際效果仍牽涉上述自然語意建構的縝密度,與場景應用設計的順暢度而有不同。 3. 2G公司:為面向政府執行行政業務類的知識庫建構和問答業務,如政府服務大廳的引導型聊天機器人、一站式辦公機器人等。 從生態系統來看,聊天機器人可分為產品,框架(Framework)和平台三類;其中框架是為了加速產品的研發,以SDK或SAAS服務的型態,提供有市場敏感度,或創意點子的需求者可快速架構特定場景和領域的聊天機器人。 短期若要大規模地拓展市場,恐怕有一定的困難度,除非在上述的關鍵技術中突然有突破口,縱然如此,各式場景應用與垂直深化探索仍不斷地激起人們對未來的想像。相信未來的聊天機器人與虛擬生命,將會以更好的體驗和型態呈現在人們面前。 (本文作者任職於優拓資訊)  
0

安提整合宜鼎SSD 提升AI邊緣運算便利性

在邊緣裝置成為產業應用上主流的現在,完善的管理更是重要。GPGPU與邊緣運算解決方案供應商安提國際發表其Jetson邊緣運算平台成功整合宜鼎國際頻外管理InnoAGE SSD解決方案。安提國際Jetson平台與宜鼎國際InnoAGE固態硬碟可以達到遠端執行頻外管理邊緣裝置的目標,這樣不僅可以減少大量的邊緣設備人力維修成本,還可以大幅度降低設備當機的時間,讓整體的邊緣系統應用變得更加便利。 安提國際於Embedded World 2020在德國紐倫堡展示這套整合Jetson平台與InnoAGE固態硬碟的動態展品,展品示範當邊緣裝置有所毀損或關機時,可透過遠端頻外管理,不必親臨現場即可喚醒裝置,如此一來,不僅能夠輕鬆重置裝置,也可以降低各項維修的資源。安提國際Jetson 邊緣運算平台的特色在於小型化、低功耗等,適用於嵌入式的邊緣裝置使用。為維護大量的邊緣裝置,當突發狀況發生時,內頻管理可能受限於無可預料的問題;內頻管理系統無法從遠端解決設備問題,因此需要更多的人力成本,也會延長系統當機的時間,增加設備毀損的風險。反觀頻外管理系統,能夠有效率的修復當機問題,在人力的配置上也更加彈性、節省。 安提國際體認到自家的邊緣運算平台可能會遇及相關問題,因此迅速整合宜鼎國際InnoAGE固態硬碟,以滿足備有遠端頻外管理功能的需求。InnoAGE固態硬碟配備Azure Sphere晶片,能在固態硬碟中切割出一個獨立的空間,並在其中安裝獨立的系統與Azure Cloud串接,甚至能自動備份裝置的系統資料存放在固態硬碟中,無論是邊緣裝置的系統或軟體故障、損毀,都可以利用Azure Cloud的管理介面下達指令,讓邊緣裝置藉由Azure Sphere進行系統重啟或是還原。此外,也能在雲端的管理平台監控邊緣裝置的即時狀態,方便管理者遠端操控及維護大量的邊緣裝置。同時,為確保頻外管理中,最為人在意的安全性問題,Azure Sphere提供資料安全防護,使AI邊緣運算的推理結果安全上傳到雲端資料庫並消除任何安全風險。
0

破解四大迷思 5G跨界發現新大陸

2020年2月,隨著台灣兩個階段的5G頻譜競標作業底定,也意味著台灣將正式進入5G元年。事實上,最近兩年以來,5G就一直是科技媒體、論壇、展會、新創圈最熱門的主題之一,不管與5G的關聯性有多高,業界似乎都希望藉由5G議題的高關注度來吸引注意。不過,與其盲目地蹭5G、跟流行,不如好好思考如何善用5G,發揮真正的優勢。 5G只是比4G更快? 許多對5G一知半解的人,經常說5G就是比4G更快的新一代行動通訊技術。這句話其實只講對了一部分,總結來說,5G技術有三大特色:高頻寬、低時延、大連結。所謂的高頻寬,指的是5G傳輸速率比4G提升10~100倍,達到1Gbps以上;另外低延遲是指5G的時間延遲比4G減少10分之1以上,達到0.001秒;大連結則是指每平方公里可支援上百萬個裝置。 因此,如果拿5G跟4G相比,除了速度更快之外,很重要的差異有兩個:第一是時延更低、幾乎達到同步,這樣就能達到一些過去4G較難做到的事,例如遠端開刀,醫生不會因為影像延遲而影響用刀的精準度,自駕車也不會因為時延太長而影響車聯車(Vehicle to Vehicle, V2V)通訊,可大幅加快反應速度;第二是可同時支援的裝置更多,得以串連非常多的物聯網裝置,包括所有的家電、水表/電表、汽車、路燈、監視器、工業機台都能聯網,真正實現萬物聯網的目標。 從這個角度出發,如果業者要發展5G的相關應用,就不應該只是關注速度更快這件事,而是可以思考如何發揮更低時延、更多連結的特點,從智慧醫療、工業4.0、智慧城市、車聯網、物聯網等方向去探索創新的商業模式,如此能夠擁有跳脫現有4G網路基礎建設之下競爭格局的機會(圖1)。 圖1 5G關鍵技術及應用場景 5G的焦點還是手機? 在5G主題的成功案例或應用場景中,最常見到的大概就是球場的5G VR/AR互動體驗、明星5G直播陪伴等消費性應用,儘管這樣的畫面對民眾而言比較有感,也更容易掌握5G的技術特性,但不免讓消費者或業者有種誤解—5G還是聚焦在手機的應用。 如果回顧行動通訊技術,從2G、3G、4G一路到5G的演化歷程,人們可能有注意到,過去2G到4G幾乎都是以手機應用為主,讓消費者的溝通方式從語音、文字影像到視訊,並且實現隨時隨地高速上網的目標;但進入5G世代後,將從人與人的連結邁向萬物聯網的願景,包括人與物、物與物之間的通訊將日益緊密,焦點絕對不會只有傳統的手機及平板電腦。 以此觀察,5G在各種垂直產業的應用,將更具潛力、且有更高附加價值的切入點。舉例來說,5G在車聯網的應用就相當受到矚目,一旦具備高頻寬及低延遲的5G聯網能力,就可實現車聯車、車聯基礎設施(V2I)、車聯行人(V2P)等V2X(Vehicle to Everything)應用,不僅可快速下載圖資及掌握即時路況,車用多媒體娛樂系統也將大幅升級,並可從車聯網延伸到智慧交通和智慧城市等領域。 台灣大哥大總經理林之晨就認為,5G的發展歷程將有三個階段—2019~2020年將以影音串流、VR/AR內容及雲端遊戲等娛樂應用為主;2020~2022年開始出現緊急醫療、無人機運輸、工業安全、智慧製造等專屬網路產業應用;2022年之後則將邁向智慧城市、智慧交通、智慧電網、智慧機器人等巨量聯網應用(圖2)。 圖2 5G裝置成長圖 電信業者仍是老大? 從4G時代開始,業界就一直在討論電信業者的角色轉變,已經不能再當「笨水管」(Dumb Pipe),而是要積極轉型,發展多元型態的內容、產品及服務,尤其是5G商業化之後,更要結合大數據、人工智慧、物聯網等技術,在消費市場以外拓展更多的應用版圖及商業模式。 儘管電信業者仍掌握核心的基礎建設及行動通訊服務,但可以預期的是,為了讓各種垂直產業的場景落地實現,電信業者勢必得擺脫過去的老大心態,尋求與不同產業進行跨界合作與業務融合,包括媒體、娛樂、公用事業、金融、醫療、交通、教育、農業等產業在內;但以公司規模及產業生態來說,電信業者如何放下身段,尊重或倚重不同業別的領域知識、通路、分潤模式,確實還需要不少磨合。 儘管5G的產業應用可能不會像一般消費市場發展那麼迅速,但電信業者已注意到相關商機,也開始吸納更多元專長的人才(圖3)。遠傳電信總經理井琪就曾表示,迎向5G新世代,遠傳將超越傳統電信商角色,轉型為數位服務提供者,組織人才不僅要擁有基礎資訊工程知識,還要具備多方面的斜槓技能,才能跟上這一波的數位轉型,例如之前派遣許多員工前往越南,協助織布廠進行智慧驗布,透過5G服務為傳統產業進行升級。 圖3 不同行動通訊技術之預估用戶分布圖 5G是神科技? 在部分業者勾勒的5G願景中,一般民眾的生活及各行各業都會帶來很大的變革,把5G描繪成一種神科技,似乎期待5G能帶來劃時代的突破;但其實光是5G技術並無法完整實現這些美好想像,必須搭配人工智慧(AI)、邊緣運算(Edge Computing)一起發力,才可能真正改變科技世界甚至人類的生活樣貌。 高通(Qualcomm)副總裁暨台灣與東南亞區總裁劉思泰就表示,5G與AI密不可分,未來終端產品將變得更加聰明與多元,且在邊緣運算的網路架構下,可以提供過去做不到的智慧應用服務,無論效能、隱私、安全都會提升,網路傳輸也會更有效率。根據高通預估,2018年具有AI功能的終端裝置只有10%,但到了2025年將會達到100%。 舉例來說,在智慧醫療應用方面,5G固然可以實現遠距醫療、居家照護等服務,例如藉由5G高速傳輸4K現場影像及零時差生理數據,並在遠端進行手術教學,但還必須搭配AI影像辨識、邊緣運算、室內精準定位等技術,才能完整實現智慧急診室、智慧開刀房的場景。 又如VR/AR的產業應用,也有賴5G與AI的整合,在深山峻嶺或其他危險地區,可透過5G無人機基地台傳輸訊號,透過AR來引導現場工作者進行危機處理;在機場、車站、球場等大型場域,如要提供VR/AR廣告或其他服務,光有大頻寬的5G網路還不夠,還需要AI電腦視覺、空間感知、室內定位導航等技術的配合,才可能創造全新的虛實整合場景體驗。
0

晶片設計內銷轉出口 客製化成Cisco首要挑戰

Cisco在網路晶片設計上深耕多年,過去從未採用晶片獨立銷售策略;而今面對市場變化,愈來愈多的企業放棄自行搭建私有網路,轉而使用雲端服務,考慮市場空間萎縮,加上大型資料中心技術架構的改變,對交換器與路由器網路設備市場皆造成衝擊,直接影響Cisco的核心業務收益,此次Cisco決定單獨出售交換器晶片,而這也是Cisco近年來最具突破性的銷售策略。 上述市場變化也促進大型資料中心與雲端服務提供商的發展機會,然而大型雲端服務提供商常有白牌交換器採購搭配自家開發的軟體方案的部署策略,因此交換器品牌業者近年來也陸續提出開放式解決方案,與白牌代工業者共同競爭,市場版圖挪移也逐漸侵蝕Cisco的市占率。此次Cisco決定單獨出售交換器晶片即是回應市場變化,亦為Cisco近年來最具突破性的銷售策略。 新的銷售策略包含客戶得以因應不同的商業模式採購所需技術,對Cisco來說,Silicon One不僅會為Cisco自家產品所採用,還可以直接對各大服務提供商及其潛在合作夥伴進行出售,新品發布的同時,Cisco也表明目前主要出貨客戶為Microsoft與Facebook。 帶領Cisco進入交換器晶片市場的產品主要是網路矽晶片架構Cisco Silicon One,以及建基於全新矽晶片的Cisco 8000系列電信等級的路由器產品。 Silicon One的最大亮點是提供統一的可編程矽晶片架構,其將助力營運商降低營運成本,並在更短的時間內推出新的業務服務;而單晶片系列也允許針對不同應用程序執行各種網路相關的功能,如回程、核心、邊緣與交換等,在性能上確然有其優越之處。Silicon One也是第一款設計用於電信營運商、大型雲端服務供應商、在網路規模市場中通用的網路晶片,未來將成為Cisco路由器產品系列的基礎,在性能上,網路傳輸效能高達每秒25Tbps。 首款Silicon One「Q100」型號可在不影響可編程性、緩衝、能源效益且保持功能彈性的情況下,提供超過10Tbps的網路頻寬,新產品在定位上標榜大容量、低成本的優勢,彰顯Cisco切入市場的發展利基,希望藉此滿足大型雲端服務業者對容量及性價比的需求。 交換器晶片大廠動態與新品盤點 Marvell自2018年起陸續進行多個併購案,首先是2018年收購伺服器處理器知名廠商Cavium,取得ARM處理器架構開發的ThunderX系列產品;2019年後再分別買下特定應用積體電路(Application-specific integrated circuit, ASIC)業者Avera與乙太網路IC設計業者Aquantia,希望在ASIC領域再下一城。 原本Marvell在伺服器、交換器、儲存裝置就已經有對應產品,其看重Cavium在系統單晶片(System on a Chip, SoC)處理器、網路通訊、安全晶片等領域的優勢,希望能夠增加產品完整性,為客戶打造更完整的平台,在技術實力提升的同時,進一步往雲端、邊緣互連、全覆蓋等面向轉型,並深耕基礎設施、雲端控制、物聯網層級領域,最終切入資料中心市場。 得益於對Cavium的收購,2019年3月,Marvell發布了將會應用於邊緣運算市場的交換器晶片Prestera CX 8500(以下簡稱CX 8500),最高可支援12.8Tbps頻寬,除頻寬表現亮眼外,更大的特點是模組化晶片設計給CX 8500充分的靈活性,多核封裝下的晶片可支援業界最高的一千個Port,將原有的資料中心四層架構精簡為兩層,對成本的降低和維運管理性都有很大的幫助。 為邊緣運算處理而生的CX 8500可根據不同需求增減模組中的晶片數量,進一步為客戶打造客製化解決方案,尤其邊緣運算數據量不比雲端運算規模,不見得需要到12.8Tbps的傳輸需求(一般會出現1~4T不等的頻寬需求),此種應用就較適合選用Marvell的解決方案。 作為一款模組化的晶片,CX 8500在可擴展性、散熱性以及I/O連接埠方面更具優勢,除了彈性支援2~12.8Tbps傳輸需求外,其在功耗上的表現,以數據流量增加一倍的情況下計算,系統功耗只增加20%;此外CX 8500還提供25Gbps和50Gbps兩種輸出入(Input/Output, I/O)選擇,最多支援1,000個連接埠,遠高於傳統交換器IC所支援的128個連接埠數目,進而在系統層級降低35%以上能耗,並多出25%的總暫存空間,性能表現相當良好。 收購Barefoot Networks...
0

安提國際2020 Embedded World秀GPU方案加速AIOT創新

GPGPU和邊緣AI運算解決方案供應商安提國際(Aetina)於2020年度德國紐倫堡Embedded World展會展示全套的人工智慧運算解方,和物聯網中的智慧操作案例。 在2020年的Embedded World,安提的展會攤位展出一個巨大的平台,展示三隻機器人,這是專屬於SparkBot的展示區域。首先在展台的後半部,以倉儲工廠作為背景,安提TX2機器人Line和Nano機器人Dot所負責的區塊。Line以安提TX2-AN310平台打造,能夠接收肢體動作的指示,並依照指令移動、夾取特定物件;Dot則是以Nano-AN110平台打造,負責入口處的安防控制,以人臉辨識的演算法來進行人員進出的黑、白名單,同時機器人上安裝有環境監測感測器,可以實時掌控工廠內的空氣品質。再來,展台前方區塊則規畫有戶外意象的道路規畫,展示安提Xavier機器人Surface。Surface機器人以安提Xavier-AX710平台打造,並搭配三個4K相機,以自動車為概念並設定為物流車,可以自動行走在展台上,偵測環境事物外,遇到停止指示亦會暫停移動。三隻機器人皆透過5G無線通訊解決方案連結至後台iCAP雲端監控系統,有效提供實時的裝置監測,並達到良好的邊緣裝置管理。 此外,不僅有Jetson平台的展示,安提國際也設置GPGPU相關解決方案的展示區域。其中包括PCIe工業用顯示卡系列、嵌入式MXM繪圖模組,無不展現出它們高效能的圖形運算能力。未來針對GPGPU解決方案,安提國際將持續升級其運算效能,為開發者提供更高效能的產品外,也根據Nvidia開發的腳步,逐步推出持續進步的加速工具。
0

即時/安全/可靠 邊緣運算執行高效機器學習

舉例來說,如ILSVRC影像分類競賽(圖1),在這場競賽中即是使用一種稱為機器學習(ML)的人工智慧─AlexNet早在2012年就贏得這場競賽,成為第一個使用深度神經網路和GPU來進行訓練的模型;而ResNet-152在2015年的影像分類競賽中亦擊敗人類。 圖1 影像分類中機器與人類的比較 電腦優於人類的其他範例還包含遊戲,表1中的範例是機器擊敗人類冠軍以及人類仍較優秀的非競賽情境。 機器學習無疑為智慧家庭、智慧零售、智慧工廠和智慧城市之類的應用情境帶來全新美好的必要功能,且現今各種企業都能利用這項技術。運用此技術的相關機器學習雲端服務供應商有亞馬遜(Amazon) AWS、SageMaker、微軟(Microsoft) Azure ML和Google Cloud ML,而這類機器學習雲端服務的成長都極為驚人。 邊緣執行ML流程簡化 直到最近,因為推出各種運算和儲存資源,機器學習的重心都集中在執行大量集中式電腦中心的雲端,其快速移轉至邊緣有以下幾個原因: .雲端處理、儲存空間與頻寬的成本無法將資料傳送到雲端,以執行人工智慧功能的決策。 .較完善的使用者體驗需要在邊緣進行快速的人工智慧功能決策。 .隱私權和安全性考量會限制在雲端中儲存的資料類型。 .提升可靠性。 以上這些因素讓邊緣無庸置疑成為機器學習處理許多應用的顯著位置。這也是半導體廠商推出運用專屬高效能機器學習加速器之應用處理器的原因之一,像恩智浦(NXP)的i.MX 8M Plus使用14nm FinFET製程技術,提供高效能與低功耗,並具備雙鏡頭ISP在內的各種新功能,可支援兩個低成本的HD相機感測器或一個4K相機感測器,以執行臉部、物件和手勢辨識的機器學習任務。其中也整合獨立800MHz Cortex-M7來支援即時任務與低功率、H.265和H.264的影片編碼和解碼、800MHz HiFi4 DSP,以及用於語音辨識的8PDM麥克風接口。工業物聯網功能包含Gigabit乙太網路與時效性網路(TSN)、兩個CAN-FD介面和ECC。 另一方面,資料科學家正為在邊緣上部署的資源限制裝置最佳化特定演算法,進而協助加速移轉到邊緣。MobileNet是由Google開發的影像分類演算法,著重在高準確度,同時又能大幅減少所需的運算資源數量。圖2中顯示處理過程中大幅減少的趨勢。從VGG-16模型到MobileNet v2模型的轉變讓在邊緣所需的運算數量減少50倍,協助在邊緣的資源限制硬體解決方案,執行複雜的機器學習處理。 圖2 針對邊緣最佳化的NN演算法 同樣地,使用行動電話在邊緣執行MobileNet v1比起在雲端中執行MobileNet v1的速度明顯更快,此差異的成因是將雲端網路延遲降到最低,而網路往返延遲的新增範圍可以輕易橫跨200毫秒到超過1.4秒(大幅延遲回應時間)。該演算法的目標是達低於100毫秒的回應,以即時向使用者顯示(圖3)。 圖3 在邊緣更快速的使用者體驗 以下是i.MX 8M Plus支援的應用程式,這些應用程式會在邊緣執行機器學習。如圖4所示,這些使用案例都需要特定層級的效能來判斷需要哪種層級的執行硬體。這就是應用處理器須具備專屬機器學習加速器的主因。 圖4 機器學習使用案例 因為上述原因,便可較易理解為何要在邊緣執行機器學習應用。然而,必須符合幾個額外需求才能順利完成部署: ・機器學習開發人員的生態系統─讓實作變得簡單。 ・硬體安全性─保證隱私權與安全性。 ・全新、創新的混合SoC架構─提供符合成本效益的解決方案。 ・可擴充和安全的邊緣部署─讓部署變得容易。 打造適用於機器學習部署的全面性生態系統 機器學習應用的重大突破需要結合設計與部署的生態系統來負責處理任務,這也是半導體業者打造創新邊緣智慧工具環境的原因,以恩智浦eIQ為例,該工具支援各種機器學習處理元件,包含Arm Cortex-A和Cortex-M處理器、圖形處理器(GPU)、DSP和機器學習加速器。eIQ機器學習軟體環境包含推論引擎和程式庫,兩者皆利用開放原始碼機器學習技術中的改善技術,像是TensorFlow Lite、OpenCV、CMSIS-NN和Arm NN;而針對較熱門的i.MX RT應用處理器,則透過適用於MCUXpresso和Yocto(Linux)的開發環境進行評估,為應用開發過程提供順暢的支援;在物件偵測和語音辨識中的範例應用程式中會隨附eIQ軟體,作為邊緣機器學習的起點(圖5)。 圖5 eIQ機器學習開發環境 確保邊緣安全性 邊緣的安全性至關重要,其所需的功能包含安全啟動信賴起點、晶片內建加密、安全布建、相互裝置驗證、安全裝置管理、OTA或無線安全更新與生命週期管理。為了支援這樣的安全性,半導體業者打造了可擴充的EdgeLock組合,其中包含安全元件、安全驗證器和應用處理器的嵌入式安全以及MCU。像是i.MX 8M Plus具備進階EdgeLock嵌入式安全系統(含資源網域控制器、信任區、HAB、加密啟動、使用RSA的公開金鑰加密與橢圓曲線演算法),其可為邊緣節點提供完整性、驗證確實性和隱私,並提供從邊緣到閘道和雲端的安全性。 AI/ML領域更迭不斷 加速人們生活便利性 人工智慧領域的變化步調正逐漸加快。如圖6來自「2018年人工智慧指數」和Monster.com所示的圖表呈現深度學習職缺方面的趨勢。 圖6 2015~2017年所需人工智慧技能的職缺成長 至於圖7則顯示在公司盈餘會議中提到人工智慧和機器學習的次數。 圖7 2007~2017年公司盈餘會議提到次數-IT公司 人工智慧與機器學習為電腦產業中帶來劇烈的改變,這樣的改變可使人們的生活更便利完善。新應用處理器如i.MX 8M...
0

安提國際SparkBot計畫整合邊緣垂直應用 預計於EW2020亮相

安提國際(Aetina)專注在工業用GPGPU和以GPU為基礎的運算平台,為強化產業發展下的必要能量且滿足人工智慧開發者對於運算平台的要求,安提國際規畫相關計畫「SparkBot」,以因應未來的趨勢洪流。「SparkBot」以單字「Spark」和「Robot」組成,代表安提國際對智慧物聯網整合的熱情與決心,同時,點燃產業邊緣端的AI能量並鼓舞整個產業向前推進。這個計畫不僅是將安提的平台持續與不同軟、硬體執行預先整合,更為人工智慧開發者們提供不同的邊緣智慧應用概念。SparkBot計畫堅持在相關產品上能夠與垂直系統整合商合作,並積極與不同軟、硬體廠商簽署合作備忘錄,打造更堅強的產業生態圈;此外,在計畫中,安提也設計實驗型機器人,不僅作為展示上的亮點,更是統整智慧概念,讓不同的智慧應用得以結合,創造出更多的智慧方案。 SparkBot實驗型機器人將會於Embedded World 2020中展示,其中有三種機器人平台,分別為以TurtleBot Waffle Pi和安提Jetson AGX Xavier-AX710平台組成的Surface(面)、TurtleBot Burger和安提Jetson TX2-AN310平台組成的Line(線)、以及TurtleBot Burger 和安提Jetson Nano-AN110平台組成的Dot(點),以緊湊的點、線、面羅織出全面且綿密的邊緣運算智慧部署。而在展覽上,將會有物流應用的概念展出,包含倉儲環境中的控制與管理、倉儲機器人、以及自走車等,歡迎親臨現場體驗、參觀。
0

安提國際新Jetson Nano載板助長智慧邊緣運算應用

隨著人工智慧的迅速發展,相關的AI應用已大量呈現在所有行業之中。藉此智慧遍地開花的結果,AI處理器已經站穩它在市場上的定位與不可或缺性。然而,為了滿足市場廣闊的需求,GPGPU和邊緣運算解決方案供應商安提國際(Aetina)提供多元化的人工智慧運算平台供相關應用開發人員選擇。 而在安提國際邊緣運算平台的亮點產品,是安提全新推出的Nvidia Jetson Nano載板AN110,將於2020嵌入式展覽(Embedded World 2020)展出。作為Jetson Nano模組的專用載板,AN110具有低功耗且強有力運算能力,加上其外形小巧的設計,堪足以成為當今AI應用上,有效於助長AIoT成熟、最適切的邊緣運算平台之一。 安提AN110載板是Nvidia Jetson Nano模組的專用載板,觸發模組所提供的472GFLOPS運算性能,只需耗費5W功耗(最大 10W),蘊含強大的人工智慧潛力。同時,作為Nvidia系列最小的智慧平台,安提的AN110只有87×67毫米,小巧的設計輕易適合於各種應用,適合部署於AI社群環境使用。此外,為符合當代邊緣設備的需求,安提AN110平台擁有豐富的I/O連接,分別為1x HDMI Type A、1x RJ-45 for GbE、2x USB3.2 Gen1 Type-A、5x GPIO和1x DC-in 12V。AN110 也支援1x 4K 或...
0

安提國際將於2020 Embedded World秀視覺GPGPU解決方案

在當今的AI運算的應用領域中,擁有一個高持久、可靠且良好優化加速的運算平台支援,是達成工作目的必要工具。GPGPU和邊緣運算解決方案供應商安提國際將在嵌入式展覽(Embedded World 2020)展示GPU應用的相關產品。安提國際旨在為相關垂直產業市場中的多個圖像應用,如醫療、遊戲、機器學習和AI推論設置一個穩定且易於利用的運算環境。 安提國際(Aetina)提供通用型顯示卡,能夠實踐每瓦特處理性能以及沉浸式的3D圖形繪製,得以在遊戲系統中吸引玩家的注意力。此外,安提國際的顯示卡具有3D與影像多螢幕顯示,優秀且領先的性能對於遊戲機的展現也至關重要。安提國際也提供全新的Nvidia RTX 2080TI和RTX Super系列,皆會在展會上展出。安提國際通用型顯示卡可以滿足並超越行業所需的特定功能或獨特要求,例如多螢幕顯示、精巧的外形、低功耗、雙滾珠軸承冷卻風扇或無風扇的使用、工業級元件用料及4K的精緻解析度。 此外,安提國際在GPGPU產品系列中,也提供嵌入式MXM圖形模組,並搭配其專屬開發套件。安提國際將會在展會中展出Nvidia Quadro MXM圖形模組,擁有卓越的圖形運算與高階的AI運算能力,是高性能、精巧尺寸、輕度重量和功率皆有所受限之嵌入式系統的理想解決方案。而安提國際的MXM主板MH110可用於評估用途,協助開發者縮短開發周期,加快其在視覺應用將產品落地、上市的時間。
0

友達砸37億收購凌華 強化AIoT布局

友達光電日前於董事會決議通過公開收購凌華科技5%到30%的股權,作為該公司價值轉型計畫的一環。透過此收購案,雙方希望藉此建立工商智慧物聯生態系(Industrial and Commercial AIoT Ecosystem)策略聯盟,於拓展智慧應用版圖的同時互補產業優勢,加速數位轉型。 友達日前宣布收購凌華,促進數位轉型。 友達董事長暨執行長彭双浪表示,面對5G時代屆臨,產業AI化速度將逐步加速,將可預見許多產業垂直場域陸續導入邊緣運算人工智慧方案(Edge AI Solutions)。該公司非常榮幸藉機會倚重凌華於工業電腦領域的經驗,其產品運算系統能力,加上友達作為人機介面的優質面板,相信本次收購將給予全球用戶即時完整的智慧物聯軟硬整合應用服務。 作為工業及商業應用的面板商,友達擁有覆蓋全球的工業及商業用戶群。近幾年為滿足用戶一站式購足需求,始積極推動價值延伸策略,期望逐步轉型為以面板為核心元件的智慧物聯方案商(AIoT Solution Provider)。至於凌華作為全球工業電腦商,在工業及商業應用的垂直場域,均具有邊緣運算(Edge Computing)相關產品技術與解決方案的競爭力;立基於其既有工業電腦基礎,凌華面對用戶對人工智慧應用的需求,提出可擴充的軟硬體平台整合方案。雙方本次的策略締結可望促成優勢互補,希望共同掌握多元領域用戶從自動化至智慧化的數位轉型需求。 藉由本次合作,雙方預計將可建構工商智慧物聯網生態系。 凌華董事長暨執行長劉鈞表示,該公司樂見雙方共組智慧物聯生態系。未來於智慧物聯的場域應用,凌華將提出對用戶更具策略意義的價值主張;該公司長期與友達合作,雙方於轉型策略的看法不謀而合。透過未來雙方建立更緊密的夥伴關係,不僅可具體實踐凌華於多元智慧場域的解決方案,並攜手深耕用戶關係。
0
- Advertisement -
- Advertisement -

最新文章

- Advertisement -

熱門文章

- Advertisement -

編輯推薦

- Advertisement -