- Advertisement -
首頁 標籤 邊緣運算

邊緣運算

- Advertisment -

從雲端走向終端 AI推升ASIC市占率持續攀升

人工智慧(AI)風潮席捲全球,而為了加速AI應用普及,並降低雲端運算工作負載,實現更多的創新應用,邊緣運算需求與日俱增,AI開始從「雲端」走向「終端」,也因而推升ASIC需求;根據市調機構Ovum預估,2018~2025年,ASIC的市占率將從11%大幅增加至48%。 根據Ovum調查報告指出,在2016年,雲端(包含企業、數據中心等)為深度學習晶片的主要營收領域,占了80%。不過,到了2025年,此一比例將會改變,轉變成邊緣(Edge)占了80%,而雲端的比例則降為20%。這邊所指的邊緣意指終端設備,且以消費性產品為中心(而非小型伺服器或是路由器),包括行動裝置(手機、平板)、頭戴式顯示器(HMD),如AR/VR/MR、智慧音箱、機器人、無人機、汽車、安全攝影鏡頭等。 Tractica/Ovum研究總監Aditya Kaul表示,現今大多數的AI處理器,如GPU,多用於雲端伺服器、資料中心,以在雲端上進行AI訓練和推論。不過,隨著隱私、安全性需求增加,加上為了降低成本、延遲及打破頻寬限制等因素,分散式AI隨之興起,越來越多AI邊緣應用案例出現。例如蘋果的A12仿生晶片,其具備新一代「神經網路引擎」,以即時機器學習技術,改變智慧手機的使用體驗。 Kaul指出,簡而言之,AI從雲端轉向邊緣是現在進行式,當然目前AI在邊緣裝置上多還是以推論為主,而非訓練。不過隨著AI創新應用增加,有越來越多晶片商嘗試提升終端裝置處理器的運算效能,為的就是不用再傳送資料至雲端進行資料運算、推理和訓練。也因此,各式的處理器紛紛問世,像是CPU、FPGA、GPU、ASIC、NPU或SoC Accelerator等。 其中,ASIC的市占率可望隨著邊緣運算的需求增加而明顯攀升,從2018年的11%增加至2025年的52%。Kaul進一步解釋,ASIC之所以受到青睞,原因在於新興的深度學習處理器架構多以圖形(Graph)或Tensorflow為基礎架構;且上述提到AI邊緣運算受限於功耗和運算效能,因此多以推論為主,而非訓練。然而,若假設到2021年時,終端裝置將導入大量AI晶片,所需要的便是能在同一個晶片上進行推理和訓練,可因應分散式運算且又具低功耗的IC,因此ASIC需求將持續上揚,實現更多AI邊緣應用案例。
0

PCIe/CCIX化敵為友 資料中心傳輸效率翻倍

受到產業轉型、智慧型終端裝置、雲端服務及物聯網(IoT)普及率增加影響,全球網路資料中心流量近年來一直保持高速成長。在2018年,更能看到許多國際大廠如火如荼規畫興建新廠房,此一趨勢帶動了伺服器周邊零組件需求大增,其中,高速傳輸介面的發展更是備受注目。 雲端/邊緣同時驅動 資料中心蓬勃發展中 近年來,各大網路業者皆投入大量資金在建設超大型資料中心(Hyperscale Data Center),市調機構IDC估計2015年~2020年期間,資料中心市場將以每年5~10%的速度擴張。 拓墣產業研究院表示,數據資料的重要性已帶動企業對於數位轉型的龐大需求,但大量數據卻為既有資訊系統架構帶來沉重負擔。從雲端儲存、傳輸到運算,全面翻新企業的營運思維,造就了雲端廠商在近幾年的亮眼成績,以亞馬遜(Amazon)、微軟(Microsoft)、谷哥(Google)、IBM、阿里雲表現最為突出。 然而,不僅是超大型資料中心的發展引人注目,5G、人工智慧(AI)、物聯網等新興技術受到重視,以及各種終端應用全面智慧化的趨勢,邊緣運算概念所牽涉到的小型資料中心市場同樣不容小覷。DRAMeXchange資深分析師劉家豪便指出,未來隨著資料中心建置的普及,以及2020年之後5G的落實,針對邊緣運算的微型伺服器應用(Micro Server)將會在未來3~5年顯著成長,帶動相關零組件與記憶體的使用量明顯增加。 PCIe Gen5 Base Spec測試規範將就位 PCI-SIG在2010年發布PCI Express(PCIe) Gen3版本,並在市場上應用多年後,在2017年才終於推出了PCIe Gen4版本;並且,預計將在2019年8月完成PCIe Gen4 1.0版本制定。與此同時,PCI-SIG已開始積極投入PCIe Gen5的規範制定,並預計在2019年完成Gen5 Base Spec測試規範,滿足晶片層的量測需求。 PCIe Gen3傳輸效率為8GTps,PCIe Gen4則提高到16GTps,能滿足大量資料的傳輸需求,將於2019年制定完成的PCIe Gen5則會將傳輸速率進一步拉升,到達32GTps。而帶動這波介面速率升級的關鍵驅動力,就是資料中心廣泛建置所帶來的高速傳輸需求。Cadence亞太區資深應用工程經理李志勇(圖1)認為,目前PCIe Gen4甫起步,要再過一段時間才會漸漸看到商用產品出現,設備的汰舊換新亦是一漫長的過程,因此短期之內在伺服器市場將會看到PCIe Gen3與Gen4規格並存。 圖1 Cadence亞太區資深應用工程經理李志勇認為,由於設備更新需要相當的時間,PCIe Gen3與Gen4規格並存將成為短期內的狀況。 PCIe Gen5晶片2021量產 在未來PCIe介面的進化過程將會比以往更為快速。賽靈思PCIe與儲存解決方案資深產品經理Rakesh Cheerla(圖2)認為,由於處理器、PCIe交換器、繪圖處理器、張量處理器、乙太網路(Ethernet)NIC網卡以及FPGA等各大產品供應商都將推出PCIe Gen4晶片,因此估計資料中心的各種高效能應用將於2019年到2020年快速轉移至PCIe...
0

從集中到分散的AIoT運算 邊緣運算優化深度學習網路

AI人工智慧的浪潮一波波襲來,帶動雲端儲存、大數據分析等新商機崛起,但隨著更大量、即時的資料吞吐量,傳統雲端架構已逐漸無法負荷如此龐大的運算需求。邊緣運算(Edge Computing)有助於降低傳統雲端架構的運算負荷、提升邊緣端的數據與資料處理能力,大幅改善運算效率以及數據應用。根據研究機構預估,2018~2022年全球邊緣運算相關市場規模的年複合成長率將超過30%,吸引許多廠商競相投入布局。 與雲端運算相較,邊緣運算更加無所不在,不僅應用領域廣泛,產業投資較小,也與台灣產業型態更加契合,邊緣運算將因為物聯網(IoT)蓬勃發展,扮演更明確、更高價值的角色,該技術可以處理複雜的工作,也可以負擔簡化的運算,端視它配置的運算資源和分析軟體,如果邊緣裝置無法立即處理,還是可以透過雲端來接手。本次活動邀請相關技術領域的研究單位與廠商擔任講師,剖析邊緣運算架構、專用加速硬體、產業發展趨勢與應用前景。 從集中到分散式的運算結構 物聯網發展與成長迅速,相關裝置更是高度成長,產業研究機構資策會MIC研究指出,全球具自主反應功能的IoT主動式裝置(Active Device)在2015年時共有129億個,其後一路成長至2020年將突破212億個,2025年時預計進一步成長至342億個。資策會MIC資深產業分析師兼專案經理施柏榮(圖1)說,以具備IoT功能來加以區分,預計2021年,具有IoT功能的主動式裝置已達50%,2025年預計達到62%,顯示全球有愈來愈多的裝置具備數據感測、資料蒐集、資料互聯的功能。 圖1 資策會MIC資深產業分析師兼專案經理施柏榮說,邊緣運算發展之下,AIoT裝置將具備數據感測、資料蒐集、資料互聯的功能。 再者,全球主動式IoT裝置數量2015年,約有28億個,2019年為IoT裝置數量首次超過全球人口總數的年份,2020年更將挑戰100億個大關,2025年則預計達到215億個,是2020年的兩倍之多(圖2)。施柏榮認為,全球人均IoT數量(全球平均每人所擁有的IoT裝置),2020年為1.3個、2025年將達2.69個,意味著當年全球每人將有近三個能夠蒐集環境數據的裝置或設備,與人類的日常生活更加密不可分。 圖2 全球人口與主動式IoT裝置數量發展趨勢 資料來源:資策會MIC整理(12/2018) 物聯網的發展將產生資料的洪流,數據的處理與使用成為未來幾年亟需解決的問題,施柏榮指出,終端設備所處的位置,將產生不同類型的數據使用情境。而邊緣人工智慧(Edge AI)是在物聯網邊緣位置上,執行機器學習推論(ML Inference)並處理來自終端的數據與資訊的運算服務,達到降低雲端負載、終端立即回應的效果。 邊緣運算的重點在調整過去雲端運算的集中式(Centralized)結構,轉變為以分散式(Distributed)運算為核心,賦予近終端的節點,也可以進行運算、分析、決策等功能,施柏榮強調,除了解決網路壅塞,資料處理延遲等問題,邊緣運算並非是要取代雲端運算的功能,而是重新定義、優化雲的架構。Edge AI的運作在Cloud、Edge、Thing之間皆產生非常緊密的交換與連繫,彈性化架構是運作的重點。 邊霧運算強化雲端彈性 若以技術發展的角度來觀察,邊際情境智慧(Edge Intelligence via Ambient Computing),定義上就是遠離雲端而靠近面對消費者的裝置那一端,須具備一定的運算與智慧產生能力,能就近處理感測所產生的資料。資策會物聯應用系統中心副主任王秉豐表示,既有雲端架構無法滿足物聯網離線處理、資料隱私、即時回應等需求,導入邊霧運算架構可解決雲端運算面臨的問題,增加使用彈性,解決不同系統間資源共享與再利用的需求。 邊霧運算的技術架構有幾個特色,包括:多樣性與異質性的挑戰,可以通過服務和設備的抽象層來解決;應用程序和資源管理緊密合作,提供複雜的互聯網服務,並自適應地分配邊緣/霧端資源;邊緣資源註冊、識別和控制介面,將是改善網路和服務可擴展性的方法。 而邊霧系統架構未來幾年的發展將遭遇挑戰,王秉豐說明,包括可擴展性(Scalability)、複雜的互連網(Complex Inter-networking)、動態和適應(Dynamics and Adaptation)、多樣性與異構性(Diversity and Heterogeneity)等,邊霧運算將建構更彈性化的IaaS基礎架構,改變既有數據傳輸、儲存模式甚至網路運算計價模式。 邊緣運算應用多樣廣泛 而從應用的角度來觀察,AI將深入各行各業、各個角落,根據產業研究機構資策會MIC研究指出,AI將成為基盤性技術,全球人工智慧的科技支出,2016年約為4.5億美元,但預計於2020年達到192.8億美元、2021年更將突破達到289.6億美元,顯示全球公私領域皆將人工智慧視為科技研發投入的重點,並將逐漸導入應用以強化自身競爭力。 資策會董一志提到,AI應用無遠弗屆,穿戴式裝置就是典型的邊緣裝置,智慧手環與手表的功能有:健身計步、睡眠偵測、心律測量、精準定位等,隨著消費者需求的成長,最新的Apple Watch已經導入跌倒偵測,類似的個人健康與保健功能將持續出現在各式智慧穿戴裝置,並結合更多AI邊緣運算的技術,達成隱私、即時與智慧化的需求。 邊緣運算專用晶片引發卡位戰 AI的熱潮在過去幾年帶動雲端運算的高度成長,同時也帶動資料中心用的記憶體、處理器(High Performance Computing)、高頻寬傳輸介面等的發展,而方興未艾的邊緣運算,也促使晶片廠商大舉投入相關的專用加速硬體的開發,安馳科技專案副理謝秉志(圖3)表示,嵌入式的機器學習(Machine Learning)解決方案有幾個特性,透過軟/硬體可配置特性因應快速變化的深度學習網路,而且可以針對高效能與低功耗彈性調整,支援深度學習網路任意精度的調整,並以即時運算創造低延遲,在不同的應用上可以彈性的進行差異化。 圖3 安馳科技專案副理謝秉志指出,使用深度壓縮(Deep Compression)工具可以有效提升深度學習網路的效率,改善效能。 可編程元件一向以彈性化的配置見長,在AI應用上,依然延續這類特點,而為了節省運算資源,可以支援最小1bit的資料寬度INT 1運算,跟32位元的運算比起來,可以大幅節省硬體資源。而在深度學習網路中,剪枝(Pruning)也成為邊緣運算的發展重點,透過演算法簡化網路的複雜度,將影響學習準確性較小的節點刪除,讓深度學習網路模型可以被裁剪為結構精簡的模型,且網路修剪前與修剪後維持相似效率。 使用深度壓縮(Deep Compression)工具可以有效提升深度學習網路的效率,謝秉志進一步說明,深度學習網路整體效能將獲得改善,大致說來,可將網路節點縮減成1/3,資料傳輸的頻寬需求剩下1/10,網路模型規模剩下1/10,運算效能提升3倍。 而目前在AI領域領先的GPU大廠NVIDIA,同樣看好邊緣運算的發展,也提出轉移式學習(Transfer Learning)工具,該公司技術行銷經理蘇家興(圖4)指出,這是一個將整體網路優化的工具,流程上是先提出已訓練過的模型,加入新的資料,透過轉移式學習的流程,包括剪枝、場景改編(Scene Adaptation)、重新編碼,最後可以產生一個高精度符合應用場景的模型。網路剪枝不是只有縮減模型的複雜度,而是優化整個深度學習網路,經過轉移式學習流程後,模型可縮小6.5倍,但網路效率可以提升2倍。 圖4 NVIDIA技術行銷經理蘇家興說明,網路剪枝不是只有縮減模型的複雜度,而是優化整個深度學習網路,縮小模型並提升網路效率。 深度學習優化有撇步 目前網路上開放共享的深度學習網路模型很多,如何利用別人已經訓練好的模型來達成自己的目標,逢甲大學電子工程系副教授陳冠宏(圖5)建議,可以先看這些模型跟自己的訓練目標有沒有一致,如果差距不大就可以透過剪枝、截斷(Truncation)、權重分類(Quantization)這些方法,加入自身的情境,讓這些網路經過壓縮之後,可以更加符合自身的應用情境,節省訓練的步驟。若是這些訓練好的模型分類與應用不符,則深度學習網路模型就需要重新訓練。 圖5 逢甲大學電子工程系副教授陳冠宏建議,透過剪枝、截斷(Truncation)、權重分類(Quantization)可以讓AI訓練更有效率。 AI的訓練與推論耗費許多運算資源,因此將AI放在邊緣如何提升效能,且不犧牲太多準確率,成為邊緣運算的發展重心,陳冠宏認為,模型壓縮、高平行性(High...
0

智慧監控從雲走到端 IP/晶片/設備方案競出籠

監控分析市場已出現了明顯的轉變,過往監控的模式較為「被動」,也就是單純錄影,發生事件時再去調錄影帶。然而,現在監控的重點在於「即時反應」,也就是發現異常時可立即發布警示,進而省下人力通知或是事後影像提取檢視的時間。 也因此,監控系統不斷朝AI智慧化發展,增添如人臉識別、車牌辨識等功能;與此同時,為了能有迅速的反應時間及工作效率,智慧監控也逐漸從「雲」走到「端」。 換言之,過往AI功能多在雲端進行,然而,對於監控產業而言,最大的重點便是「反應速度要快」,事情發生時能立刻警示;而將資料送到雲端進行分析、運算後再送到終端裝置,即便時間再快,多少還是會有所延遲。倘若資料量太大,網路傳輸速度和頻寬無法支援,甚至資料還會停滯在雲端而無法傳輸。也因此,智慧監控便開始從雲端轉向終端裝置。 總結來說,為了加快監控裝置反應速度以及提升效率,開始有許多AI功能從雲端移至終端裝置;而要在終端裝置進行邊緣運算,實現更多AI智慧應用,監控裝置的軟硬體設計勢將有所提升,為此,監控元件/設備供應商也紛紛推出新一代解決方案。 滿足視訊/音訊監控 完善IP方案不可少 Arm市場行銷高級總監Rhonda Dirvin表示,現今擁有音訊或視訊輸入的裝置數量大幅增加,並可用於各種監控功能,例如行車紀錄器、盲點警示、家庭網路攝影機、防盜系統、門鈴、智慧照明、防盜警報等。 Rhonda Dirvin指出,由於現在已能在終端進行推論功能,因此製造商將特別關注智慧家庭裝置。智慧裝置能具有視覺處理功能以監控屋內,辨識家庭成員,並利用視訊在所有物件中提供安全或是與人類的連結。 然而,視覺辨識最大的挑戰之一是大量的使用情境和AI效能需求。從偵測和提取人群中的數百張面孔到辨識停車場中的人臉或車牌,這些用途和效能需求大不相同。除此之外,有各式各樣不同的AI網路,用於解決同樣的問題,因此,完整的IP組合(而非單一解決方案便適用所有情境)十分重要。為此,Arm備有相關CPU、GPU、專用的NPU,以及可擴展的Arm NN平台,協助設備製造商加速進入新的AI監控世界,並更進一步的提高AI和訊號處理能力。 另一方面,Rhonda Dirvin提到,除了視覺,音訊(例如關鍵字萃取或振動感測)也是推動先進監測技術需求的關鍵因素。例如,關鍵字萃取(Keyword Spotting)在2018年受到廣泛討論,而到2019年,簡單的關鍵字萃取將升級到語音辨識。例如家中的智慧音箱,可以辨識誰在提供語音命令,不論是使用者本身或是家人,身份辨識有助於提高智慧家庭裝置的安全性和隱私。 然而,語音辨識的最大挑戰便在於要如何在最低功耗的情況下實現「Always-on」功能。對此,Arm具備多款處理器、CMSIS-DSP及CMSIS-NN軟體核心中DSP擴充套件的超低功耗感測器和運算引擎,可啟動Always-on的環境感測,包含語音、振動、視訊。 Rhonda Dirvin指出,Arm擁有各式不同運算規模優勢,從利用CMSIS-NN軟體函式庫提高效率的Cortex-M處理器;到具有ML擴展能力的Cortex-A處理器,以及ML處理器等,以便支援所有的功耗選項。 兼具低成本/低功耗 NPU成市場新選擇 智慧監控商機起,除了Arm這傳統IP大廠積極備戰之外,新創業者也磨刀霍霍。瞄準終端AI應用需求,耐能智慧(Kneron)於近期發布新一代終端AI處理器系列NPU IP,其分為超低功耗版KDP 320、標準版KDP 520,以及高效能版KDP 720;整體運算效能相較上一代產品提升3倍,運算能力(Peak Throughput)最高可達5.8 TOPS(每秒萬億次運算)。 據悉,新系列產品特色包括交錯式運算架構,讓神經網路架構中主要的卷積(Convolution)與池化(Pooling)運算可平行進行,提升整體運算效率;深度壓縮技術,可執行模型和運行中的資料和參數(Coefficient)進行壓縮,減少記憶體使用;動態儲存資源配置,讓共享記憶體(Shared Memory)和運作記憶體(Operating Memory)之間可以進行更有效的資源配置,提升儲存資源利用率且不影響運算效能;以及支援更廣泛的CNN模型。 耐能智慧產品行銷暨應用協理史亞倫(圖1)表示,智慧監控從雲端走向終端的趨勢十分明確,然而,要如何打造具有高運算能力可實施AI應用,卻又符合業者功耗與成本考量的監控裝置,是一大挑戰。 圖1 耐能智慧產品行銷暨應用協理史亞倫表示,智慧監控開始從雲端走向終端,裝置中的處理器除須有高效能外,同時也須符合功耗和成本考量。 史亞倫指出,監控應用十分多元,不論是零售、交通、商業建築、安防等都會用到,且在各個領域中又細分無數個應用場景;有的可能需要超精準的人臉辨識,而有的可能只須進行簡單的車牌識別。因此,並非每個應用場景都須採用頂級、具超高運算能力的CPU、GPU或是DSP,否則會不符成本需求。 史亞倫進一步說明,因此,該公司便決定打造低功耗的NPU處理器,一來是NPU處理器十分適合AI神經網路運算,有著更多的設計更新彈性;二來是目前監控裝置較少採用NPU晶片,而有了低功耗、成本相對較低,同時還能進行邊緣AI應用的NPU晶片後,可讓市場有更多選擇,滿足對成本有較多考量的監控設備商及終端業者。 因應邊緣運算 SoC效能節節高升 另一方面,不僅IP業者,晶片商也趁勢推出解決方案搶占市場商機。索思未來科技(Socionext)影像處理事業部應用工程科經理陳哲鋒表示,為紓緩雲端運算工作量,降低資料延遲,使監控反應時間更快、效率更高,邊緣運算開始走進各種監控裝置當中,晶片也因而須具備更強大的運算能力,而這也是影像元件供應商於產品上的重點設計方向。 為此,索思未來科技也備有相關的解決方案,像是SC2002/SC2000影像處理器。SC2002配備ARM Cortex-A9 Dual 600MHz CPU以及智慧化的高效數位訊號處理器(DSP);並且搭載三維降噪(3DNR)和寬動態範圍(WDR)功能,可以在低光照條件下捕捉高品質影像,同時在一般運作環境下僅需1.5瓦的超低功耗,適用於各種影像和監控安全攝影機系統。 至於SC2000系列,同樣配置經優化過的DSP,並透過Socionext獨家的Milbeaut影像處理算法,以及影像穩定技術,不須使用機械平衡環及滾動快門校正,可滿足電腦視覺應用。 陳哲鋒進一步說明,提升運算效能,是未來不變的目標。以該公司為例,除該公司本身的SoC就具備高效能可實現臉部辨識、物體偵測等智慧監控應用外,若要達到更高的運算效能,該公司也會結合加速器(如ASIC),以實現更多的AI應用。另外,該公司也計畫於2019年新推出的影像處理器當中,直接結合AI功能(如深度學習、機器學習等)。當然,除了高效能之外,也須兼具低功耗,而該公司的晶片經過測試,在4K 60fps的條件下,與同級產品比較可降低30%的功耗。 實現智慧監控 演算法舉足輕重 因應AI監控風潮,不僅元件/IP業者積極備陣迎戰,監控業者也致力打造更「智慧化」的產品。例如晶睿科技便自行開發深度學習演算法,且將其導入監控產品之中,像是360度智慧魚眼攝影機,使其可分析上千種場景,辨別人類共同特徵,進而衍伸出人群偵測的功能。又或是打造3D人流計數立體攝影機,透過三維定位的景深技術以身高辨別成人與小孩,進而得知哪些人具有消費能力,以及哪個入口處人流最多等具有高度商業價值的資訊。 晶睿科技品牌事業研發副總經理馬仕毅指出,未來廣域監控(如人群、交通、零售等)的需求勢將明顯增加,如何在終端監控裝置上進行運算,降低資料流量,進一步做出即時的判斷將是日後主要發展目標,也因此,該公司致力打造更「聰明」的產品。 馬仕毅進一步說明,提升硬體規格,選用更強大的運算處理器,這是監控設備將來必然的發展方向。然而,AI應用的重點在於「數據分析」,也就是要能將所收集到的數值化為有效的資訊;要如何處理、分析這些數據,是實現智慧監控的重要關鍵。也因此,自行開發演算法可說勢在必行,這也是該公司進行嵌入式系統深度學習網路架構與引擎開發、AI監控系統技術開發(偵測+辨識人/車)以及AI廣域監控系統技術開發(魚眼+多鏡頭)的主要因素。 另一方面,隨著AI應用逐漸興起,相關資安疑慮也跟著浮現。馬仕毅表示,現在監控設備中的處理器(SoC、CPU等)效能越來越高,若被駭客入侵,除了被竊取資料外,甚至有可能成為另一個攻擊節點;因此,如何提高監控設備的安全防護等級,也是未來不容忽視的設計重點。 為此,晶睿與趨勢科技合作,打造「內外兼顧,軟硬防護」安控攝影機解決方案,讓網路攝影機具備預防、隔離、再控制三大功能,杜絕潛在資安危機。當偵測到相關威脅時,通訊攝影機會自動啟動預防功能,避免惡意程式的入侵。而針對已被入侵的攝影機,也會啟動自我隔離機制進行防禦;一旦偵測到惡意程式的入侵,系統將可即時透過雲端更新病毒碼,快速隔離並預防病毒的擴散,將惡意程式的傷害控制到最低,確保其它在同樣架構下的網路攝影機安全。 智慧監控風潮起 顯示/感測需求與時俱進 另一方面,智慧監控風潮除了推動處理器效能持續攀升外,對於顯示器、感測器的要求也有著明顯的轉變。台灣索尼課長葉沛青表示,目前的市場對於720P或是4K影像皆有一定的需求,不過,4K影像應用從2018年開始有逐漸加溫的趨勢。 上敦企業副總經理林光遠則指出,據資料顯示,全球安防行業超高清(4百萬畫素以上)的市場到2018年增長為前期的五倍左右,主因在於智慧分析及高畫質的即時監控對於影像素材的要求更嚴格,希望能更清晰。而4K解析度是1080P的四倍,能夠看出更多的細節與物件特徵,清晰地呈現監控現場原貌,同時能快速實現對於車牌辨識、人臉辨識及行為偵測等的智慧分析應用。 葉沛青進一步說明,2019年從現有Full HD系統升級至4K的數量相信會更進一步的提高,因為如上所述,監控設備開始結合智慧辨識系統的分析,其所要求的影像都會相對提高,驅使企業用戶開始考量監視顯示器的畫質是否需要提升。比如說,4K攝影機能夠處理大場景的監控問題,只要架設1台4K攝影機,就可利用廣角特性涵蓋某個主要的轉運站,藉由細膩的解析度看清行人的面貌與更多圖像細節,像是服飾細節、車牌、人臉等,這些細節於安全監視的實際跟判定應用中極為重要。   因應此一趨勢,目前Sony的攝影機發展以著重於4K以及全天候監控攝影機為主,採用End to End 4K方案增加監控的效率性,當然,未來也會導入智慧分析功能。 至於在感測器方面,艾邁斯半導體(ams)台灣區總經理李定翰(圖2)則指出,監控應用愈來愈廣泛,像是人臉辨識、步態監控等;而為了使後端演算法分析更精確,並降低處理時間與功耗,感測器效能也須跟著提升。 圖2 艾邁斯半導體(ams)台灣區總經理李定翰指出,因應智慧監控,感測器效能也需提升,才能使演算法分析更精確。 李定翰說明,監控的目標眾多,並不只是人而已,還有器材設備、動物,或是快速移動的車輛等;另外,不論監控目標為何,最終都會遇到一個實際的物理現象,也就是在夜晚的時候要如何確保監控品質,鏡頭在晚上如何能拍的清晰,這些對於影像感測器而言,都是挑戰。為此,ams便於CMOS影像感測器中導入全局式快門(Global...
0

AI驅動資料中心/邊緣運算需求 晶片低功耗成大勢所趨

隨著人工智慧(AI)、物聯網等技術的發展,使得資料中心的需求也逐漸擴大;其中,依然以超大規模的雲端服務供應商為市場主導。另外,邊緣運算的需求也持續延燒中。以上二趨勢都將帶動低功耗晶片需求,此設計方向也是所有應用場域的大勢所趨。 其中,儘管私有資料中心依然是一個相當重要的市場,但是最大的零組件需求依然是來自全球超大規模雲端的供應商。這樣的市場環境將對於未來的產品設計產生重大的影響,因為未來的晶片設計將會以這些大規模的採購客戶的需求為主要的方向。市場調研機構Ovum分析師 Roy Illsley分析,像這樣的市場方向在短期之內將維持不變,但為了確保互操作性(Interoperability),本地端與雲端之間的連線將成為關鍵,這之間的產品組合也將反應出目前的市場變化。 值得一提的是,Illsley提到,由於中美貿易戰以及英國脫歐等國際政治情勢變化,目前的資料中心相關供應鏈正受到極大的壓力。中美貿易戰以及英國脫歐不僅是對於股票市場或是製造廠設立地點的改變,也將使得現有的供應鏈不如以往那樣可靠。 由於人工智慧的發展也使得邊緣運算的需求逐漸上升,此趨勢也帶動了低功耗晶片的需求成長。Illsley認為,邊緣運算熱潮將持續延燒,並且首先將落實在基地台以及感測器應用上。當然,晶片在各種不同的設備上應用方式皆有所不同,但是低功耗都是非常重要的考量要素。目前市場已能看見許多針對人工智慧與機器學習需求而設計的新型晶片,如Google所推出的TPU,就是專為高效能運算(HPC)需求設計晶片的典型案例。其中,在推廣時最大的挑戰在於建立晶片運作的相關環境,使得晶片能夠發揮最大效能。
0

AI帶動雲端/儲存市場 ASIC晶片需求再攀高峰

人工智慧(AI)的加持進一步推動雲端資料中心、儲存的發展,更刺激大數據資料量爆炸成長。為了改善資料量不斷增加的問題,雲端與儲存業者,如Google、亞馬遜(Amazon)、百度與阿里巴巴,皆希望能藉由客製化ASIC晶片的導入,提升整體伺服器雲端運算效能。 資策會MIC資深產業分析師兼組長葉貞秀表示,雖然ASIC需求在2018年年初就已嶄露頭角,但當時主要為開發比特幣的礦機廠商(如比特大陸),為了提供終端需求而開發ASIC晶片;發展至今,ASIC客製化的需求已慢慢在雲端伺服器產業萌芽起飛,這也歸功於廠商開始對於AI演算法與AI能提供的服務發展更加明確。整體而言,2018年年初較多是終端裝置邊緣運算(Edge Computing)需求的ASIC,而現在這波ASIC客製化潮流正一路延燒到雲端運算領域。 事實上,開發一顆新的晶片花費相當昂貴,16~7奈米製程晶片,光是光罩費用,就高達上億元新台幣。因此,葉貞秀認為,搶攻ASIC客製化市場的廠商,必須要具備多元化IP資源,並對新興製程及晶圓級封裝技術有相當程度的了解。若廠商可以在各應用領域都有投入IP,將有利於爭取到更多客戶訂單,同時也可以降低開發成本,進而取得競爭優勢地位;此外,製程熟悉度將會影響到其提供服務的多樣性。 雖然晶片商可以與IP廠商合作,授權IP即能具備開發ASIC客製化晶片。但若晶片商本身擁有高速IP發展經驗、編解碼演算法IP,就毋須向其他廠商進行採購動作,對於降低晶片成本、加速ASIC落地將有長足幫助;再者,由於晶片商擁有自己的IP,後續與其他IP整合過程所遇的工程問題,也得以自行解決,對於開發商服務信任性也就油然而生。 過去在有ASIC需求的趨勢下面,台灣有一群IC設計服務廠商(如創意、智原),幫助一些有特殊規格需求的車用、AI雲端運算與儲存等領域廠商,提供少量多樣的客製化晶片,協助他們蒐集晶片所需的晶片、聯絡半導體製程與價格規畫等問題。 藉由這樣全新的商業模式導入,葉貞秀分析,台灣IC設計服務廠商收益正逐年攀升,可看出每年營收都有10%穩定成長。同時,在雲端、儲存與AI演算法新創公司對於AI晶片的需求下,亦可看到傳統IC設計廠商,如聯發科、聯陽科技,亦以過去累積的底層IP做為發展ASIC服務的基礎,搭配先進製程開發經驗提供服務,甚至有些廠商開始成立專職ASIC部門,積極搶攻AI晶片市場大餅。 如上述所說,新晶片的開發需要耗費相當的費用。因此IC設計廠商,勢必需要降低成本,找尋新的發展機會,可看到已有廠商透過SiP模組化設計,增加資料傳輸頻率,並整合感測器、邏輯等不同製程型態晶片,讓IC提升效能,同時又滿足物聯網應用多樣化特性。 隨著整個產業晶片端客戶應用型態多樣化、多元化需求下,台灣整個半導體產業,在水平分工嚴密合作下,在ASIC開發需求下,占有一個不錯的優勢,而資策會MIC也看到產業開始朝這方向發展。
0

精進SNR/相位一致性/AOP MEMS麥克風聽聲辨位更有感

語音助理已然躍居智慧家庭關鍵應用。根據IDC研究指出,包括亞馬遜Echo和Google Home等智慧喇叭,在所有智慧家庭裝置當中,將會是成長速度最快的類別;預估,2022年智慧喇叭市場值將可達174.31億美元,從2017年至2022年的年平均複合成長率達32%。而隨著智慧型裝置持續進化,語音控制的發展將可使智慧生活更貼近人性,MEMS麥克風的重要性也與日俱增,MEMS麥克風供應商因而加速提升其性能。 SNR/相位一致性為麥克風關鍵參數 鑫創科技市場行銷二處技術經理曾建統(圖1)表示,要提升麥克風性能,主要目標便是提高訊號雜訊比(SNR),以及提高單體間相位一致性。 圖1 鑫創科技市場行銷二處技術經理曾建統表示,提升麥克風效能,SNR和相位一致性是兩大關鍵參數。 由於麥克風為聲波轉電訊號的感測器,於轉換過程中會有時間上的延遲;若每個麥克風的時間延遲一致性越高,而非有些麥克風延遲大,有些麥克風延遲小,對於聲音來源的判斷準確度就會更高,這也就是所謂的相位一致性。 換言之,相位一致性是能保證遠距收音的指標特性,可讓指向性收音的波束成形演算法計算誤差降低,若要使搭載多麥克風的裝置能準確判斷聲音來源,便須設法將裝置內麥克風的訊號轉換延遲性趨於一致。 除了相位一致性外,提高SNR也是強化麥克風性能的關鍵指標之一。曾建統指出,麥克風本身存在著所謂的「底噪」,而當收進來的聲音小於這個底噪時,就會隱藏在底噪中無法聽到;而提高SNR,便是為了降低底噪的干擾。 曾建統說明,底噪來源分為兩種,一種是電訊號(電路訊號干擾),這須靠半導體製程和電路設計加以克服;另一種則是熱擾動。由於麥克風的震膜相當敏感,接收到很輕的聲壓就會產生震動(確保收音靈敏性),卻也因此容易受到空氣中的粒子隨意碰撞而產生震動,因而產生雜訊,這也就是所謂的熱擾動。而要克服熱擾動,便須改善麥克風震膜的結構設計,使其仍可符合聲音系數,收到很輕的聲壓,卻又不會因熱擾動的影響而過度震動產生雜訊。 綜上所述,提高SNR與提高單體間相位一致性目的均是為了提高語音辨識正確率,而相位一致性仍是能保證遠距收音的指標特性,再來是SNR。兩者功用不同,相位一致性可讓指向性收音的波束成形演算法計算誤差降低,提高系統SNR;至於提升單體SNR也會有效,但麥克風仍會收到周圍環境的噪音,所以相較之下,相位一致性對於麥克風收音的實際影響較高。 雙背板設計展妙用 AOP參數更上層樓 英飛凌(Infineon)大中華區行銷經理鍾至仁表示(圖2),毫無疑問的,MEMS麥克風的設計重點在於追求更高的SNR。聲壓位準隨著距離而下降,以智慧音箱為例,當在近距離下指令給智慧裝置時,聲壓約有55dB,當距離拉長至2~5m時,聲壓約降至45dB, 距離大於5m時,僅剩下25~30dB,而25dB已是定義中的Whispered Voice。換句話說,隨著距離變遠,音量亦呈現衰減,因此如何避免距離和音量衰減因素影響收音成效和準確度的問題,提升麥克風靈敏度遂成為主要設計架構重點,也是未來麥克風的發展趨勢。 圖2 英飛凌(Infineon)大中華區行銷經理鍾至仁指出,聲學過載點也是麥克風重要的設計參數之一,為此,該公司採用雙背板設計,可最大幅度減少失真。 不過,為提高SNR,從物理特性上來說麥克風的體積也需要跟著變大(薄膜振盪空間需求變大),然而現今有越來越多的小型化設備也需求高SNR品質,因此如何在追求高SNR時,同時滿足這些小型化裝置體積的需求,將是未來的主要挑戰。 然而,除了SNR外,聲學過載點(AOP)也是麥克風重要的設計參數之一。對此,鐘至仁指出,此參數決定麥克風能夠偵測出的最高訊號位準。舉例來說,在演唱會現場的聲壓可達128dB,如果以目前市面上通用型(未達128dB)的手機麥克風在現場錄音,就會因為超過其AOP而產生失真,無法擷取完整音訊,產生破音;但若是採用高動態範圍的麥克風,甚至在搖滾演唱會的第一排,都能夠錄下高音質的聲音。 也因此,繼SNR之外,提高AOP也是MEMS麥克風供應商致力發展的方向之一;不過,要提升AOP,還須克服當處理較大聲壓位準時,薄膜產生大程度震動,在薄膜移動至極限時造成失真的挑戰。為此,該公司便採用雙背板(Dual back-plate)MEMS結構,將薄膜嵌入在兩個背板之間,成為對稱式結構,可最大幅度減少失真。雙背板裝置也更為強固,可對抗風聲問題。 鐘至仁說明,由於AOP較高的單背板(Single back-plate)裝置製造商一般使用濾波器消除低頻風聲,會對音訊品質造成影響;同時濾波器也會移除低音,這在錄製音樂時會產生影響,畢竟低音是一切重點所在。而雙背板設計能獲得更佳的高頻抗擾性,實現更出色的音訊訊號處理,並將10%總諧波失真(THD)的聲學過載點提升到130dB聲壓,產生更佳的訊號品質。如此一來可讓使用者從兩倍遠的距離說出語音指令,但麥克風仍截取到同質的音訊。 邊緣運算興起 智慧麥克風蓄勢待發 另一方面,麥克風於設計上除須考量SNR、相位一致性及AOP之外,隨著各式語音創新應用服務興起,加上日漸增加的資料處理需求,MEMS麥克風的設計,也開始導入邊緣運算。 為此,樓式電子(Knowles)不久前所推出的新一代智慧麥克風「IA-610」便是結合邊緣運算設計。該產品將高性能SiSonic MEMS技術與先進DSP整合到單顆微型封裝中,使得原始設備製造商(OEM)和第三方軟體開發人員可以創建和制訂更先進的功能,並簡化了音頻設計,大幅降低系統整體成本;且該產品還可實現語音命令喚醒、空間錄音及聲學事件探測等功能,如玻璃破碎或嬰兒啼哭等。 另外,該產品還是首款使用MIPI SoundWire介面的嵌入式元件,因而簡化整合設計過程,降低設計複雜性,並降低成本、pin腳數和功耗;並支援主要的音頻和數據介面,如PDM、I2S、SDW、UART以及I2C等,且包含一款低功率聲音探測器(LPSD),以及一款包含聲學活動探測技術的音頻處理演算法。 樓式電子高級產品管理總監王宇飛表示,語音應用將越來越廣泛,未來將不僅限於智慧音箱,諸如電視機、遙控器等電子產品都有可能添加語音功能。SNR和AOP依舊是提升單顆麥克風性能的要素,但在應用逐漸擴展和資料持續增加的情況下,麥克風也進入了「邊緣運算」的世代,資料處理從雲端慢慢轉至裝置端;再加上某些裝置是屬於近場應用(如電視遙控器、手機),須具備常時開啟功能(Always-on),因此也須有低功耗、高可靠度等特性,為此該公司便將MEMS麥克風結合DSP,提升整體效能。 另一方面,除了IA-610外,樓式也備有新一代音訊處理器平台「IA8508」,以提升多麥克風遠場應用裝置(如數位語音助理、智慧喇叭或是電視等家電)語音辨識率和處理效能。 樓式電子中國區董事總經理陸文杰指出,音頻處理(如SNR、AOP)是MEMS麥克風一直以來的發展重點,然而,隨著語音助理需求增加,服務也越來越多元化,使得多麥克風的遠場應用,也成了未來值得關注的事情之一。且如上所述,現今的資料運算慢慢從雲端轉至裝置端,也因此,需要一個更高效能的平台因應資料處理需求。 新款音訊處理器平台特色包括:支援多達八個麥克風的陣列,並配有四個異構核心,利用其5.7MB的記憶體可同時執行高效能演算法;具優化的單樣本處理器(SSP)核心,以確保低延遲;具有低功耗核心,可以同時監聽各種關鍵短語;以及經優化的指令集,可使複雜的音訊處理和機器學習執行更有效率等。 麥克風市場競爭烈 找出差異化是關鍵 綜上所述,各大MEMS麥克風供應商皆致力提升MEMS麥克風效能,而隨著麥克風需求增加,市場競爭也越來越激烈,如何為MEMS麥克風找出更佳的「賣點」,是供應商的一大挑戰。意法半導體(ST)便採用SiP封裝的方式,將麥克風與其他感測器相整合,除了因應更多創新應用之外,還可降低終端產品業者的開發時間和複雜度。 意法半導體亞太區產品行銷經理陳建成(圖3)指出,提高SNR、AOP和相位一致性等參數是MEMS麥克風不變的發展趨勢,而在各家業者技術和產品規格相差無幾的情況下,如何找出新的「賣點」,是供應商須不停思考的事情。 圖3 意法半導體亞太區產品行銷經理陳建成指出,與其他感測器相整合,可讓MEMS麥克風更有賣點,並簡化終端產品設計複雜度。 陳建成進一步說明,以遙控器為例,為了提升消費者使用體驗,遙控器上面可能不僅有語音功能,可能還增添了體感功能,讓消費者揮動雙手也能操控(例如換頻道、遊戲互動等)。而要達到上述功能,遙控器上不只需有MEMS麥克風,還需要有加速度計;而ST的優勢便在於有完整的MEMS感測器產品線,如麥克風、加速度計,或是溫度/環境感測器等皆涵蓋其中,因此可採用SiP封裝的方式,整合麥克風與加速度計,進而減低終端產品業者的商品開發時間與複雜度。 陳建成表示,原本用SiP封裝整合MEMS麥克風與其他感測器多是用於工業市場(測機台震動頻率和噪音等),但隨著語音控制在大眾消費市場快速興起,從原本的手機、電腦慢慢擴散到其他裝置,如電視、喇叭等,且隨著各種消費裝置上的感測器愈來愈多的情況下,便逐漸將此一作法移至消費性產品,不僅簡化終端產品的設計難度,也藉此在競爭激烈的MEMS麥克風市場中找出差異化的優勢。
0

邊緣/5G帶動下一波DRAM成長 2020年後成資料中心發展主軸

伺服器是目前僅次於智慧型手機的DRAM重要產能出海口。儘管目前僅居第二,然而未來由於人工智慧、邊緣運算與5G的需求崛起,伺服器的DRAM需求將巨量上升,前景相當可觀。 DRAMeXchange研究經理黃郁璇預測,在2020~2021年,行動裝置的DRAM消耗量還是會居於世界第一,大部分的DRAM產能還是會到行動裝置上。然而,黃郁璇認為,到了2021年後,由於伺服器的應用更寬廣,容量又無上限,因此有可能會取代行動裝置在眾原廠心目中的地位。 DRAMeXchange資深分析師劉家豪進一步指出,現階段產業普遍專注於雲端到端點(Cloud to Device)的連線,此模式將會隨著使用量的增加而造成延遲。然而,如自駕車、智慧醫療、工業物聯網的應用實行上,對於延遲的容忍度較低,必須藉由未來5G落實之後,透過5G伺服器與閘道器(Gateway)的協同處理,邊緣運算才能夠解決此延遲情境。資料中心的落實成為近年DRAM需求的主要推手,占DRAM市場全年三成以上的消耗量。 在倚賴雲端架構提供服務的基礎上,終端被賦予的運算能力相對薄弱,多是藉由雲端來獲取運算與存儲資源。然而,未來5G商轉後將賦予資料中心活化的因子,帶動微型伺服器(Micro Server Node)與邊際運算成長,並將成為2020年後的產業發展主軸,以實現物聯網與車聯網等應用場景。由2017年開始,北美兩大電信營運商AT&T與Verizon已陸續開始在投入5G伺服器的配套措施,這也是台灣與中國的ODM、OEM廠商在未來需要關注的市場重點。
0

AI將為產業帶來全面性的變革與成長

AI人工智慧不僅將顛覆人們未來的生活,也將廣泛影響各行各業,科技創新影響無遠弗屆,AI運用大量資料、演算法以及高速運算能力,加乘智慧系統使其展現更快的學習能力、更準確的預測能力、以及更高的辨識率,將改變既有應用生態產生新應用、新產品、新體驗。 首先,邊緣運算正興起。工研院IEK預估2018年有近四成企業規劃在終端處理資料,2020年有75%資料,幾乎都會在終端來完成處理。第二趨勢是AI晶片未來五年市場高度成長,預計2020年商機達158億美元,從2017~2020年均複合成長率為63.5%。第三個趨勢是安全隱私保護愈趨重視。 根據工研院IEK的研究顯示,廣告行銷業將大量採用AI技術,包括網路服務與社群媒體,為AI應用最大的市場區隔,2015~2020年CAGR為61.8%,2024年產業規模達29億5,000萬美元;投資業2024年產業規模達24億9500萬美元,2015~2020年CAGR達61.1%;金融服務業則以70.5%的CAGR拿下最具潛力應用;而自動駕駛與晶片業產業規模也有3億8000萬美元,CAGR達41.3%。  
0
- Advertisement -
- Advertisement -

最新文章

- Advertisement -

熱門文章

- Advertisement -

編輯推薦

- Advertisement -