英特爾
- Advertisment -
搶攻AIoT商機 邊緣運算模組大舉現身
AI走出資料中心 產業應用價值浮現
AI在本次物聯網共創峰會中，無疑是最熱門的議題之一，從工業製造到零售，再到醫療、能源產業，每個主題論壇幾乎都有機器學習(Machine Learning)、神經網路(Neural Network, NN)這類AI關鍵字。這也顯示各產業未來的日常運作，都將或多或少使用到AI技術。
不過，目前絕大多數的AI推論都是在雲端資料中心上執行，對許多產業應用而言，這種系統架構未必符合需求。因此，直接在嵌入式裝置上執行模型推論的邊緣運算架構，成為許多產業評估AI部署方式時的首選，也連帶使得低功耗AI處理器/加速器方案成為半導體業者不能缺席的重要戰場。
英特爾物聯網事業群(IoT Group)副總裁Jonathan Ballon(圖1)表示，許多基於AI的新應用出現，使得物聯網架構出現轉變。在過去，AI運算只發生在資料中心或雲端，這意味著如果某種應用需要AI功能，必然要仰賴雲端來提供。但現在AI正在從雲端走向終端，走進實體世界。
圖1 英特爾物聯網事業群副總裁Jonathan Ballon認為，AI正在從雲端資料中心走向邊緣節點，並創造出更大的產業應用價值。
在過去4年，GPU在AI領域取得巨大成功，特別是在資料中心跟演算法訓練上，由GPU和CPU組合而成的異質運算架構，無疑是最主流的解決方案。不過，這只是AI發展的第一個階段，在這個階段，人工智慧演算法在ImageNet這類固定、已知的龐大資料集進行訓練，證明自己在圖像辨識上的能力可以超越人類。
但這些技術上的突破，距離產業應用跟創造價值，還有一段距離。就以圖像辨識為例，對產業應用來說，這項技術真正的價值在於用機器判讀沒有看過的圖像，並取得正確的判斷結果，也就是AI推論。
英特爾觀察到，在過去12個月，不同領域企業已經把重點轉向這個領域，例如智慧城市、醫療、工業製造相關企業。然而，這些從物聯網蒐集而來的不特定資料，因為種種原因，大約有45~50%無法上傳到雲端，自然無法在雲端進行推論。因此，這些資料的處理、分析跟推論，必然要在本地端執行，也就是所謂的邊緣運算。
在邊緣運算的情境中，GPU未必是最理想的處理器選擇，因為很多應用情境不會允許設備內有散熱風扇這類可動的零部件，或是功耗預算極為有限，無法支撐GPU運作。因此，邊緣運算的異質化程度會比資料中心更高，除了CPU、GPU之外，還有各種專用加速器存在的市場空間。
但Ballon認為，隨著邊緣裝置的運算能力越來越強，「訓練在雲端，推論在邊緣」的狀況會出現變化，有些AI的訓練也可能在邊緣直接進行。
機器視覺結合AI最成熟 模組方案搶食升級商機
在各種AI應用中，機器視覺結合AI是進展速度最快的領域，而且可以發展出來的應用功能也最多。以零售業為例，從店鋪內的人流偵測、貨架上的商品存量檢查，甚至商品是否放錯位置，都可以用AI搭配機器視覺來檢測。在製造業，AI加上機器視覺最主要的應用則是生產線的品管檢查。在智慧城市、醫療等領域，AI結合機器視覺的應用也越來越多，從交通流量偵測、自動停車到判讀醫學影像等。
要讓這些應用加快普及，強大的開發工具是非常重要。為此，英特爾已經推出OpenVino開發工具，並免費提供給開發相關應用的客戶。這項工具支援CPU、GPU、FPGA與Movidius等各種硬體處理器，讓應用開發者可以把運算任務配置給最適合的處理器核心或加速器，提升應用的執行效能。該工具支援目前業界常用的各種框架、模型，還有大量的演算法參考範例，可以讓應用開發的速度明顯提升。
但除了軟體工具之外，硬體本身的效能也必須跟著提升，才能讓機器視覺結合AI真正落實到各種應用上。英特爾近期發表的Myriad X視覺處理器(VPU)，本身的封裝尺寸僅8×8mm，卻具備4TOPS運算效能，且功耗低於2瓦。對許多機器視覺應用來說，1顆Myriad X的效能已經相當足夠，但如果應用需要更高效能，該VPU還可支援雙路到八路不等的配置。由於研華是英特爾的重要合作夥伴，因此在英特爾發表該VPU之際，研華已同步推出搭載單VPU的板卡模組，未來研華還會提供搭載多路VPU的模組。
英特爾和研華有很深遠的夥伴關係，而且彼此有共同的願景。例如英特爾的Market Ready解決方案和研華的物聯網應用解決方案(SRP)，在本質上就有許多類似之處。這使得英特爾跟研華能在許多領域進行深度合作，甚至在產品還沒正式發表前，就進行共同研發。
AI模組大軍蜂擁而上
模組方案對加快AI走向真實世界的速度相當關鍵。如果沒有模組方案，已經部署到現場的設備將難以就地升級，只能汰換成新設備。但如果有模組卡，既有設備只要有保留介面，就可以立刻升級。以單VPU的模組為例，研華的模組卡就是採用業界標準的M.2規格；搭載多路VPU的模組，則料將採用mini PCIe或標準PCIe。
研華網路通訊事業群協理林俊杰指出，對應用或設備製造商而言，晶片只是關鍵零組件之一，如果應用開發商要獨力將晶片整合到設備上，需要投入相當的設計研發人力，產品開發的時間也會拉長。因此，市場對AI模組解決方案的需求，可望隨著AI從雲端走向邊緣裝置的趨勢而提升。
不過，物聯網應用本質上是一個多元而分散的市場，因此對推論運算的需求也會有所出入。有些嵌入式裝置可能需要非常高的運算能力，功耗預算也比較寬裕，採用GPU或FPGA擴充卡會是可行的選項。有些嵌入式裝置對功耗的要求比較嚴格，運算效能的需求較低，這時候加速器模組方案會比較有吸引力(圖2)。
圖2 各種AI處理器/加速器優劣勢比較
因此，除了和英特爾合作推出搭載Myriad X的模組外，研華跟索思未來(Socionext)、瑞薩(Renesas)、賽靈思(Xilinx)、NVIDIA等晶片業者，也保持密切合作的關係，並已陸續推出搭載上述晶片商產品的模組或板卡，以協助各家應用開發商快速將AI推論功能導入到產品中。
3D封裝/GPU/CPU架構盡現 Intel六大領域戰略力拓市場
英特爾(Intel)日前舉辦「架構日」(Architecture Day 2018)活動，除了於會中展示多樣基於10奈米系統，用於PC，數據中心和網路的解決方案之外，更於會中宣布未來將聚焦於六個工程領域的技術策略，分別為先進製程和封裝、加速AI和繪圖的新架構、超快速記憶體技術、高頻寬網路晶片互聯、嵌入式安全功能，以及統一/簡化編程；期能透過這些技術為更加多元化的運算時代奠定基礎，強化英特爾的創新及市場領導力度，並擴大潛在市場商機。
Intel核心與視覺計算高級副總裁Raja Kodur表示，運算技術在過去十年中發生了巨大的變化，數據生成的速度不停加快，因而可看見未來對於運算的龐大需求，使得這些運算架構快速發展並以指數的方式擴張。而該公司有著大膽的工程願景，期望在未來五年能夠在10毫秒內為每個人提供10 Petaflops的運算和10 PB的數據，而這六大工程領域技術將是實現此一目標的關鍵。
會中英特爾也說針對幾項亮點技術進行說明，首先是全新3D封裝技術「Foveros」。繼2018年推出嵌入式多晶片互連橋接(EMIB)2D封裝技術後，英特爾也於今年發布名為「Foveros」的全新3D封裝技術，其具備3D堆疊的優勢，可實現邏輯對邏輯(Logic-on-logic)的整合。
據悉，Foveros可將晶片堆疊從傳統的被動矽中介層(Passive Interposer)和堆疊記憶體擴展到高效能邏輯，如CPU、繪圖和AI處理器，為結合高效能、高密度和低功耗晶片製程技術的裝置和系統奠定基礎。
同時由於設計人員希望能在新的裝置設計中混合和匹配(Mix and Match)技術IP模組與各種記憶體及I/O元件，因此該技術提供更大的彈性，允許將產品分解成更小的「小晶片」(Chiplet)；I/O，SRAM和電源傳輸電路等可建置於底層晶片(Base Die)中，高效能邏輯晶片則堆疊其上。英特爾預計將於2019年下半年使用Foveros技術推出一系列產品。
此外，英特爾也展示了次世代CPU微架構「Sunny Cove」。該架構可提高一般運算任務的單一時脈效能和功耗效率，包含加速AI和加密等特殊用途運算任務的新功能；且可以減少延遲並促進高流量，提供更大的平行運作能力，進一步改善從遊戲到媒體到資料導向應用程式等領域的體驗。Sunny Cove將成為2019年稍晚推出的伺服器Xeon及PC客戶端Core處理器的基礎。
值得一提的是，英特爾也於會中宣布推出全新Gen11整合式繪圖晶片，配備64個增強型執行單元，浮點運算性能超過1 TFLOPS，並採用最新媒體編碼器和解碼器。英特爾也於會中重申將在2020年前推出首款獨立繪圖晶片的計畫，並表示從2019年開始，以10奈米為基礎的處理器將採用新的整合式繪圖晶片。
除了上述之外，英特爾也於活動上說明Optane技術進展、新的One API軟體以及深度學習參考堆疊等內容。Raja Kodur指出，運算需求的不停成長，使得該公司有機會以前所未有的方式進行改變，隨著我們為客戶，邊緣和雲運算環境推動一波又一波的創新，累積了各種差異化的技術，未來將能夠在這六大領域中持續發揮作用，為各種創新應用奠定基礎。
專訪英特爾物聯網事業群總經理Tom Lantzsch Intel新加速器推動邊緣運算發展
此一解決方案包含Intel Movidius視覺處理器與Intel Arria 10 FPGA，皆以OpenVINO軟體工具套件為基礎，提供開發者在多種Intel產品中使用進階的神經網路效能，在物聯網裝置中運行更具成本效益的即時影像分析和智慧化功能。
為了降低雲端運算工作負載，實現更多的創新應用，邊緣運算需求與日俱增，應用開發商與半導體業者皆積極將深度學習或是機器學習導入前端設備，希望使前端裝置也具備人工智慧的能力，而這過程中也有許多挑戰須克服。
英特爾資深副總裁暨物聯網事業群總經理Tom Lantzsch表示，以往企業在導入深度學習技術上遇到許多困難，各種產業都需要專業知識、種類廣泛的多樣化裝置與具擴充性的解決方案，以進一步發展深度學習。而新推出的視覺加速器設計產品可以提供更多的選擇與彈性，加速AI邊緣運算發展，以產出更多即時性資訊。
據悉，新發布的視覺加速器設計產品運作方式，是將AI推論的工作負載轉移至Movidius視覺處理晶片陣列或高效能Intel Arria 10 FPGA的專屬加速卡上；且開發者可透過OpenVINO工具套件，將Intel CPU與Intel內建GPU上的深度學習推論應用與設計成果，輕易延伸至這些全新的加速器設計之中，藉此節省時間與費用。
英特爾透露，相較於Discrete GPU，新推出的視覺加速器產品優勢在於封裝小，可用於體積小的邊緣設備，且功耗更低(約10~20瓦)；同時為了因應市場多元的應用，不僅是新發布的Movidius視覺處理器和Arria 10 FPGA以OpenVINO為基礎外，其餘產品線如XEON、CORE i7和ATON等，也都支援OpenVINO，讓開發者依據自身需求選擇合適的晶片，打造具深度學習功能的邊緣裝置。
英特爾資深副總裁暨物聯網事業群總經理Tom Lantzsch表示，新推出的視覺加速器設計產品可加速AI邊緣運算發展。
加快邊緣運算步伐 Intel推全新視覺加速器方案
英特爾(Intel)積極拓展邊緣運算版圖，於近日發布全新視覺加速器設計產品(Intel Vision Accelerator Design Products)，強化邊緣裝置人工智慧(AI)推論與分析能力。此一解決方案包含Intel Movidius視覺處理器與Intel Arria 10 FPGA，皆以OpenVINO軟體工具套件為基礎，提供開發者在多種Intel產品中使用進階的神經網路效能，在物聯網裝置中運行更具成本效益的即時影像分析和智慧化功能。
為了降低雲端運算工作負載，實現更多創新應用，邊緣運算需求與日俱增，應用開發商與半導體業者皆積極將深度學習或機器學習導入前端設備，希望使前端裝置也有人工智慧的能力，而這過程中也有許多挑戰須克服。
英特爾資深副總裁暨物聯網事業群總經理Tom Lantzsch表示，以往企業在導入深度學習技術上遇到許多困難，不論交通運輸、智慧城市、健康照護、零售與製造業，都需要專業知識、種類廣泛的多樣化裝置與具擴充性的解決方案，以進一步發展深度學習。而新推出的視覺加速器設計產品可提供更多選擇與彈性，加速AI邊緣運算發展，以產出更多即時性資訊。
據悉，新發布的視覺加速器設計產品運作方式，是將AI推論的工作負載轉移至Movidius視覺處理晶片陣列，或高效能Intel Arria 10 FPGA的專屬加速卡上；且開發者可透過OpenVINO工具套件，將Intel CPU與Intel內建GPU上的深度學習推論應用與設計成果，輕易延伸至這些全新的加速器設計之中，藉此節省時間與費用。
英特爾指出，用此一視覺解決方案的企業，不論是在資料中心、現場部署伺服器或於邊緣裝置內採用深度學習人工智慧應用，深度學習推論加速器皆可擴充至其需求程度。
此外，英特爾也透露，相較於Discrete GPU，新推出的視覺加速器產品優勢在於封裝小，可用於體積小的邊緣設備，且功耗更低(約10~20瓦)；同時為了因應市場多元的應用，不僅是新發布的Movidius視覺處理器和Arria 10 FPGA以OpenVINO為基礎外，其餘產品線如XEON、CORE i7和ATON等，也都支援OpenVINO，讓開發者依據自身需求選擇合適的晶片，打造具深度學習功能的邊緣裝置。
先進製程才是半導體製造金雞母
根據產業研究機構IC Insights研究顯示，全球前四大晶圓代工廠(台積電、GlobalFoundries、聯華電子和中芯國際)加工晶圓產生的平均收入預計在2018年為1,138美元，用八吋等效晶圓表示，與2017年的1,136美元持平，四大代工廠的平均單位收入在2014年達到1,149美元，然後在去年緩慢下降。
台積電2018年平均每晶圓收入預計為1,382美元，較GlobalFoundries的1,014美元高出36%，聯電2018年每片晶圓的平均收入預計僅為715美元。此外，台積電是四家廠商中唯一一家預計2018年將比2013年產生更高的每晶圓收入的晶圓代工廠。相較之下，GlobalFoundries、UMC和中芯國際2018年每晶圓平均收入預計與2013年相較分別下降1%、10%和16%。
就2018年第二季的統計，晶圓代工廠生產的不同製程和晶圓尺寸創造的營收可見。採用0.5微米的8吋晶圓創造營收370美元，而20奈米(nm)以下製程的12吋晶圓可創造6,050美元營收，兩者之間的差距超過16倍。即使以每平方英寸的方式計算，差異也非常大(0.5微米技術為7.41美元，≤20nm技術為53.86美元)。由於台積電45奈米以下的先進製程比重高，預計該公司每片晶圓的收入將從2013年到2018年以2%的年複合成長率(CAGR)成長。
隨著GlobalFoundries暫緩7奈米先進製程的研發，IC Insights認為，在未來五年內，可能只有三家廠商能提供先進製程技術/產品，即台積電、三星和英特爾。
消弭架構界線 Arm/Intel聯手加速物聯網部署
為簡化與加速物聯網(IoT)部署，安謀國際(Arm)近期宣布英特爾(Intel)、myDevices及Arduino等公司加入Arm Pelion物聯網平台生態系統，成為策略合作夥伴，共同強化物聯網從裝置、連接到資料管理的能力，協助企業建構更具彈性、安全、可擴充的解決方案。在與Intel聯手之後，Arm的Pelion物聯網平台能連入(Onboard)與管理各種Intel架構(x86)平台，進一步拓展原先連至Arm架構物聯網裝置與閘道器的支援版圖。
物聯網風潮持續席捲全球，一旦物聯網世代來臨，將徹底改變現有的生活模式，然而，要建置大量的物聯網裝置，須先克服複雜度、碎片化、以及多樣性等方面的挑戰，以及因應這些裝置每天產生的龐大資料；為此，物聯網勢必需要各個廠商構成堅強的生態系統。
Arm指出，物聯網崛起將會顛覆使用者與裝置以及週遭世界互動的模式，而要建構一個完善的物聯網生態系統，需要所有廠商齊心合力，而該公司也於近期推出Pelion平台，結合裝置對資料的連接、管理；並與眾多策略夥伴合作，如Intel、myDevices、Arduino、Sprint合作，近一步強化物聯網部署的彈性、簡易性與擴充性。
而為消除物聯網裝置擴充障礙，實現「任何裝置、任何雲端」的目標，，Arm與Intel攜手合作，結合Arm Pelion Device Management裝置管理與Intel Secure Device Onboarding (Intel SDO)服務，讓企業組織能立即著手生產裝置，毋須事先知悉終端客戶登入憑證(Onboarding Credential)的相關訊息，也毋須知悉終端使用者會選用哪一種應用框架。
換言之，透過雙方合作，Arm的Pelion物聯網平台能連入與管理各種Intel架構平台，這將促成更有彈性的雲端配置(Provisioning)模式，並奠定Arm與Intel裝置的相容基礎，使用戶能透過Arm Pelion物聯網平台進行管理，以及連入到任何應用雲端。
Arm表示，這將促成業界從孤島分立的供應鏈轉化為協立的框架，包括設計層面，以及取得安全連網式裝置的管道。這項合作跨出重大的一步，帶動更多元的客戶選擇、更少的裝置存貨，而整個物聯網供應鏈也能達到更高的產量與速度 ，並降低部署成本。
另一方面，Arm也發表Mbed Linux OS作業系統，能在Cortex-A架構上安全且快速地開發以及進行裝置管理。此一作業系統已整合到Arm Pelion物聯網平台，並將創造許多新類別的物聯網裝置，透過平台即可輕易加以管理，帶給企業組織額外的彈性，並加快包括處理影片或終端閘道器這類複雜應用的上市時程。
2018半導體資本支出破1000億美元 記憶體占53%
產業研究機構IC Insights預測，2018年半導體資本支出總額將增至1020億美元，這是史上首次資本支出上超過1000億美元，同時較2017年的933億美元成長了9%，比2016年成長了38%。
其中超過一半的資本支出預計用於記憶體—主要是DRAM和Flash，包括對現有晶圓廠產線和全新製造設備的升級。預計今年記憶體投資將占到半導體資本支出的53%。儲存設備的資本支出在六年內大幅增加，幾乎翻了一倍，從2013年的27%(147億美元)增加到2018年的產業資本支出總額的53%(540億美元)，相當於2013~2018複合年成長率為30%。
在主要產品類別中，預計DRAM/SRAM的支出增幅最大，但預計Flash占今年資本支出的最大比重。預計2018年DRAM/SRAM部門的資本支出將在2017年強勁成長82%後再度出現41%的成長。預計2017年快閃記憶體的資本支出將在2017年成長91%後，2018年再成長13%。
經過兩年的資本支出大幅增加，一個迫在眉睫的主要問題是，高水平的支出是否會導致產能過剩和價格下降。記憶市場的歷史先例表明，過多的支出通常會導致產能過剩和隨後的價格疲軟。三星、SK海力士、美光、英特爾、東芝/西部數據/SanDisk和XMC/長江存儲技術都計劃在未來幾年內大幅提升3D NAND Flash容量(以及新的中國記憶體新創公司進入市場)，IC Insights認為，未來3D NAND Flash市場供需過剩的風險正不斷提升當中。
2018上半年前15大半導體廠年度成長率達24%
產業研究機構IC Insights於8月發表2018年上半年全球前15大半導體供應商銷售概況，包括七家總部位於美國的供應商，三家位於歐洲，兩家位於韓國和台灣，一家在日本。其中有11家廠商在上半年均達成兩位數的同比成長。此外，七家公司的成長率超過20%，其中包括五大記憶體供應商(三星、SK海力士、美光、東芝和WD/SanDisk)以及Nvidia和ST。
與2017年上半年相比，2018上半年前15大半導體公司的銷售額成長了24%，比全球半導體產業成長20%還高。令人驚訝的是，三大記憶體供應商－三星、SK海力士和美光，在上半年均達成超過35%的同比成長。前15大廠商中有14家的銷售額至少為40億美元。
英特爾是2017年第一季排名第一的半導體供應商，但在2017年第2季以及2017年全年排名中被三星超車成功，這是Intel自1993年以來首次失去龍頭寶座。隨著DRAM和NAND Flash強勁成長，在過去的一年中，三星在2017上半年時，整體半導體銷售額只比英特爾高1%，但到了2018上半年的半導體已經比英特爾高22%。
預計2018年記憶體占三星半導體銷售額的84%，比2017年的81%上升3%，比2016年的71%上升13%。此外，該公司2018年的非記憶銷售額預計僅為135億美元，比2017年的非記憶銷售額125億美元成長8%。相較之下，三星的記憶體銷售額預計今年將成長31%，達到700億美元。