Xilinx
- Advertisment -
微銳超算的FPGA超級電腦新產品Smart-VSC5問世
國內高效能運算領域知名企業江蘇微銳超算科技有限公司在賽靈思開發者論壇(XDF)上發布針對基因組資料處理的FPGA超算新產品--Smart-VSC5超級電腦系統。該產品具有低功耗、高效能、高密度、高可靠性特點，是基因組資料高效能處理劃時代產品，引起了業內各界人士強烈關注。XDF是一個連接軟硬體及系統開發者與賽靈思及合作夥伴和業界領袖並進行深度交流的產業盛會。
精準醫療時代，健康和醫療行為需要根據每個人的基因資訊來客製，這催生了基因定序市場的繁榮。隨著定序價格的下降，幾千塊錢就能測定整個人基因組，但分析這龐大資料的成本很高，也限制了基因組定序在醫療領域的廣泛應用。微銳超算專家通過深度分析，認為基因資料量巨大固然是分析成本高的重要原因之一，但更重要的是基因組資料處理具有運算密集、記憶離散、I/O密集等特點，這對傳統運算平台提出了新挑戰，造成分析運算成本居高不下。
此次發布的Smart-VSC5超級電腦系統充分考慮其運算的特殊要求，具有低功耗、高效能、高密度、高可靠性特點，預計會平均降低基因資料處理運算成本一個數量級。據瞭解，江蘇微銳超算科技有限公司是針對產業應用FPGA超級電腦解決方案知名供應商。公司聚焦超級電腦系統面臨的高能耗挑戰，根據各專業領域不同運算特點，自主研發了Smart-VSC系列FPGA超級電腦，目前已在指紋辨識、人臉辨識、金融運算等領域成功開展應用。
邁向自動駕駛 集中式運算成大勢所趨
要實現自動駕駛，感測元件如毫米波雷達(Millimeter Wave Radar)、光達(LiDAR)和影像感測器(Camera)等皆不可或缺，如何將這些感測器所收集的資料整合、分析是日後發展主軸。對此，賽靈思(Xilinx)汽車事業部資深總監Willard Tu表示，智慧汽車的發展十分活躍，而目前大部分車輛都採用「分散式運算系統」，但最終將轉化為「集中式運算系統」。
Willard Tu指出，目前每家OEM可能都有不同的感測器配置組(攝影機、雷達、光達及超音波等)，當資料一旦聚合起來，就能進行一定的預處理，在感測器將資料傳輸至中央控制單元中其他處理元素前，對其進行最佳化。
Willard Tu說明，在集中式運算解決方案中，所有感測器資料都聚合在中央節點上，而在這種情況下，All Programmable FPGA技術能顯著降低效能要求與系統成本，並能改變SoC的功能，讓其支援相互排斥的功能，例如駕駛監控與自動代客泊車、全景低速和高速物體檢測等。
除此之外，OTA(Over The Air)晶片也扮演加速自動駕駛發展的關鍵角色。Willard Tu指出，目前OEM製造商要求所有ECU和感測器都必須做到OTA，也就是能支援「Over The Air」升級。由於ADAS仍在經歷創新的階段，每隔3到6個月就會有重大進步，而OTA晶片能夠最大限度地因應這種變更；其他系統採用固定的硬體方案只能進行軟體升級，但採用OTA晶片則能達到軟硬體的升級，為開發人員帶來更高的創新靈活性。
Willard Tu舉例，LV3或LV4的智慧車輛仍須要監控駕駛行為，某些情況下可能需要將控制權交還給駕駛，這就需要採用「駕駛監控」系統。當駕駛一旦離開車輛，車輛可以通過對軟硬體進行重新編程來改變運算SoC的功能，進而達到「自動代客」泊車功能；而透過靈活的軟硬體功能，僅使用一個SoC，就可以落實這兩種操作，並降低效能需求，也減少熱管理需求及成本。
3GPP R16規範應用更廣 設備亮相等2020後
在3GPP發布的R15規範中，主要規範範圍以增強型行動寬頻通訊(Enhanced Mobile Broadband, eMBB)應用為主。目前已進入研究階段的R16標準涵蓋範圍則較寬，除了eMBB之外，也有包含超可靠度和低延遲通訊(Ultra-reliable and Low Latency Communications, URLLC)的特別領域應用。然而，R16要等到2019年才會有比較穩定的版本，待R16版本推出之後，要看到終端廠商與設備商推出符合R16規範的產品，最快必須要等到2020年之後。
賽靈思(Xilinx)通訊業務部門主管總監Gilles Garcia表示，該公司除了深入參與3GPP標準的制定，也投入R16標準化過程，R16標準預計在2019年底至2020年完成。儘管預期R16標準不會在2020年初之前制定完成，但在FPGA方面賽靈思也已經準備和客戶聯手進行早期R16建置工作，因此在2019年也勢必會看到一定程度的發展結果。
Garcia也指出，由於5G標準覆蓋了範圍極廣的需求與應用，從高頻寬、低延遲、大規模物聯網、一直到連網汽車等，因此有非常多的機會提供各類應用價值。為此，賽靈思全力投入於目前的16奈米製程系列方案，以及即將推出的Versal平台，來因應5G極其廣泛的需求。目前採用賽靈思產品進行的R15部署，不需更換硬體就能升級支援R16標準的各項功能。
另一方面，Nokia台灣暨香港澳門、大中國區客戶營運部技術總監陳銘邦也分享，目前Nokia的方案都已經符合了R15標準，然而，由於3GPP每三個月將進行一次會議，每次會議皆可能針對現有版本更新，因此，Nokia不但必須隨著新版本開發，還需要針對R15新舊版本設備進行測試，確保設備互通互聯。
ACAP平台彈性/智慧高 Xilinx轉型全面擁抱AI
2012年的ImageNet機器學習影像辨識學術競賽，被喻為是正式掀起這一波人工智慧(Artificial Intelligence, AI)浪潮的關鍵活動之一，GPU平行運算架構在圖形辨識上的高效能，讓深度學習網路可以大幅增加層數，以提升影像辨識準確率；也旋即於2015年以3.57%的錯誤率超越人眼，揭開AI產業化與產業AI化的大門，運算平台除了近期超熱門的GPU之外，CPU、FPGA與新興的神經網路處理器(NPU)，更亟欲搶占AI深度學習網路運算與推論市場大餅。
人工智慧發展全面展開，可編程邏輯廠商美商賽靈思(Xilinx)認為，未來已經沒有一個架構可以滿足所有的應用需求，因此該公司正式踏上轉型之路，2018年3月啟動策略轉型工作，宣示從元件廠商轉型為平台廠商，提出自行調適運算加速平台(Adaptive Compute Acceleration Platform, ACAP)，並舉辦賽靈思開發者大會(XDF)，發表未來幾年的技術與產品重點，全面擁抱人工智慧的發展趨勢，以資料中心(Data Center)為發展策略的起點，目標為打造靈活應變、萬物智慧的世界。
自行調適/運算加速/平台化策略
多年來以可編程邏輯元件技術立足產業的Xilinx，為了在AI的創新浪潮中注入下一波成長動能，啟動成立以來最大規模的轉型工程，Xilinx總裁暨執行長Victor Peng(圖1)表示，在AI無所不在的時代，相關應用日新月異，晶片設計週期已經落後創新的速度，FPGA彈性的特點則可以應用在AI的創新上。目前一般新晶片設計週期高達24個月，透過ACAP平台的協助，可將AI模型加以拆解，變成數個不同的發展(Develop)、優化(Optimize)、部署(Deploy)流程，該平台動態範圍廣泛彈性，可針對不同的應用調整需要的加速範圍。
圖1 Xilinx總裁暨執行長Victor Peng表示，該公司自行調適運算加速平台ACAP目標為打造靈活應變、萬物智慧的世界。
因此Xilinx未來不再是元件供應商，而是平台化解決方案開發與供應商。而資料爆炸、AI興起、摩爾定律放緩，顛覆了原有的市場和業務，Peng認為，平台策略在這樣的大環境下中也就顯得更加重要，系統和基礎設施在全球迅速擴張，對於運算能力和頻寬也有了前所未有的要求。同時，也要更加迅速地滿足不斷變化的要求和標準。就像自然界「物競天擇，適者生存」的自然法則一樣，在數位世界，靈活應變的系統也是最具彈性和可持續性的。
Xilinx於10月推出第一款ACAP平台產品Versal，Peng指出，Versal字面上是由Variety與Universal組合而成，希望在技術與應用上可以兼顧多樣性與通用性。Peng強調，ACAP平台是整體軟體的堆疊，不僅僅是晶片，還包括高整合度工具、最佳化函式庫、作業系統等，還有AI框架標準，只須利用符合業界標準設計的流程就能針對其硬體與軟體進行編程與最佳化，針對整體應用的加速，而不僅止於深度學習網路。
Versal架構專為AI應用開發
Versal的架構將發展兩個系列、六個應用區隔，兩個系列以有無AI核心為主要差異，未搭載AI引擎的系列，運算能力由低至高為Prime、Premium以及HBM三個產品線；而搭載AI引擎的系列，主要以應用區隔為AI核心、AI邊緣以及AI RF系列。未搭載AI引擎系列，針對市場上廣泛適用性進行設計，並就作業負載的連結與線上加速進行最佳化。搭載AI核心的系列，針對雲端、網路以及自駕車應用進行最佳化，該系列配有5個元件，並提供128至400個AI引擎。
在架構上，Xilinx FPGA與SoC產品管理暨行銷資深總監Kirk Saban(圖2)解釋，Versal架構中有幾個主要的核心，包括：純量處理引擎(Scalar Processing Engine)，搭載Arm Cortex-A72與Arm Cortex R5應用處理器，還有可完全軟體編程的平台管理控制器；自行調適硬體引擎(Adaptable Hardware Engine)，可動態重新配置，即時加速能力最高達八倍；DSP引擎可提供高準確性浮點運算與低延遲，針對客製化資料路徑的細微性控制；AI引擎具有高傳輸率、低延遲與高效率，可協助AI推論與高階訊號處理，搭配先進記憶體和介面技術，可提供強大的異質加速能力。
圖2 Xilinx FPGA與SoC產品管理暨行銷資深總監Kirk Saban解釋，自行調適硬體引擎，可動態重新配置，即時加速能力最高達八倍。
而在軟體支援與開發環境部分，Xilinx軟體業務執行副總裁Salil Raje說，AI人工智慧有兩個階段，訓練和推論。在訓練階段，資料科學家將海量的資料放到模型中，然後微調模型、改善模型以減少誤差，之後將訓練模型部署到應用當中。在推論過程當中，資料量相對較少，在推論階段，回應速度與功耗就顯得更加重要，如果部署在搭載電池的邊緣設備當中，要盡量降低功耗。未來幾年，推論需求的成長性將明顯高於訓練(圖3)。
圖3 AI推論需求將持續攀升
資料來源：Barclays Research(05/2018)
AI創新與應用日新月異
而推論帶來的挑戰包括：AI創新的速度，低延遲、高通量和高效能與整體的應用加速。Raje指出，幾年前AI關注圖像的分類以及推薦的引擎，但是AI應用和AI模型的使用數量成長的速度非常快，包括目標識別、分割、語音辨識、異常檢測等，在每個應用當中都有很多的創新發生在AI的模式上。2012年的AlexNet促成AI模型的大爆炸，在過去六年，絕大多數的創新都是為了改善精確度。最近則是想提高AI模型的效率，以應用於行動裝置和IoT終端。
現在AI的應用、AI模型和精度方面有很多的創新，Raje舉例，有一個最先進的深度學習網路，等專為其設計的晶片生產時，技術已經產生了變化，此固定功能晶片，只為了支援一個舊的網路架構。所以固定晶片架構不是好選項，要靈活應變的硬體如賽靈思FPGA和ACAP元件，使得使用者能夠客製資料流程以針對最先進的網路，同時可彈性調整，而不需更換晶片。靈活應變的硬體也能夠客製記憶體的層次結構，可以用更多的On...
Xilinx AI轉型拉攏資料中心 劍指Intel、NVIDIA
自行調適與智慧運算廠商賽靈思(Xilinx)，多年來以可編程邏輯元件技術立足產業，為了在人工智慧(AI)的創新浪潮中注入下一波成長動能，啟動成立以來最大規模的轉型工程，並在日前的北京賽靈思開發者大會(XDF)中，積極與大陸雲端服務業者華為、阿里巴巴、浪潮等公司合作，搶占AI運算/推論市場，與布局較早的GPU、CPU競逐雲端AI應用大餅。
FPGA最大的特點就是靈活的可程式化與高運算能力，過去常被用在需要高運算效能或創新應用尚未發展出適合的ASIC時，面對AI浪潮席捲，AI無所不在的時代即將來臨，為搶占廣大的深度學習網路運算市場，各類運算平台積極布局AI運算，包括Intel為首的CPU、NVIDIA為主的GPU，FPGA龍頭Xilinx也投入，雲端AI運算市場競爭激烈，各家廠商積極合縱連橫布局產業生態系(ecosystem)。
以投入較早的NVIDIA為例，目前在AI競爭當中取得暫時的領先，該公司目前已經發展一系列的硬體晶片與板卡，搭配完善的開發環境、AI深度學習框架、軟體函式庫等，產業鏈初具型態；而昔日資訊運算霸主Intel，近年則是透過許多投資與併購，希望能扭轉CPU不適合深度學習運算的劣勢。相較之下起步較晚的Xilinx今年大動作投入，走向平台化並創建自行調適運算加速平台(Adaptive Compute Acceleration Platform, ACAP)，Xilinx總裁暨執行長Victor Peng表示，首款產品Versal就採用最先進的台積電7奈米FinFET製程。
在北京XDF Peng強調，ACAP可以透過彈性化的調整，協助整體應用的加速，縮短執行時間，而不是只最佳化機器學習流程。Versal將發展成一系列的產品解決方案，包括應用廣泛的Prime、強化推論功能的AI Core、低功耗的AI Edge、高速傳輸的Premium、整合RF功能的AI RF、整合記憶體堆疊，應用在高階資料中心的HBM。
而在這個階段，Xilinx也以資料中心為其發展的優先戰略，XDF中並與中國大型雲端服務業者華為、阿里巴巴、浪潮結盟。華為智能計算業務副總裁張小華說明，採用華為雲技術，華為硬體以及Xilinx FPGA，建構一套統一的線上線下協同平台，採用相同的生態系統、環境資料、共同的安全協議以及管理協議。
阿里巴巴FPGA異構計算研發總監張振祥則說，阿里雲FPGA已經發展到第三代產品與架構服務，隨著未來新架構上市，當能提供更迅速更確實並安全的運算服務。浪潮集團副總裁李金指出，該公司致力於打造AI全面性的產品布局，從運算平台高效的管理系統套件到深度學習框架的最佳化、終端解決方案四個層次為客戶提供迅速、高效、最佳化的AI運算基礎設施。
首款AI加速平台出鞘 Xilinx全面擁抱人工智慧
人工智慧AI發展全面展開，可編程邏輯廠商美商賽靈思(Xilinx)認為，未來已經沒有一個架構可以滿足所有的應用需求，因此該公司正式踏上轉型之路，舉辦賽靈思開發者大會(XDF)，並發表未來幾年的技術與產品重點，全面擁抱人工智慧的發展趨勢，以資料中心(Data Center)為發展策略的起點，目標為打造靈活應變、萬物智慧的世界。
一直以可編程技術為發展重點的Xilinx，2018年3月正式啟動策略轉型工作，宣示該公司從元件廠商轉型為平台廠商，提出自行調適運算加速平台(Adaptive Compute Acceleration Platform, ACAP)發展核心，旋即於10月推出第一款產品Versal。Xilinx總裁暨執行長Victor Peng表示，Versal字面上是由Variety與Universal組合而成，希望在技術與應用上可以兼顧多樣性與通用性。
在AI無所不在的時代，AI應用日新月異，晶片設計週期已經落後創新的速度，因此Peng認為，FPGA彈性的特點可以應用在AI的創新上，一般新晶片設計週期高達24個月，透過ACAP平台的協助，可將AI模型加以拆解，變成數個不同的發展(Develop)、優化(Optimize)、部署(Deploy)流程，該平台動態範圍廣泛彈性，可針對不同的應用調整需要的加速範圍。
Versal ACAP結合純量處理引擎(Scalar Processing Engine)、Arm Cortex-A72與Arm Cortex-R5，以及自行調適硬體引擎(Adaptable Hardware Engine)，可動態重新配置，即時加速能力最高達八倍；DSP引擎可提供高準確性浮點運算與低延遲；AI引擎具有高傳輸率、低延遲與高效率，可協助AI推論與高階訊號處理，搭配先進記憶體和介面技術，可提供強大的異質加速能力。不管是軟體開發者、資料科學家或是硬體開發者，只須利用符合業界標準設計流程的工具、軟體、函式庫、IP、中介軟體以及框架，就能針對其硬體與軟體進行編程與最佳化。據了解，Versal採用台積電7奈米FinFET製程，正式量產時間為2019年第二季。
Xilinx也以現有UltraScale+ FPGA為基礎，發表Alveo U200與Alveo U250加速卡，就機器學習而言，Alveo U250的即時推論傳輸率比高階CPU高出20倍，甚至在低於2毫秒的低延遲應用方面，也比高階GPU這類固定功能加速器高出4倍。此外，Alveo加速器卡的延遲較GPU減少3倍，在資料庫搜尋等應用方面大幅加速、並提供較CPU高出90倍的效能。
Xilinx總裁暨執行長Victor Peng表示，FPGA靈活彈性將有助AI創新應用發展。
助長AI運算效能 賽靈思發布首款ACAP處理器
為提升人工智慧(AI)運算效能，賽靈思(Xilinx)近日宣布推出首款採用適應性運算加速平台(Adaptive Compute Acceleration Platform, ACAP)的處理器「Versal」。該產品結合純量處理引擎(Scalar Processing Engines)、適應性硬體引擎(Adaptable Hardware Engines)，以及具有先進記憶體和介面技術的智慧引擎，可為任何應用提供效能更高的異構加速。
賽靈思總裁暨執行長Victor Peng表示，隨著人工智慧和大數據快速興起，加上摩爾定律逐漸衰落，半導體設計已經到了一個的關鍵轉捩點。矽材料的設計週期已經無法跟上創新的步伐，因此，該公司研發首款ACAP處理器，使所有類型的開發人員，能透過優化的軟/硬體加速整體應用程序，以跟上快速發展的應用和技術趨勢。
據悉，Versal ACAP的硬體和軟體皆可程式化和最佳化，軟/硬體開發人員或資料科學家皆可使用符合標準設計流程的工具、軟體、函式庫、IP、中介軟體和框架進行實作。
另外，Versal系列產品使用台積電7奈米FinFET製程技術，為首款結合軟體可程式性以及專有領域硬體加速的平台。該產品組合包含六個系列，各系列產品有著不同架構，可為不同應用市場，像是雲端、無線通訊、邊緣運算等提供可擴展的人工智慧運算功能。
賽靈思指出，Versal產品組合包括Versal Prime系列、Premium系列和HBM系列，目的在於為業界提供更高的性能、連接、頻寬和整合。另外還包含AI Core系列，AI Edge系列和AI RF系列，這些系列產品採用全新的AI引擎，以滿足各種應用對低延遲AI運算的新興需求，且與Versal Adaptable Hardware Engines緊密結合，可加速應用程序，調整軟/硬體，確保最高的性能和效率。
賽靈思目前只與幾個早期合作夥伴合作，Versal Prime系列和Versal AI Core系列預計將會在2019年下半年正式推出；與此同時，Versal系列產品的軟體開發環境，包含驅動程式、中介軟體、函式庫，以及軟體框架，也將於2019年提供。