賽靈思
Xilinx Alveo加速器卡助力南韓SK電訊
賽靈思(Xilinx)與南韓電信公司SK電訊(SK Telecom)宣布SK電訊採用賽靈思Alveo資料中心加速器卡實現運用人工智慧(AI)的實體入侵與竊盜即時偵測服務。SK電訊採用賽靈思Alveo加速器卡的推論加速器(AIX),運用深層神經網路技術提供高效且精準的實體入侵偵測功能。南韓第二大保全公司ADT CAPS也已著手實體入侵偵測服務的商業部署。
SK電訊的實體入侵AI偵測服務命名為T view,其能即時監測數十萬名用戶的商業與住宅攝影機系統,並在發現實體入侵狀況時立即派出保全人員前往現場。當運用深層神經網路處理從數千台攝影機傳回的龐大資料時,則需要具備足夠傳輸量及精準度的強大AI加速器。
T view運用SK電訊建置在賽靈思Alveo U250加速器卡的AI推論加速器(AIX)。運作於SK電訊資料中心伺服器的Alveo U250加速器卡,能在各項竊盜偵測服務中展現極高的資料傳輸量與精準度。與頂尖的GPU(繪圖處理器)相比,這款加速器卡不僅偵測延遲更低,且能達到優異的傳輸量(每秒幀數),以及經產業驗證更具性價比優勢。Alveo卡提供更高的傳輸量與精準度,這不僅意謂著更多客戶能利用即時的AI安全服務,也意謂著面對安全威脅可以提供更可靠的安全防護。
SK電訊技術長暨資通訊研發中心負責人Park Jin-hyo表示,在人工智慧的時代,新型的服務正以前所未有的速度被部署,我們將持續推動雲端系統的創新,為眾多市場的客戶提供更高價值、更可靠且更有效率的服務。與賽靈思合作的AIX代表了我們針對AI服務簡化雲端系統的一項新的成果。
克服IIoT資料大漲挑戰 運算/雲端方案各顯神威
資料量暴漲 高效運算方案需求殷切
賽靈思工業、視覺、醫療及科學(ISM)市場經理翁羽翔(圖1)表示,工業物聯網以及醫療物聯網領域的資料呈爆炸性成長,每天產生2.5 Exabytes的資料量,而全球90%的資料在過去兩年中產生。在資料產生如此迅速的情況下,像是隱私、資訊安全性、數據處理的延遲和反應能力、資料管理的成本(傳輸、儲存、處理),以及可靠的網路連結等疑慮也逐漸浮現。
圖1 賽靈思工業、視覺、醫療及科學(ISM)市場經理翁羽翔表示,工業物聯網的資料呈爆炸性成長,發展工業物聯網的業者需要一套全方位的解決方案。
簡單來說,在工業物聯網、智慧製造等應用場景當中,雲端越來越無法負荷需要大量且即時的傳輸與運算需求,加上並非所有的環境都有強大的網路連結,雲端運算的效益在這樣的情況之下將會大打折扣。
因此,邊緣運算便應運而生,以補足雲端運算的缺口,降低資料傳輸、儲存與處理的成本。另外,當企業獲得的資料越來越多,隱私問題也隨之受到更多關注,而這與資料安全性密不可分。資料的安全與否可能隨著時間而變化,即使現在是安全的,但隨著運算能力的增長和駭客技術的精進,安全性也會隨之減弱。
也因此,發展工業物聯網的業者需要一套全方位的解決方案。為此,賽靈思旗下的Zynq SoC產品系列提供完整的解決方案堆疊,透過提供安全的連接、控制、線路、軟體與AI,輔以產業生態系中廣泛的專業技術來協助客戶開發所需的產品與應用;且該產品還提供一個共通的嵌入式平台,具備FPGA的可編程性且能同時支援IT與OT的需求,在設計時就將安全性納入考量。
另外,賽靈思也針對工業電腦提供加速解決方案「Alveo加速器卡」,其具備低延遲優勢,能優化所有作業負載並適應不斷變化的演算法,可輕鬆應用於雲端與在地(On-premise)部署,適用於機器人運動規劃、資料庫卸載、動態錄影與影片分析、基因體分析等應用。
同時,賽靈思也整合雲端框架,提供雲端與邊緣協作的AI平台。其中包含整合AWS Greengrass框架並透過鎖定更強大的嵌入式設備,將應用從雲端移到邊緣以提供低延遲、低功耗但高效能的邊緣AI。
翁羽翔指出,隱私、資料安全、資料管理和運算效率是ISM領域普遍考量的問題。隨著物聯網時代的到來,企業若能妥善運用資料將為他們帶來許多優勢,也能大幅提升營運效益。為此,該公司在工業領域的戰略核心,便是協助客戶有效地運用資料,實現更精準的診斷、決策結果。因此,該公司運用邊緣AI針對客戶的問題痛點提供運算資源,除了能夠降低功耗、提升效能與效率外,在沒有網路連線的情況下也依然能正常運作;並兼顧軟硬體升級,透過靈活應變的解決方案協助工廠延長其資產的壽命,進而提高投資報酬率。未來該公司也將持續致力於提供客戶高效能、高穩定度、低延遲、低功耗並兼具安全性的解決方案。
確保資訊保密 私有雲方案需求增
另一方面,因應工業物聯網衍生而來的資訊處理、保密需求,研華科技則是以旗下「WISE-STACK解決方案」應戰。研華科技工業物聯網事業群副總經理蔡奇男(圖2左)表示,近期發現產業客戶對於保護自身的產業專屬知識(Domain Knowledge)或是隱私需求大幅提升,因而提出能夠做到資料保密的完全私有雲環境的WISE-STACK解決方案,亦即將整套研華WISE-PaaS物聯網雲平台搬到私有雲環境中,讓客戶在享受公有雲服務的同時,也能擁有私有雲的保密,協助客戶輕易進行在地部屬。
圖2 研華科技工業物聯網事業群副總經理蔡奇男(左)表示,客戶愈來愈重視自身產業專屬知識(Domain Knowledge)、隱私的保護,因此對私有雲方案需求明顯增加。
WISE-STACK是研華科技旗下的私有雲解決方案,其為高整合度的系統,可提供完整的雲端體驗和開發工具,具備端到端的安全功能,確保客戶數據和AI模型的安全性與隱私;且該產品經過嚴格的設計和測試,可滿足需彈性擴張、高數據吞吐量的AIoT應用。該產品還可無縫整合所有WISE-PaaS服務,使工廠、製造業者等可更輕鬆的實現工業物聯網規劃。
然而,隨著數據量與日俱增,除了增加邊緣強化方案之外,落實「資料分流」也是確保數據隱私的一項重點。
銳鼎科技黃茹鈺總經理指出,為落實數據保護,未來業者須朝「資訊分流」發展,也因此,混合雲可說是必然趨勢。如同前面所說,通常業者須保密的資料多是自身的產業專屬知識,像是客戶資料、製程機密參數等,這些數據是拓展生意版圖的重要命脈,可存於私有雲之中;而至於訂單時程、機台運作狀況等資訊,則是可上傳至公有雲,不僅能讓合作夥伴或是客戶清楚了解目前的運作狀況,也有助於決策判斷。
蔡奇男則進一步說明,目前工業領域的業者、製造業者等近來對於私有雲的需求明顯增加,不過隨著數據傳輸需求日益增加,未來業者勢將朝公私有雲混合(也就是混合雲)的方面發展。如上所述,目前業者需要私有雲的原因在於確保隱私、保護自有的行業專屬知識,但是當企業發展到一定規模的時候(中大型企業),其數據開始須和外部合作夥伴進行整合或連結,以發展更多服務時(如遠程診斷或設備維運),就必須將資料上傳至公有雲。換言之,未來趨勢將以混合雲為主,因此研華不僅擁有WISE-STACK解決方案,同時還具備WISE-PaaS架構可支援混合雲應用。
因應未來工業物聯網發展,蔡奇男表示,行業專家的系統整合商(Domain-focused Solution Integrators, DFSI)是協助產業躍向物聯網下一階段極為關鍵的要素之一,更是工業物聯網市場中價值貢獻度最高的一環;他們不僅能協助終端客戶建置、維運系統,更得熟悉如手工具、工具機、廢水處理等各專業領域需求。因此,該公司近幾年不僅加強與行業專家系統整合商的密切合作,更以少量投資方式,積極育成行業專家系統整合商。
總結來說,隨著工業物聯網加速發展,資料呈現爆炸性的成長,也因而衍生運算、隱私等難題。為此,半導體業者和工業電腦也加快布局腳步,透過全面、完整的軟硬體解決方案,以克服上述挑戰。
功能/網路安全齊頭並進 醫療器材風險管理有效率
然而,每項多樣化產品都會對接受治療的患者有著不同程度的風險影響,這促使美國食品藥品監督管理局(FDA)和歐盟(EU)醫療器材指令(MDD)CE標籤工作組,要求器材製造商通過各種產品設計來管理此風險。
醫療器材設計考量
工程團隊在設計醫療器材時,不僅應考慮開發出能在臨床應用中發揮效用的器材,還需保護患者的安全(如符合硬體電氣設計的IEC-60601-1、1-4與符合軟體生命週期流程的IEC-62304)、確保能順暢地在系統中傳遞資料(如符合HIPAA)以及包含日誌記錄和產品更新方法的器材生命週期(如符合FDA CFR 21)。
這些對安全與預期運作的考量並非僅針對醫療器材產業,它們也適用於人們與用於提高自動化水準的機器設備協作的其他產業。在工業領域,機器人已不再只是操作人員的奴僕,而是正日漸成為真正的獨立合作方,不過它們的宗旨還是以人類的安全為首。例如在汽車領域,隨著車輛自動化水準不斷提高,人類駕駛也迅速對日益增強的安全功能產生依賴。
在工業自動化領域,能直接影響系統安全的機器設備設計屬於「功能安全」範疇。「功能安全」旨用於滿足這些要求的一套特定標準和設計方法。雖然功能安全設計方法規定了預期運作路徑和失效路徑,但我們必須意識到有人可能會蓄意修改系統的預期運作,這使網路安全威脅不斷提升。
因此,當今要全面解決開發生產醫療器材的風險管理問題,功能安全和網路安全都必須被視為患者總體安全內在組成的一部分。系統設計可以有網路安全而沒有功能安全,但不可以只有功能安全卻不考慮網路安全。本文分兩個主題進行討論,即功能安全和網路安全:
1.功能安全概述和可用於達到不同安全完整性等級(SIL)的常見設計方法。
2.實施安全等級(SL)可能產生之威脅的網路安全評估概述。
功能安全旨在降低風險
功能安全旨在運用相關標準中規定的實踐(Practice)與規則監督設備的主要功能,減輕對人和/或環境危害風險的系統。一般來說,功能安全會持續監控受控設備(EUC),當機器設備運作發生異常(例如機器故障)或外力導致的危險狀態時就會啟動。設備製造商在設計時會進行危險與風險評估,確認需要採取何種風險緩解措施。
功能安全系統可用簡單的設計,譬如加裝在電源上的限位開關(Limit Switch),也可用複雜的設計,像是在製造場域內監控是否有人穿越黃色安全線的光達(LiDAR)系統(例如在組裝產線上太靠近移動中的卡車底盤)。足球是可以用來形容功能安全的一個貼切比喻,包括美式和英式足球在內。球員是受控設備(EUC),裁判是安全相關系統。裁判掌握比賽規則並控制比賽,根據各種發生的情況停止和再次開始比賽,更重要的是對犯規的賽隊或球員進行處罰。
醫療器材設計功能安全不可缺
在美國,聯邦法規要求醫療器材製造商在有預備上市的醫療器材產品時必需通知FDA。根據「美國聯邦食品、藥品和化妝品法(FFDCA)」的規定,這被稱為「售前通知」或「510(K)通知」。根據該條款,FDA可依據具體應用,援引先前已在市場上合法銷售的器材,以實質等同(Substantial Equivalence)為由放行新器材的銷售。
然而,實質等同性在功能安全方面有些問題,因為設計本身及用於建構實質等同功能的器材物理屬性均有其獨特性。對於那些不屬於FDA控制範圍的器材和機器設備,當地政府要求製造商需從UL(前身為保險商實驗室)等獨立機構取得認證以符合安全標準。這種獨立性能讓標準在技術和市場力量的作用下發展演進,將利益衝突降到最低。
功能安全系統的目的在於降低風險。在機器設備功能異常時,功能安全系統有責任讓機器設備進入「安全狀態」。這意味著安全系統的可用性(系統在未來仍可運作的機率)是降低風險的重要因素。若功能安全系統在需要時發生故障是嚴重的事情,為了讓功能安全系統能在一天24小時可全天候的使用,功能安全系統的設計測試受到國際標準控制,並由獨立認證機構驗證。
圖1呈現的是受控設備(EUC,深灰色)和功能安全系統(淺灰色)之間的關係。功能安全系統隨時觀察EUC的運行。在圖1中,安全狀態指斷開致動器的電源。如果EUC的動作超出可能導致危險狀況的邊界,功能安全系統就會切斷致動器的電力。安全功能可以被視為一個獨立安全網:如果安全功能失效,EUC還是可以繼續工作,但它是在沒有安全網的情況下運作。
圖1 安全功能(淺灰色)與受控設備(深灰色)之間的關係
安全功能三個模組
安全功能本身通常由三個模組構成(圖2),其中包含:感測器驅動邏輯控制器的輸入,然後由邏輯控制器驅動致動器。由這三個模組共同構成安全功能,有時也稱為「安全迴路」。此外,這三個模組也用於確定安全完整性等級(SIL)或安全迴路品質。
圖2 安全功能的三個模組
失效/降低風險與安全完整性等級
「失效(Failure)」在產業中被定義為終止正確的服務,其中「故障」(Fault)為導致功能失效的異常狀態,「誤差(Error)」指預期/正確值與實際值之間的落差。失效可分為兩大類型,安全失效不影響安全迴路的運作,也不會將設備過渡到「安全狀態」。危險失效則會影響「安全迴路」運作,也就是故障造成的誤差會引發失效。
IEC 61508
根據電氣/電子/可編程電子系統功能安全標準(IEC 61508),共有從SIL1到SIL4的四種安全完整性等級,其為依據對監控受控設備的功能安全系統或安全迴路的風險降低能力而客觀定義的標準,細節請詳見表1。
有兩個因素決定安全完整性等級。首先是系統能力,它是一個品質指標,透過質化測量設計中由人為失誤所引發的潛在缺陷之數量。該指標是由提供證據證明標準中規定的流程得到遵循而決定。第二個因素是採用診斷指標減少隨機硬體故障,系統的安全完整性等級由兩個指標間的最低者決定。
醫療器材須定義安全狀態
設備製造商有責任根據設備的運作方式及製造商對危險和風險的評估,定義什麼是安全狀態。在某些情況下,安全狀態可以切斷馬達主電源或是機器設備主電源,讓內置的被動措施接手消除系統中的能量。具體情況取決於危險的類型。
像MRI這類的醫療器材,由於切斷電源後患者能離開該設備,因此這可以算是一種安全狀態。但對於重症加護病房的病患監護儀等其他類型的醫療器材,將切斷器材電源作為安全狀態可能會提升患者的風險。對於人工心肺機或生命支援呼吸器等重症加護設備,這個問題就更加嚴重,若將斷電當作安全狀態很可能造成患者身故或重傷。
有兩個條件可能導致系統進入安全狀態。第一個條件是安全功能檢測到受控設備或某種外部活動導致危險狀況;第二個條件是安全功能本身發現安全迴路中的系統故障。在EUC發生失效,造成安全迴路驅動EUC進入安全狀態的情況下,EUC設計本身需具備冗餘,才能被繼續使用。對於器材無法過渡到安全狀態且安全迴路失效的情況,安全迴路本身需要使用冗餘架構。這樣可提升安全迴路的可用性,進而提升受其保護的EUC的可用性。
遵循上級功能安全標準確保可用性
隨著時間推移,所有系統失效的機率都十分的高,而這一點對安全迴路而言更是重要的考量點。系統失效的兩個主要原因是隨機硬體故障和系統性失效。因為硬體故障的發生是隨機的,所以設計用於檢測系統失效的功能安全系統必須具有高可用性。
為了協助這些系統的設計,上級功能安全標準「IEC 61508:電氣/電子/可編程設計電子安全相關系統」羅列出設計這些系統的建議架構清單。該標準介紹了檢測安全迴路運作失效的措施,並針對依據安全功能所需之故障運作狀態的情況添加冗餘。
系統性失效可以採用標準中所提出的,經完善測試且先進的措施,透過設計流程得以減輕;該流程必須獨立管理,以避免受到系統製造商內部利益衝突的影響。現今有大量此類流程被投入使用,圖3所示的是IEC 61508標準提出的V模型,而圖4所示的是ISO 26262中業界一流的軟體設計流程。
圖3 摘自IEC 61508:2010第3部分的軟體設計流程
圖4 摘自ISO 26262:2018第6部分的設計流程
每個流程中,左邊為設計程序,右邊為驗證程序。V模型左側顯示的是專案定義與設計,右側顯示的是使用V模型底部的單元編碼進行的專案測試與整合。在測試基礎完整前不得開始實際的單元編碼。
該流程的第一步是全面理解最終狀態的面貌。這個層面的設計會產生需求列表。在這些需求完成審核且被接受後,就會產生架構規格,再根據架構規格創建功能模組(工作分工)和支援需求的介面。在完成對架構的定義、細化並經同行審核後,就會產生為每個模組及其介面的測試需求。在同行完成測試需求的審核和驗證後,就會開始進行測試台編碼。
此時,設計團隊可能已經用掉時程表上一半的時間,但卻連一行應用代碼都還沒有開始編寫。剩下的時程是為測試台進行編碼。測試台完成後基本上就已成功在望,因為設計團隊現在很有把握其編寫的功能代碼在設計上是正確的。最後就是單元編碼、驗證和確認,在這個流程中產生缺陷的可能性已經很低,但仍取決於當初設定的需求是否夠全面。擁有越完善的需求設定和與需求對應的測試台,發生缺陷的機率就越低。
第二個考量是隨機硬體故障。檢測和在某些情況下糾正隨機硬體故障的措施取決於電子裝置的故障方式。就位元化積體電路而言,故障原因包括製造差錯、外部粒子撞擊或元件的金屬遷移耗損。隨機硬體故障可能是永久性或暫時性的,根據故障的性質,它們可能對機器設備行為造成影響,可能導致危險失效,也可能不會對機器設備的運作造成影響。後者這種情況被視為「安全失效」;而被稱為「診斷功能」的措施是被設計用於檢測這些故障並在某些情況下糾正它們。最常用的診斷功能有:
.湧泉碼:
在現今所有的手機通訊系統中用於重組和糾正手機在基地台和設備間發生隨機訊號干擾時遇到的傳輸故障。
.記憶體保護:
在現今運作的每台運算伺服器中用糾錯代碼(ECC)檢測和糾正受損記憶體資料。
.冗餘:
安排一套與主要功能平行運作的額外資源。
在這三者中,冗餘是最完善的可用診斷功能,但也是成本最高的。參考圖5和圖6,最常見的冗餘類型包括「二取一」(1oo2)和「三取二」(2oo3)兩種術語。
圖5 「二取一」(1oo2)安全架構
圖6 「三取二」(2oo3)安全架構
全盤了解安全架構實現高穩定性方案
圖7所示的例子之中,1oo2安全架構用於診斷功能強化,形成能確定兩個通道中哪一個有故障情況的「二取一」診斷架構(1oo2D),而此一架構能用於代替2oo3架構。
圖7 使用交叉通道診斷(1oo2D)的1oo2安全架構示例
在這個例子中有兩個安全通道:深灰色的安全通道A,淺灰色的安全通道B。每個通道都有自己的電源和時脈。而賽靈思的Zynq UltraScale+提供可配置在獨立場域中的功耗監測器和系統監控(Watchdog)計時器,用於監測設備中的其他場域。這些監測器是標準認證中的必備條件。最後,每個通道擁有大於98%的診斷機率,且每個通道使用不同的CPU和設計架構以增加多樣性。這種多樣化的環境運用不同的架構強化系統功能。
從整體架構來看,通過在各個通道間比較結果,能以大於99%的診斷機率檢測出單一故障(例如一個電源、一個時脈生成器或記憶體失效等)。一旦檢測到故障,依據通道狀態得到的診斷結果將通知正常通道和Voter發生故障,Voter隨即遵循正常運作通道所得的結果。
IEC 60601
60601標準用於規範可能導致危害的潛在有害排放,但沒有充分說明安全迴路品質(SIL)的系統性方法,以及如何將導致危害的設備置於安全狀態。風險管理流程留給醫療OEM廠商自行處理並使用ISO14971標準的文件進行調整。雖然這是個好的開始,但問題仍然存在,也就是用於減輕風險的安全迴路應具備怎樣的品質。
IEC 61508標準提出的準則和流程可用於任何電氣/電子或可編程設計的電子系統,毋須考慮安全迴路的最終應用。這意味著通過使用用於滿足特定標準的SIL水準的安全迴路設計,就可以被認為針對特定風險已達到風險降低的要求。
ISO 26262
ISO26262規格採取截然不同的做法,要求將機器設備本身設計為天生具備安全性。例如,當今較為新型的汽車採用了電子緊急剎車。這種剎車裝置取代了老式的機械剎車系統,完全獨立於用於在正常駕駛條件下讓汽車停止的主剎車裝置。這種新型的電子緊急剎車系統已經被整合進車內的安全功能,當汽車在危險速度下行駛時,不允許系統發揮作用。所以當速度高於5mph/8kph(安全作用極限),系統會發出警告並且不發揮作用。其原理如下:
1.主剎車系統擁有冗餘液壓線路。
2.驅動液壓系統的致動器故障率極低。
鑒於歷史上總故障率很低,所以能夠移除完整的冗餘緊急剎車裝置,以內建安全功能的電子手剎車取代。這種根據預期功能評估危害的理念被稱為「安全目標」。隨後使用驅動此架構的各種診斷措施和失效模式(失效安全與失效運作)達到每一個安全目標。主要功能透過設計提供內在安全性。「手剎車」的安全目標是:
1.系統應阻止不利的剎車。
2.系統應在完全喪失主動力後持續運作。
3.系統應阻止導致失控的剎車。
設計隨後通盤考慮這些安全目標,採用各種方法和措施確保達成這些目標。為此,半導體業者如賽靈思,在設計旗下產品Zynq UltraScale+ MPSoC時就考慮到功能安全和安全需求,從而幫助設備開發者打造高穩定性的解決方案,用於實施安全高效的醫療設備。此外,安全性晶片特性可透過工具流、IP和軟體解決方案加強,並成為工業和醫療物聯網解決方案堆疊的一部分。就功能安全性來說,Zynq UltraScale+ MPSoC提供以下功能:
.三個獨立的運算區域,分別採用不同的時脈和電源以減低共因故障。
.多個溫度感測器用於檢測工作限制條件。
.On-chip診斷(ECC)可檢測使用者和配置RAM中的隨機硬體故障。
.即時運算區域的系統功能。
.安全認證工具與方法。
.安全認證Zynq UltraScale+ MPSoC晶片和軟體。
賽靈思的功能安全技術針對功能安全設計的兩大關鍵領域設計。第一大關鍵領域為系統功能,透過賽靈思認證工具鏈實現,並評估異質化產品。第二大關鍵領域為隨機硬體故障容錯,透過獨特的診斷組合實現,包括運算區域內選擇性硬體冗餘、SRAM診斷功能和異質化運算資源中的冗餘等。除On-chip診斷外,賽靈思還整合針對特定設計的獨特製造技術,可提高設備級單一故障事件(SEU)免疫性。
本文將功能安全和網路安全問題與設備製造商的產品風險評估管理連結起來。工業領域應對產品安全相關風險的一些最佳實踐(如IEC 61508)及應對網路安全防護要求的最佳實踐(如IEC 62443)在醫療設備設計時加以運用。本文概述醫療設備設計時可採用的功能安全設計實踐和賽靈思功能,以提高安全性並更佳評估風險,並一次性通過監管審查以加快產品上市時程,進而減少產品召回的風險。賽靈思認為監管機構和設計工程師能透過結構化的功能安全設計時程,對整體產品設計、整體產品成本乃至病患的安全產生積極影響。安全和保障密不可分,因為沒有適當的網路安全防護措施,系統安全就無法滿足預期的工作要求。網路安全問題既涉及數位控制產品的操作完整性,也涉及供應鏈防護,同時適用於不同的終端產業。
(本文由賽靈思提供)
Xilinx統一軟體平台Vitis為開發者開啟全新設計體驗
賽靈思(Xilinx)宣布推出統一軟體平台「Vitis」,讓軟體工程師與AI科學家在內的廣大開發者都能受惠於靈活應變的硬體優勢。歷經5年時間、總計投入1,000人年打造的Vitis統一軟體平台,讓使用者不需具備硬體專業知識,即可透過軟體或演算法程式碼自行調適與使用賽靈思的硬體架構。
此外,Vitis平台沒有使用特定開發環境的限制,而是透過通用的軟體開發工具與豐富且經最佳化的開源函式庫,讓開發者能專注於演算法的開發。Vitis雖然獨立於支援以硬體程式碼進行編程的Vivado設計套件之外,但它能夠透過將硬體模組封裝為具軟體可調用(Software-callable)的功能,進而提高硬體開發者的工作效率。
賽靈思總裁暨執行長Victor Peng表示,隨著運算需求呈指數型成長,工程師與科學家卻經常受限於晶片固有的效能。賽靈思打造了一個卓越的設計環境,讓所有領域的編程人員與工程師都能使用自己熟悉的工具與框架,共同開發並最佳化軟硬體。這表示使用者能根據自己的應用需求調整其硬體架構,無需換用新的晶片。
Vitis平台建構在堆疊式架構上,此架構能無縫運用於各種開放原始碼的標準開發系統並組建環境,最重要的是它包含為數眾多的標準函式庫。基礎層為Vitis目標平台,此平台由電路板與預編程I/O組成。第二層為Vitis核心開發套件,包含開源的賽靈思執行時間(runtime)函式庫,用來管理不同領域之間的資料移動。
第三層則是在8個Vitis函式庫中提供超過400個經最佳化的開源應用,包含Vitis基本線性代數子程式函式庫(BLAS)、Vitis Solver函式庫、Vitis安全函式庫、Vitis視覺函式庫、Vitis資料壓縮庫、Vitis計量金融函式庫、Vitis資料函式庫以及Vitis AI資料庫。透過這些函式庫,軟體開發者能使用標準應用程式介面(API)落實硬體加速。Vitis平台的第四層,整合了領域專用架構(DSA)。DSA配置賽靈思硬體,便於開發者使用TensorFlow和Caffe等領先業界的框架進行最佳化與編程。
讓資料動起來 領域專用架構思維不一樣
自從2017年度圖靈獎(Turning Award)得獎人John Hennessy與David Patterson在領獎演說中強調領域專用運算架構(Domain Specific Architecture)與領域專用程式語言(Domain Specific Language)的重要性後,在資訊科學與半導體領域掀起了一股討論熱潮。不同於通用運算架構,領域專用運算架構強調更高的運算效能與更低的功耗,但不像CPU或GPGPU,可以用來執行各種運算任務。目前市場上有哪種處理器比較接近兩位圖靈獎得主所描述的領域專用運算架構呢?答案是現場可編程閘陣列(FPGA)。
賽靈思(Xilinx)技術長Ivo Bolsens表示,電路微縮所能帶來的運算效能提升、功耗改善,在很多年前就已經趨緩(圖1)。為了滿足人工智慧(AI)等運算任務對效能的高度需求,半導體業界必須設法另闢蹊徑。
圖1 過去40年處理器效能演進
這也是Hennessy與Patterson之所以提出領域專用架構最主要的原因。目前業界最常見的CPU,是典型的通用(General Purpose)處理器,這類處理器在執行帶有各種決策樹的複雜演算法時很有效率,而且有各式各樣的函式庫(Library)支援,但CPU的效能成長空間已經很有限了。
至於向量處理器(Vector Processor),例如DSP與GPU,在執行可以高度平行化的特定運算任務時,有著非常高的效率,且歷經多年發展,現在這類處理器能執行的運算任務,也越來越多元。不過,因為DSP、GPU與CPU一樣,還是採用不具彈性的階層式記憶體架構,也就是大家常聽到的L1、L2甚至L3快取,因此在記憶體延遲、存取效能方面有許多瓶頸。
如FPGA這類可編程邏輯元件(PLD),則可按照使用者需求客製化特定的運算功能,擁有極低的延遲性能,特別適合強調即時性的運算任務,且其資料存取結構也跟傳統的處理器不同。但相對的,如果要修改演算法,在FPGA上往往得花好幾個小時,不像純軟體的CPU、GPU,只要花幾分鐘就能把程式重新編譯(Compile)完成。這也是為何FPGA會被視為領域專用處理器的原因--雖然FPGA一樣可以用來執行各種運算任務,但它的轉換過程遠比純軟體搭配通用處理器來得漫長。
不過,在強調運算能力跟效能/功耗比的今日,領域專用架構處理器還是有很大的發展潛力。賽靈思(Xilinx)技術長辦公室研究員Ralph Wittig認為,人工智慧(AI)等對運算效能需求極高的應用,還是需要使用領域專用架構硬體來運算,才能在運算效能、功耗跟整體成本之間取得最佳平衡。
根據賽靈思的觀點,基於FPGA的領域專用架構有三個元素,分別是適應性硬體、近記憶體運算與可支援多樣化資料傳輸模式的晶片內互連。以賽靈思的Versal適應性運算加速平台(ACAP)為例(圖2),該晶片架構內含多顆AI核心、用來直接存取外部記憶體的DMA,同時每個核心都帶有小容量的記憶體,以及扮演晶片內部互聯骨幹的Network on Chip(NOC)。
圖2 ACAP硬體架構
AI核心本身是軟體可編程的處理器,但藉由NOC,不同核心所配備記憶體是可以直接互聯的。這意味著如果使用者需要,可以把每個核心所帶有的記憶體互聯起來,視為一個容量超大的快取。不像現有CPU或GPU採用階層式的快取記憶體,當核心要存取記憶體內的資料時,視資料存放的位置,可能會遇到得等待數十到數百個循環週期(Cycle Time)才能得到資料的情況。除了存取效率外,傳統基於快取記憶體的架構,還會有不必要的資料複製、浪費記憶體容量的問題(圖3)。
圖3 傳統多核心架構的資料存取
也因為FPGA內部的互聯是非常彈性的,使用者可以依照自己的應用需求,實現各種不同的資料搬移模式,從業界最熟悉的管線式(Pipeline)結構,到一對一/一對多串流式(Stream),甚至廣播式(Broadcast)結構都能支援。這使得FPGA的使用者可以針對特定應用需求,使用效率最好的資料搬移模式來處理大量資料。
根據賽靈思的估計,這種架構讓Versal可以用存取L1快取的延遲,存取到10倍的記憶體容量。這不僅提升了運算效能,同時也降低晶片功耗。存取記憶體是非常耗電的,以典型的45奈米、0.9伏特製程來說,處理器要存取8kByte SRAM,就要消耗10pJ能量;但如果是要存取1MByte SRAM,就要消耗100pJ;但如果處理器核心要存取外部DRAM,就至少要消耗1.3~2.6nJ,能量消耗可達2,000倍。
Wittig總結說,如果設計人員非常在意處理器功耗跟運算效能,應該注意以下三個原則:首先,讓資料保持流動,只有在必要的時候才作暫存;其次,如果要做資料暫存,應該盡可能使用容量最小的記憶體;第三,盡可能把資料存放在晶片內的記憶體,不要放到外部DRAM上。
這也是一種思維的翻轉。在通用運算架構裡,是處理器下指令,把資料搬到核心來處理,但在領域專用架構裡,為了追求更好的運算效能跟降低功耗,是處理單元要盡量貼近資料。
ACAP架構因為具有「適應性硬體」、「近記憶體運算」與可支援「多樣化資料傳輸模式的晶片內互連」這三大特性,目前已經是一個相當理想的適應性資料流處理器。接下來,ACAP架構會朝強化平行運算的方向前進,利用ACAP架構的適應性互聯跟低延遲特性,讓眾多AI核心有更大的發揮空間。
Xilinx致力加速工業與醫療物聯網產業發展
賽靈思(Xilinx)因應工業與醫療物聯網的資料量以爆炸性成長而衍生的資料應用難題提出三大戰術:世界級的解決方案堆疊、工業PC加速及邊緣與雲端協作,以滿足工業與醫療產業最注重的產品尺寸、價格、耐用性、低功耗及資料安全性等需求。工業、視覺、醫療與科學及航太與國防領域業務的成長強勁,在賽靈思2019會計年度財報的營收占比達27%,是收入排名第四、客戶數最多的業務領域。
賽靈思工業、視覺、醫療及科學(ISM)市場經理翁羽翔表示,ISM是賽靈思擁有最多客戶數的業務領域,在2019會計年度中的營收占比也已超過全公司營收的四分之一。賽靈思非常重視此領域的發展,賽靈思的全方位解決方案也已經得到許多客戶的正面反饋,包括上海聯影醫療科技、松下(Panasonic)安全部門與索尼(Sony)半導體解決方案部門等;未來賽靈思也將持續致力於提供客戶高效能、高穩定度、低延遲、低功耗並兼具安全性的解決方案。
隱私、資料安全、資料管理和運算效率是ISM領域普遍考量的問題。根據調查,現今全球90%的資料是在過去兩年中產生,這相當於每天產生高達2.5 Exabytes的資料量。隨著物聯網時代的到來,企業若能妥善運用資料將為他們帶來許多優勢,也能大幅提升營運效益,例如應用在預測性維護將能避免工廠停機的狀況發生、透過OTA(Over-The-Air)更新能延長硬體的生命週期進而降低擁有成本;在醫療機構中,可提供更快、更精準的診斷結果,並更有效地管理醫療資源。如何協助客戶有效地運用資料成為賽靈思在這兩個領域的戰略核心。
當企業獲得的資料越來越多,隱私問題也隨之受到更多關注,而這與資料安全性密不可分。資料的安全與否可能隨著時間而變化,即使現在是安全的,但隨著運算能力的增長和駭客技術的精進,安全性也會隨之減弱。無論是工廠設備或是醫療器材的建置都非常昂貴,目前市場上的解決方案大多採用軟體升級,但賽靈思能同時兼顧軟硬體升級,這樣靈活應變的特性可以協助工廠和醫療機構延長其資產的壽命,進而提高投資報酬率。
此外,延遲與反應時間也至關重要。在工業與醫療物聯網的應用場景中,雲端越來越無法負荷需要大量且即時的傳輸與運算需求,加上並非所有的環境都有強大的網路連結,雲端運算的效益在這樣的情況下將大打折扣,而邊緣運算能補足雲端運算的缺口,降低資料傳輸、儲存與處理的成本。賽靈思運用邊緣AI針對客戶的問題痛點提供運算資源,除了能夠降低功耗、提升效能與效率外,在沒有網路連線的情況下也依然能正常運作。
Xilinx推出具900萬個系統邏輯單元全球最大FPGA
賽靈思(Xilinx)宣布推出全球容量最大的FPGA「Virtex UltraScale+ VU19P」,擴展旗下16奈米Virtex UltraScale+系列。VU19P內含350億個電晶體,擁有有史以來單顆元件上最高的邏輯密度與I/O數,用以支援未來最先進的ASIC與SoC技術之仿真(Emulation)與原型開發,亦能支援測試、量測、運算、網路,以及航太與國防等相關應用。
VU19P樹立了FPGA產業的新標竿,其擁有900萬個系統邏輯單元、高達每秒1.5 Terabit的DDR4記憶體頻寬、高達每秒4.5 Terabit的收發器頻寬及超過2,000個使用者I/O,不但能促成現今最複雜SoC的原型開發與仿真,還能支援各種複雜的新興演算法的開發,包括用在人工智慧(AI)、機器學習(ML)、視訊處理及感測器融合等領域的演算法。VU19P的容量比前一代業界最大容量的「20奈米Virtex UltraScale 440 FPGA」高出1.6倍。
賽靈思產品線行銷與管理資深總監Sumit Shah表示,VU19P不僅能協助開發者加速硬體驗證,還能助其在ASIC或SoC可用之前就率先進行軟體整合。這是賽靈思刷新世界紀錄的第三代FPGA;前兩代分別為Virtex-7 2000T與Virtex UltraScale VU440,現在則推出Virtex UltraScale+ VU19P。但是,伴隨此次新產品發布的,不僅僅是精進的晶片技術,我們還為之提供了穩定且經驗證的工具與IP支援。
透過一系列廣泛的除錯(Debug)、可視性工具(Visibility Tools)與IP支援,VU19P為客戶快速設計與驗證新一代的應用與技術,提供了一個全方位的開發平台。軟硬體的協同驗證讓開發者能在取得實體元件前,就先著手軟體與客製化功能的建置。此外,透過運用賽靈思Vivado設計套件能協同最佳化設計流程,以降低成本與投片風險、改善效率並縮短上市時程。
Arm設計服務總監Tran Nguyen表示,Arm仰賴賽靈思元件作為驗證新一代處理器IP與SoC技術的工藝。新推出的VU19P將進一步支援Arm及我們的產業生態系中的業者,加速實現設計、研發與驗證我們最遠大的技術發展藍圖。
賽靈思與Solarflare併購案正式完成
收購Solarflare為賽靈思帶進引領業界的技術,還獲得在網路硬體、軟體、韌體與驅動程式等領域擁有優異能力的工程人才,加速了賽靈思「資料中心優先」的策略與向平台公司轉型之路。
未來,兩間公司合併後所開發的SmartNIC將能在介面卡上直接運行網路、儲存與運算加速,省去在伺服器上運行這類工作負載。同時,賽靈思也會將Solarflare網路技術整合至Alveo加速卡系列上,協助關鍵資料中心的工作負載。
欲瞭解更多資訊,請前往以下連結:https://forums.xilinx.com/t5/Xilinx-Xclusive-Blog/In-the-NIC-of-Time-Solarflare-SmartNIC-Now-Part-of-Xilinx/ba-p/1002417
貿澤電子與Xilinx簽訂全球代理協議
貿澤電子(Mouser)宣布與賽靈思(Xilinx)簽訂全球代理協議,開始供應其領先業界的Xilinx產品,包含開發軟體與IP的數位下載。Xilinx是FPGA、硬體可編程式系統單晶片(SoC)及動態調適運算加速平台(ACAP)的發明廠商,該平台提供了全業界動態運算能力最高的處理器技術,可實現未來具自適應智慧能力的連網世界。
貿澤總裁暨執行長Glenn Smith表示,Xilinx為業界領導廠商,也是通過市場考驗的新技術創新者。本公司很高興能成為Xilinx多樣化產品與工具套件的供應商,為我們的客戶提供更全面性的產品組合。我們很期待能透過我們在電子商務和為設計工程師引進新產品方面的專注付出,幫助Xilinx擴大其全球的客戶群,並提高收益。
Xilinx全球業務部資深副總裁Mark Wadlington表示,貿澤為工程師提供出色的在地客服,擁有世界級的物流與廣大的客戶群,很高興他們能加入我們的全球代理商通路,期待我們能開創一段長期且成功的合作關係。
貿澤已開始供應Xilinx的完整產品系列,包括Zynq SoC和MPSoC,還有ACAPS、FPGA、3D IC、RFSoC、加速器卡、評估板、系統模組、FPGA夾層卡、嵌入式開發平台,以及有助於加快設計流程的各種其他產品。
Xilinx榮登麻省理工科技評論全球50家最聰明企業榜單
自行調適與智慧運算的全球領導廠商賽靈思(Xilinx)宣布首次榮登全球權威榜單2019《麻省理工科技評論》「50家聰明的公司」(TR50)榜單。TR50是全球最具權威性的技術商業類榜單之一,同時也是一份「技術如何改造世界的指南」。此份榜單由《麻省理工科技評論》中美編輯部,以及來自全球學術界、產業界、投資界的特邀顧問團共同進行評選。賽靈思大中華區業務副總裁唐曉蕾在上周於中國杭州舉行的頒獎典禮上代表公司上台領獎。
2019年的TR50名單包括科大訊飛、大疆創新、字節跳動等眾多新創企業,也包含微軟、阿里巴巴、博世、華為、嬌生、中國平安等產業巨擘,代表這些企業透過創新的理念、產品與技術改變了幾乎所有的產業,同時亦創造全新的產業。這本創刊已超過百年的科技雜誌透過這份年度榜單,對於全球50大最聰明企業在將高科技創新與成功的商業模式相結合,並推動產業發展做出的卓越成就予以高度認可。
賽靈思全球市場資深副總裁Emre Onder表示,賽靈思對於榮登《麻省理工科技評論》TR50榜單感到非常榮幸且深受鼓舞。賽靈思的使命是打造靈活應變、萬物智慧的世界,而創新是賽靈思致勝的法寶。從5G網路與更智慧、更快的資料中心,到8K視訊串流與自動駕駛等,在這些令全球消費者和企業感到興奮的新興技術背後,都有賽靈思所開發具改革性的領先技術。賽靈思團隊對於能傳承賽靈思35年創新與第一的傳統並推動世界不斷進步及打造關鍵的基礎深感驕傲。
2019年是賽靈思成立的35周年,也是賽靈思發展史上的重要里程碑,公司年營收首次突破30億美元大關,在產品上亦達到自發明FPGA以來最顯著的成就:開始出貨Versal ACAP 自行調適運算加速平台。Versal是一種高度整合的多核心異質運算平台,該系列採用台積公司7奈米製程技術打造,是業界首款將軟體可編程性、適用於特定領域的可組態化硬體加速、以及讓企業能跟上現今快速創新腳步的靈活應變特性結為一體的平台。該產品系列在運算效能和效能功耗比上都大幅超越CPU和GPU,可將特定應用的效能和效率提升10倍以上,為實現加速資料中心、汽車、5G無線、有線等領域的新興技術提供了強大引擎。賽靈思對於Versal及採用這一全新平台的生態合作夥伴和客戶將攜手實現的未來充滿信心。