雲端資料中心應用帶動HPC市場，處理器大廠無不看好高效能商機，紛紛投入產品角逐優勢地位。
面對資料中心、人工智慧(AI)及物聯網(IoT)等應用的快速進展，數據量急遽成長，加重處理器的運算負擔，顯現出產業內對高效能運算的強大需求。廠商相繼針對HPC推出處理器，以回應市場需求，其中包括Arm v9架構及Neoverse V1平台、英特爾(Intel)Ice Lake處理器、AMD的Milan及NVIDIA Grace處理器，可見業內廠商不只關注HPC應用，更積極攻占HPC市場，全力扭轉固有高效能處理器的市占。
大廠爭相投入HPC
整體HPC伺服器的市場分布，可以從TOP500的超級電腦名單中觀察。工研院資通所人工智慧運算平台組組長王啟龍(圖1)指出，根據TOP500的電腦系統所採用的處理器比例統計，Intel處理器占91.8%，受到共459個工作站採用，大幅領先其他廠商。
接續則是IBM PowerPC 2%、AMD 4.4%，以及Arm占1%。但若從核心數統計，雖然Intel的占比最高，達到60.71%，但是Arm占比則躍升到11.31%。近兩年的算力冠軍富岳(Fugaku)採用的即是Arm處理器，透過使用1000多個伺服器機櫃，打造超過700萬核心的超級電腦。
Intel在處理器市場長期擁有優勢地位，但近年AMD的表現受到市場注目，2021年第一季AMD搶先推出基於Zen 3架構的Milan處理器，提升了19%的IPC效能。緊接著Intel推出第3代Intel Xeon可擴充處理器平台及Ice Lake處理器，同樣在HPC的功能多有著墨，與AMD的較勁意味明顯。近期積極投入HPC領域的Arm也不落人後，架構受到多個雲端大廠的自研晶片採用。另一方面NVIDIA長期耕耘GPU技術之餘，正式涉足CPU領域，聯手併購後的Arm推出Grace CPU，投入這場CPU效能之爭。
AMD急起直追
Intel與AMD在處理器市場競爭已久，直到AMD率先支援PCIe 4.0開始，市占及營收出現明顯成長。王啟龍提及，2019年第四季AMD伺服器的市占為4.5%，2020年Q4則增加到7%。AMD在營收方面也表現亮眼，對比2020年Q1與2021年Q1，Intel伺服器營收下降14.3億美元的同時，AMD的EPYC CPU營收成長3.56億美元。Intel營收下降與AMD營收成長可能的原因，包含Intel製程不順，雲端廠商選擇自製晶片而產生轉單，或者由於AMD市占提高，Intel的銷售隨之下滑。
Arm拓展雲端資料中心市場
Arm在HPC市場的潛力，與雲端大廠使用Arm架構自研相關。MIC產業分析師陳牧風(圖2)表示，就雲端資料中心的HPC技術而言，其應用場景多元，包含IoT、AI、雲端遊戲等，所以雲端服務商透過自研晶片，針對應用場景的需求設計，來達到更佳的運算效果，AWS的Graviton2以及Google TPU都在此列。
MIC資深產業分析師施柏榮(圖3)進一步補充，雖然雲端大廠的強項不在研發晶片，但是自研晶片的發展方向明確，因此部分廠商透過收購併購使用Arm架構的歐洲IC設計廠提升技術能量。例如AWS跟Google雲端平台(GCP)藉由併購以Arm架構為主的廠商，提高晶片研發的能力。從此布局中可以看出在資料中心的應用中，雲端廠商與Arm架構的角色相輔相成。因為雲端廠商會根據自家的雲端資料中心設計硬體配置，開發高度客製化的晶片，可預期未來的數年當中，會有更多解決方案出現。然而雲端廠商自研晶片的方向仍在試驗階段，有待大量的成果驗證。
現階段Arm伺服器市場仍侷限在雲端HPC的伺服器應用中。王啟龍說明，Arm IP雖然提供更具彈性的架構，能夠客製化核心數更多的CPU，但是礙於商用軟體支援程度的差異，相較x86架構商用軟體支援度高，且開源社群活絡的情況，Arm架構在提升普及率的過程中面臨重重挑戰。Arm的伺服器因為商用軟體支援度較低，因此伺服器採用Arm架構，需要自行開發相關軟體。當伺服器只應用於其少數廠商的特定應用中，例如單一的高速電腦運算中心，直接研發相應的軟體即可解決相容性問題，但若要廣泛應付市場需求，尤其面對沒有足夠的軟體研發能量，而採用商用軟體的廠商，無法支援商用軟體便成為難以跨越的門檻。
Arm首席應用工程師黃彥欽(圖4)表示，Arm樂見雲端合作夥伴加入Arm架構的生態圈。雲端廠商自研晶片的原因，可能是為了達到差異化，透過Arm的客製化彈性，廠商可以在自家的軟硬體整合方面，建立更符合使用目的的解決方案。若從市場面觀察，通常廠商自研產品的生命週期較為長久，因此投入自研晶片開發，顯示雲端廠商HPC市場長期的成長潛力。
NVIDIA加入CPU戰局
NVIDIA長期耕耘GPU、AI運算，近期則推出Grace CPU加入高效運算戰局。NVIDIA亞太區技術行銷總監嚴永信(圖5)指出，AI的模型複雜度增加千倍，硬體要能適應AI的需求，有效地處理大量資料，才能達到硬體加速的目的。開發Grace處理器的原因在於，雖然x86架構在某些應用上運算效率高，但是在CPU與GPU之間的連結性不足，造成資料傳輸瓶頸。因此Grace CPU專為運算龐大的AI模型設計，透過加強晶片間，包含CPU/GPU之間的溝通加速運算。由於AI產業還只是雛型，不斷有新的應用出現，模型也一直改變，很難只針對單一模型優化硬體配置。而不管是在手機、筆電或超級電腦，這些處理單位跟記憶體之間都需要溝通橋樑，每個橋樑也都有各自頻寬。如果運算速度非常快，但是資料傳輸不夠快，就會出現效率問題。Grace為了能解 決巨大AI模型的運算瓶頸設計，並不是完全取代x86，而是依據運算的需求分工。
王啟龍分析，伺服器成本結構的變化，影響處理器廠商與雲端大廠的布局策略。過去一台伺服器的價格約20~30萬台幣，其中超過三分之一的成本來自Intel處理器，其他則包含記憶體或是伺服器其他的元件等。現階段一台GPU伺服器，或是一般的CPU伺服器，上面通常配備四片GPU，售價約80萬，多出來的50萬的成本來自NVIDIA GPU。為了控制成本，Intel或雲端廠商嘗試自行開發GPU，但是軟體工具與開源社群的完整度難以與NVIDIA匹敵，較為成功的Google TPU 僅限於特定應用場景，Intel開發的GPU也受限於軟體支援與更新速度而難以普及，所以NVIDIA仍穩坐GPU龍頭的寶座。
至於NVIDIA投入開發Grace CPU背後的策略考量，王啟龍推測，NVIDIA不是要藉由販售處理器獲利，而是透過自主研發的產品，提供雲端大廠一個參考架構。Grace CPU基於Arm架構，並使用GPU運算AI模型，同時強化GPU的資料傳輸速度，當雲端廠商如微軟或Google考慮自行研發晶片，就可以直接參 考Grace的設計。當雲端廠商因為自研晶片，開始往RISC架構陣營靠攏，NVIDIA推出Grace CPU的策略可望成為催化劑，帶動Arm生態系發展，若生態系發展蓬勃，屆時有機會對Intel造成有力的競爭威脅。
生態系競爭勝者為王
綜觀處理器在HPC市場的競爭態勢，x86架構因其效能優勢，仍居於領先地位，在TOP500名單中，超過90%的工作站都採用Intel的伺服器，不過近年仍面對RISC架構帶來的挑戰。Intel的處理器生態系已臻成熟，仰賴完整的商業軟體支援，x86架構仍是高效運算主流。隨著雲端資料中心的需求不斷增加，Arm架構高度彈性與適用於客製化的特性，催生核心數大幅領先Intel伺服器的產品，在效能方面有其優勢，透過結合GPU，試圖挑戰Intel的效能，雲端廠商自研晶片也青睞Arm架構。然而商用軟體支援還是Arm伺服器的硬傷，如果只是應用在雲端廠商的少數且特定的應用，單獨開發軟體不是大問題，但軟體不相容的問題導致Arm架構難以普及，在市占表現上大大落後於Intel。Intel另一個對手AMD在搶先支援PCIe 4.0之後，出現強大衝勁，在營收方面表現亮眼，市占也開始提升，是長期觀察HPC處理器市場的重點之一。
另一方面，NVIDIA在GPU市場已獲得壓倒性的勝利，即便在伺服器的成本結構中占比吃重，但是其他廠商自行研發的GPU即便實際使用上硬體效能足夠，但是軟體更新慢、開源社群不夠活絡，仍舊無法撼動NVIDIA GPU的地位。面對Intel、Arm與AMD在HPC市場的角力，NVIDIA也不作壁上觀，Grace CPU的亮相似乎展現了NVIDIA發展高效運算CPU的企圖心。考慮到NVIDIA採用Arm架構，屬於RISC架構陣營，在雲端廠商自研晶片帶動Arm生態系發展之際，可推測NVIDIA的Grace CPU也許最重要的目的在提供想要自研晶片的廠商，基於Arm架構與NVIDIA GPU的設計參考，同時強化Arm生態系的發展動能，累積打敗競爭對手的潛能。
不論是處理器或雲端廠商的布局，都顯示了這不只是一場效能競爭，還牽涉到AI運算的資料處理，以及生態系發展的競賽。若要在HPC市場中脫穎而出，首先要具備能靈活應付大量數據、AI模型、記憶體更新的能力，在推出解決方案的同時，洞悉市場需求，考量到自家架構長遠的生態系發展，才有機會奪得先機。
