領域專用運算架構
天時/地利/人和俱足 開放處理器來勢洶洶
在摩爾定律逐漸走向尾聲,處理器效能提升速度趨緩的情況下,為了榨出更多效能,以滿足人工智慧(AI)等應用對運算能力的需求,晶片設計者開始在主流的處理器IP之外,探索其他的可能性,例如異質運算、異質整合封裝概念的興起,都與CPU效能成長趨緩,有著密不可分的關係。
領域專用運算架構(Domain Specific Architecture)的觀念,為許多IC設計團隊帶來新的靈感。在標準處理器之外,利用客製化的指令集跟邏輯電路,提高特定某幾類運算任務的執行效率,以便讓處理器在功耗、晶片面積沒有大幅增加的前提下,執行特定任務時能有更高的效能,是領域專用運算架構的核心概念。而開放式CPU架構具有自由、可擴充等特性,正好與領域專用運算架構的想法一拍即合,也促成RISC-V在短時間內爆紅。
開放架構處理器的概念並非RISC-V首創,自2005年起,產業內便曾陸續提出OpenSPARC、OpenRISC、OpenCores等開源指令集架構,但始終面臨相關生態系不易建立,難以受到市場廣泛採用的難題。直到2010年加州柏克萊分校的Krste Asanović教授在其實驗室中開始一系列的開放原始碼研究,RISC-V即是他的RISC CPU研究計畫中的一項。隨後2015年,RISC-V基金會在瑞士成立,以非營利組織的形式推動RISC-V生態系進展,才奠定了RISC-V的基礎。
柏克萊掛保證 RISC-V成功引起產業興趣
晶心科技(Andes)技術長暨執行副總經理蘇泓萌(圖1)提及,柏克萊大學原先為了教學目的而開發出RISC-V,而柏克萊大學作為電腦科學人才培育的重鎮之一,其響亮的名聲,是初步吸引廠商對RISC-V產生興趣的原因。
圖1 晶心科技技術長暨執行副總經理蘇泓萌
與其他的開源硬體相比,RISC-V具有兩方面的優勢,一是簡單易學,二則是良好的商業模式。原本就是為了教學而發展出來的RISC-V,跟其他主流CPU或開源CPU相比,很容易學習上手,有些比較年輕的工程師,很可能在學生時代就已經接觸過RISC-V,因此開發團隊的培養、建構,跟採用主流CPU架構開發晶片相比,難度比較低。而商業模式方面,RISC-V是開源硬體,開發者不用支付授權費、權利金,免於承擔龐大的資金壓力,也讓許多廠商更願意嘗試在晶片中採用RISC-V架構。
SiFive總裁暨執行長Naveed Sherwani(圖2)則從天時、地利、人和的角度,來分析RISC-V快速竄起的原因。在人和方面,Sherwani的觀點與蘇泓萌類似,認為從學術教育需求中誕生的RISC-V,其單純易學、容易客製化的特性,讓RISC-V在推廣時占了很大優勢,這也讓半導體大廠與EDA工具業者看到RISC-V的發展潛力,進而提供支持。這是其他開源或可組態(Configurable)CPU所不曾享有的待遇,也是RISC-V聲勢快速上漲的原因。
圖2 SiFive總裁暨執行長Naveed Sherwani
各國追求半導體自主 RISC-V來得正好
至於在地利方面,由於國際政治的對立加劇,許多國家都需要在談判桌上累積更多籌碼,而半導體作為重要的戰略物資,自然是各國爭相投入扶植的產業。事實上,SiFive在2019年曾經在埃及、巴基斯坦等根本沒有半導體產業的國家舉辦RISC-V論壇,結果動輒吸引數百人、上千人出席,原因也在於各國都想要在半導體領域掌握一定的自主權。對於沒有半導體或資訊科學基礎的國家來說,RISC-V是一個很好的起點。
中國為了追求半導體產業自主,在RISC-V上所投入的資源,更是不在話下。近期中國開放指令生態聯盟才剛舉行CRVS 2020研討會,會中探討了中國RISC-V生態系的未來發展方向,以及中國本土業者在RISC-V處理器設計、驗證、矽智財(IP)與軟體工具等的發展成果,顯示中國有很強烈的企圖心,欲利用RISC-V創造出屬於自己的處理器生態系統。
摩爾定律走向尾聲 運算效能提升要靠客製化
而在天時部分,摩爾定律的進展趨緩,導致處理器效能提升速度大不如前,加上AI應用蓬勃發展,都使得晶片業者必須設法在既有的CPU架構外另闢蹊徑,以滿足客戶對運算效能的需求。
Sherwani就指出,如果處理器的效能提升速度,還能保持十多年前的水準,業界恐怕不會對RISC-V產生這麼大的興趣,因為標準CPU就能滿足應用需求,就算有些電晶體閒置不用或工作效率不彰,對晶片公司跟使用者來說也無所謂。但在摩爾定律走向尾聲,客戶對運算效能的需求卻因為AI暴增之際,晶片業者必然要想辦法讓處理器上每個電晶體都能發揮到極致。針對特定應用進行客製化設計,則是實現這個目標必然要走的路。
蘇泓萌也認為,RISC-V的發展,跟AI有很密切的關係,當AI應用不斷更新,以聲音、人臉辨識與資料中心為主的應用發展比通用的處理器開發更快,須要彈性靈活的解決方案,允許客戶自行修改指令集,才能透過硬體加速滿足AI的效能需求。
應用廣泛的RISC-V便是AI加速的解決方案之一,藉其彈性修改的特性,可依照不同客戶的需求客製化處理器,縮短產品從開發到上市所需的時間。目前RISC-V架構以中低階產品為主,並以美國及中國發展最快。未來RISC-V將走向高階產品,同時持續與學界合作拓展整體生態系。
生態系建立仍為RISC-V最大考驗
基於精簡、可擴充、易於客製等優勢,讓許多廠商對RISC-V躍躍欲試。具代表性的科技公司如英特爾(Intel)、三星(Samsung)及高通(Qualcomm)三大廠商皆對RISC-V處理器IP/解決方案商SiFive投入資金;而聯發科除了是RISC-V基金會的成員之一,也是晶心最大的股東,令市場更加看好RISC-V的發展前景。面對處理器開放架構應用的討論,處理器大廠Arm則選擇部分開放自家處理器架構,因應日益增加的客製化需求。
主流的處理器IP與開放式架構兩陣營各有支持者,而RISC-V架構的出現,提供處理器設計人員在現有IP之外,另一個更具彈性的選擇。基於開源的核心宗旨,RISC-V的開放性可加速創新。然而硬體架構仍須搭配編譯器與軟體工具支援,才能發揮其作用。因此RISC-V的挑戰便在於建立一套完整的支援系統,藉由建立生態系來穩固市場定位,期望未來與主流處理器並駕齊驅。
為了建立RISC-V生態系,學界與業界人士成立基金會共同推動,RISC-V社群中的處理器廠商之間除了各自的策略布局,同時反映了半導體產業的競合關係。蘇泓萌表示,RISC-V社群的廠商間呈現合作性競爭(Co-opetition)關係,競爭對手與合作對象間並沒有明顯的界線。生態圈中存在競爭,但是上下游廠商,甚至競爭對象還是可以合作把餅做大,透過互相支援拓展RISC-V生態系。
AI驅動半導體下一個十年 IC設計/EDA面臨典範轉移
人工智慧(AI)將成為未來十年帶動半導體產業成長的主要動能,同時也讓半導體在整個應用系統中的價值占比大幅攀升到40~50%。但機會跟挑戰總是同時存在,為了滿足各種AI應用的需求,IC設計產業將同時面臨運算架構與硬體設計理念的典範轉移,這將是IC設計與EDA業者必須共同面對的挑戰。
明導(Mentor)IC EDA部門執行副總裁Joe Sawicki引述多家PWC、麥肯錫(McKinsey)等研究機構的預估報告稱,AI將是未來十年帶動半導體產業營收成長最重要的引擎,而且與過去的主流半導體應用市場,如個人電腦、智慧型手機相比,AI應用系統中,半導體元件的價值占比更高。以手機為例,半導體元件價格占手機整機售價的比重,大約只有20%上下;但在AI應用中,半導體元件的價格占售價比重可以高達4~5成。
對半導體業者來說,AI是一個充滿機會的市場大餅,但同時也存在相當大的挑戰。為了滿足AI應用對運算效能、功耗限制的要求,領域專用運算架構(Domain Specific Architecture)在未來會越來越重要,也越來越常見。這類晶片可以視為專為某幾種特定演算法或模型提供加速功能的運算引擎,雖然不像CPU或GPU般通用,但在執行特定運算任務時,性能跟功耗表現都會比CPU跟GPU優異許多。如何設計出能滿足應用需求的領域專用運算架構晶片,不只是個技術問題,同時也考驗晶片開發者對終端應用跟系統需求的掌握度。
這個趨勢會使應用開發者跟系統廠商對晶片設計的掌控權持續增加,因為相較於傳統IC設計者,應用跟系統開發者對垂直領域的需求會有更深刻的了解。IC設計團隊必須要學會用系統的角度來看待產品開發,才能設計出滿足客戶需求的產品。另一方面,因為系統廠發展自有晶片的例子越來越多,這些工程師習慣的語言大多是C、C++或System C,跟傳統用來設計晶片的RTL語言不同,因此明導旗下可使用C、C++等語言來進行晶片設計的高階合成(HLS)工具方案,在系統端受到很大的歡迎。
針對高階合成,明導已經發展出一系列工具解決方案。
除了運算架構的典範轉移外,晶片設計也因為異質整合跟先進封裝技術趨於成熟,開始有了不同的思維。以往的晶片設計者都希望盡可能把所有功能整合在單晶片上。但隨著系統功能越來越複雜,如果晶片設計者想在一顆元件內整合更多功能,光靠CMOS製程常是力有未逮。因此,業界開始出現把多顆裸晶(Die)藉由先進封裝技術包進同一顆封裝的做法,也就是半導體業界所說的異質整合。
另一方面,在AI興起之後,為了追求更好的運算效能,近記憶體運算(Near Memory Computing)成為顯學。為了實現近記憶體運算,晶片設計者必須在晶片上整合更多記憶體,導致晶片面積大幅增加,嚴重影響生產良率。為了提升良率,目前業界以Chiplet搭配先進封裝技術的作法開始風行,不管是用矽中介層(Silicon Interposer)或是有機材料來實現互聯,都是可行的選項。不過,矽中介層互聯的成本太高,有機材料能實現的互聯密度又略嫌偏低,這是未來半導體製造業界需要努力的方向。
Sawcki相信,在AI時代來臨後,用Chiplet來拼湊出完整元件功能的情況會越來越常見,這會使IC設計者遇到更多電磁、散熱跟靜電放電方面的挑戰。目前明導在先進封裝方面已經有許多對應的工具,但產品布局還可以更全面。例如物理模擬,就會是EDA業者必須著手處理跟面對的問題。