AI晶片
IMEC與格羅方德AI晶片大突破 神經網路運算聯手IoT邊緣設備
比利時微電子研究中心(IMEC)日前與格羅方德(GLOBALFOUNDRIES, GF)公開展示了全新AI晶片硬體。在IMEC類比記憶體式運算(AiMC)架構及格羅方德22FDX製程為基礎的前提下,這款全新晶片經過最佳化,並於類比環境中的記憶體式運算硬體進行深度神經網路運算。在達到2,900TOPS/W的創紀錄高能源效率後,加速器被視為低功率裝置進行邊緣運算推論的關鍵推手。這項新技術在隱私保護、安全性以及延遲性等各種優勢,將為智慧喇叭、自駕車等諸多邊緣設備的AI應用程式帶來衝擊性的影響。
使用大量數據的作業時,需要從記憶體取回一樣數量的數據元素,此一限制稱為「范紐曼瓶頸」(Von Neumann Bottleneck),會拖慢實際的運算速度,特別是在神經網路這種大量依賴向量矩陣乘法的運算中。這些運算除了仰賴數位電腦的精準度外,還需要大量的能源。然而,若以準確度較低的類比技術執行向量矩陣乘法,神經網路一樣可以獲得精確的結果。
為了因應這個挑戰,IMEC透過旗下的產業聯合機器學習計畫,與格羅方德等產業夥伴開發了一套新架構:在靜態隨機存取記憶體單元(SRAM Cells)中執行類比運算,藉此消除「范紐曼瓶頸」的限制。以此開發的類比推論加速器(AnIA),則以格羅方德的22FDX製程半導體平台為基礎,具有出色的能源效率。特徵測試顯示,其能源效率高達2,900TOPS/W。微型感應器及低功率邊緣設備中的圖形識別,一般得仰賴數據中心的機器學習,如今可透過此一高效能加速器在地執行。
AITA人工智慧戰略布局 搶攻裝置端AI晶片
全球搶攻人工智慧(AI)商機,AI晶片將扮演核心大腦的角色,是未來智慧裝置的關鍵元件,更是各界看好台灣半導體產業下一波的新機會。為此,在行政院科技會報辦公室、經濟部指導下,產、學、研攜手於近日啟動「台灣人工智慧晶片聯盟」(AI on Chip Taiwan Alliance, AITA),匯集鈺創、聯發科、廣達、台達電等國內外逾50家指標性半導體與ICT廠商,以及國內大學及工研院等國家級研發機構,共同建構AI生態系、發展關鍵技術、加速產品開發,並聚焦於終端裝置用AI晶片。
AITA聯盟執行秘書暨工研院光電系統所副所長張世杰表示,全世界具備了半導體發展能量的國家都已經投入大量資源在AI晶片技術的發展,而台灣身為半導體強國,在這樣的競賽當然不能缺席。
張世杰指出,目前AI晶片市場呈指數型大幅度地成長,而AI晶片大致可以區分成通用型晶片及專用型晶片,專用型的AI晶片應用於特殊領域,並可進一步細分為用於雲端、邊緣或是在裝置端與感測器相結合的晶片種類。台灣適合發展的市場就是在專用型裝置端AI晶片,再針對專用型裝置端AI晶片進行分析,又可分為傳統架構以及仿腦神經的新興架構、新興記憶體,仿腦神經的專用型裝置端AI晶片將會是台灣發展AI晶片的新大陸。另外,目前在仿腦神經的專用型裝置端AI晶片市場已有布局的廠商為IBM、英特爾(Intel)、MYTHIC、Syntiant等。
裝置端AI晶片具備幾項優點,具即時性能夠馬上反應、即時辨識,適用於人臉辨識開鎖功能或自駕車應用;具可靠性,可以排出網路斷線的可能,在自駕車或無人機領域十分受用;而資料不須上傳雲端,便能保障使用者的隱私,在安全監控與健康管理等方面可以守護個人資料不外流;同時,裝置端AI晶片也能客製化,透過裝置端學習,滿足客製化需求,實現語音辨識、智慧眼鏡等應用。
張世杰進一步說明台灣發展裝置端AI晶片的優勢,由於台灣具記憶體產業能量,與記憶體和新興記憶體整合設計將是提升AI晶片效能的重要關鍵。台灣國內有多家廠商能生產製造記憶體,是發展AI晶片的優勢之一。而裝置端AI晶片直接針對數據進行處理,是資安與隱私保護的重要防線,台灣能徹底落實資訊安全防護,於國際合作中更容易建立起良好的信任感。另外,預期未來物聯網(IoT)裝置所使用的控制晶片多數將內含AI加速晶片。台灣過去具有豐富的IoT裝置製造經驗,未來若結合AI晶片共同發展,將在國際競爭上更具優勢。
耐能智慧AI晶片實現3D人工智慧方案
人工智慧(AI)產業已經成為全球科技巨擘的下一個兵家必爭之地,令人驕傲的是,台灣在這一波浪潮中並沒有缺席,不到四十歲、生於台灣的劉峻誠創辦了AI公司耐能智慧(Kneron),並獲得奇景光電、阿里巴巴創業者基金、中華開發、李嘉誠旗下維港投資、高通等頂尖投資者支持,推出一款震撼業界的3D人工智慧解決方案。
耐能發表首款名為「KL520」的AI晶片系列,將神經網路處理器的功耗降至數百mW等級,為各種終端硬件提供高效靈活的AI功能,其中一項高精準度的3D人臉辨識功能,可達到高解析圖片、影像、3D列印模型、蠟像均無法破解的技術水平。
KL520 晶片甫投入市場,即獲得全球知名企業青睞,包括鈺創及其專精3D深度圖之夥伴公司鈺立微電子、納斯達克上市企業奇景光電、工業電腦大廠研揚科技、專業通訊元件設計及通路商全科科技、和碩聯合科技、以及大唐半導體、奧比中光等。透過KL520的AI運算能力,將各類產品效能全面提升。
率先與耐能合作的奇景光電,執行長吳炳昌表示,耐能先進的人臉辨識算法,與奇景開發的SLiM 3D 感測解決方案整合,提供給安防領域最佳的3D 人工智慧方案,兩強聯手,必定能讓3D人工智慧在安防領域發揮更大的作用和價值。
成立於2015年的耐能,總部位於美國聖地牙哥,創辦人劉峻誠畢業於台南成功大學,獲得美國雷神公司(Raytheon)獎學金和加州大學獎學金,赴美深造,就讀於美國加州大學柏克萊、洛杉磯與聖地牙哥分校的共同研究計畫碩博班,之後取得加州大學洛杉磯分校電子工程博士學位。陸續在高通(Qualcomm),三星(Samsung Electronics),晨星半導體(MStar)任職,長時間投入於AI技術的研發。
耐能的獨特技術,在於研發出一款高效率、低功耗的AI晶片,把AI運算的場域從雲端轉移至終端設備,不僅能達到即時辨識與判斷,同時還提供軟硬體結合的解決方案。
另外,KL520晶片的「可重組式人工智慧神經網路技術」,會根據不同任務進行重組,減少運算複雜度,保證在不同的卷積神經網路(CNN)模型上的使用,無論是模型內核(kernel)大小的變化、模型規模的變化,還是影像輸入大小的變化,耐能AI晶片都能保持高效率使用運算(MAC)單元。
耐能的AI晶片成功實現高效運算,數據格式按運算需求靈活調整,致使在計算過程中實現極高的「數據計算vs. 數據讀寫」比例,減少記憶體數據搬運的能量耗損;同時,耐能模型壓縮技術可有效減小模型大小,大幅降低在終端部署時的儲存成本,也大幅降低了記憶體頻寬的需求,並可提供較為通用,可同時支持語音及2D、3D影像的AI需求。
這堪稱是AI發展上的一個大躍進。Kneron成功實現人工智慧在雲端及離線終端上的互補,完成從提供IP到AI晶片的新里程碑,也開啟了人工智慧應用於不同層面的無限可能。
CIC/NDL正式合併 台灣半導體研究中心揭牌運作
國家實驗研究院旗下兩個跟半導體技術相關的單位--國家晶片系統中心(CIC)與國家奈米元件實驗室(NDL),在2019年1月正式合併成為台灣半導體研究中心(TSRI),成為全球唯一一座整合IC設計、晶片製造與半導體元件製程研究的國家及科技研發機構。
科技部長陳良基表示,因應新興電子系統智慧化跟工業4.0的發展趨勢,半導體元件必須提供比現在更高的運算效能,同時還要兼顧省電性。這對未來的IC設計、半導體製造都將造成考驗,也會促成異質整合的風潮。在此情況下,原本聚焦在IC設計的CIC跟著重後段製造的NDL合併,不僅有其必要性,更可望發揮一加一大於二的綜效。
合併後的半導體中心除了將持續提供IC設計、下線試產、測試、材料、製程等研發服務外,原本就肩負的人才培訓任務也會繼續進行,甚至希望能將觸角從大學向下延伸到高中,以吸引更多年輕人加入半導體產業。
台灣交通大學校長張懋中在致詞時就表示,對於所有從事半導體相關領域研究的學者或學生來說,台灣是個獨一無二的聖地。在方圓五公里的小小範圍內,匯集了高等院校、IC設計、半導體製造、材料等所有半導體產業的相關機構,世界上沒有其他地方有這麼好的發展條件。
也因為如此,交大最近幾年吸引了許多外國留學生前來學習、研究半導體相關技術,特別是印度籍學生。在TSRI正式成立後,對全世界研究半導體技術的學者跟相關企業而言,台灣在半導體領域的重要性,勢必將更上一層樓。
TSRI主任葉文冠則表示,晶片設計與元件製程的整合,將開創更多跨界的前瞻研究題目。中心的研究人員會更積極地連結學界與企業夥伴,共同投入人工智慧(AI)、量子電腦等新的研究題目。另一方面,TSRI也會更積極推動科普活動,幫助更多年輕學子了解半導體科技,進而吸引他們日後投入產業。
此外,配合科技部半導體射月計畫及台灣AI晶片技術發展的需要,TSRI領先國際類似機構,建置國內第一個人工智慧終端系統開發實驗室,提供包含AI模型驗證、AI晶片模擬驗證、AI晶片軟硬體協同擬真驗證、AI晶片FPGA雛形驗證、AI晶片實作與驗證、AI系統與軟體開發等AI晶片及系統設計開發必備之工具、技術資料及設備。未來將以一站式服務模式,支援學界將創意發想轉換為具體AI晶片系統,以接續產業合作,達到學術領先、產業落地的研發效益。
AI將為產業帶來全面性的變革與成長
AI人工智慧不僅將顛覆人們未來的生活,也將廣泛影響各行各業,科技創新影響無遠弗屆,AI運用大量資料、演算法以及高速運算能力,加乘智慧系統使其展現更快的學習能力、更準確的預測能力、以及更高的辨識率,將改變既有應用生態產生新應用、新產品、新體驗。
首先,邊緣運算正興起。工研院IEK預估2018年有近四成企業規劃在終端處理資料,2020年有75%資料,幾乎都會在終端來完成處理。第二趨勢是AI晶片未來五年市場高度成長,預計2020年商機達158億美元,從2017~2020年均複合成長率為63.5%。第三個趨勢是安全隱私保護愈趨重視。
根據工研院IEK的研究顯示,廣告行銷業將大量採用AI技術,包括網路服務與社群媒體,為AI應用最大的市場區隔,2015~2020年CAGR為61.8%,2024年產業規模達29億5,000萬美元;投資業2024年產業規模達24億9500萬美元,2015~2020年CAGR達61.1%;金融服務業則以70.5%的CAGR拿下最具潛力應用;而自動駕駛與晶片業產業規模也有3億8000萬美元,CAGR達41.3%。