- Advertisement -
首頁 標籤 Nvidia

Nvidia

- Advertisment -

NVIDIA/佛羅里達大學合作打造教學用AI超級電腦

晶片製造商Nvidia日前宣布與佛羅里達大學(UF)合作,為高等教育打造人工智慧(AI)超級電腦,提供700 petaflop的AI性能,UF可望成為國際上具先進AI教學技術的學校。 圖 Nvidia與UF合作,為高等教育打造AI超級電腦。來源:Nvidia 這個合作計畫案的資金總額為7,000萬美元,其中2,500萬來自NVIDIA,提供的項目包括軟、硬體、訓練與相關服務,另外2,500萬則由NVIDIA共同創辦人暨UF校友Chris Malachowsky提供。UF則耗資2,000萬設立以AI為中心的超級電腦與數據中心,期望成為優良的AI教育大學。 UF同時透過NVIDIA DGX SuperPOD架構,強化其現有使用NVIDIA晶片的超級電腦HiPerGator,預計在2021年初讓這台電腦開始運作。超級電腦將能協助UF的學生學習AI工具,並將所學用以解決海平面上升、人口高齡化、數據安全、客製化藥物、大眾運輸與食品安全等問題,預計在2030年將累積30000名從UF畢業的AI人才。 過去NVIDIA以提供個人電腦的影像晶片,提升遊戲畫面的臨場感聞名,但現在已有許多數據中心採用內建GPU的運算硬體,用以加快AI的執行速度,例如訓練電腦分類影像。
0

NVIDIA新vGPU助IT管理效率提升

新冠肺炎 (COVID-19) 疫情為許多企業和組織員工的工作方式帶來永久性的改變。現在,他們可以選擇在家或辦公室進行協作。 NVIDIA (輝達) 於2020 年 7 月推出最新版本的虛擬 GPU 軟體 vGPU,助力全球數百萬專業人士。此軟體能夠支援更多作業負載,並具備提高 IT 管理人員工作效率的功能。 GPU虛擬化是為從設計師到資料科學家的每一個人,提供彈性協作方式的關鍵。無論身處何處,任何人都能在需要高階繪圖與運算力的專案上進行協作。 根據 IDC 的最新研究,企業組織因疫情轉為遠距辦公後,員工生產力是急需解決的首要問題。當 IDC 採訪使用 GPU 加速虛擬桌面的 NVIDIA 客戶時,發現擁有 500 至 1,000 名使用者的企業組織的生產力提高了...
0

TOP500超級電腦採用NVIDIA技術以加速節能

最新的TOP500超級電腦排行榜描繪出現代科學運算領域的發展前景,利用人工智慧 (AI) 與資料分析技術來擴大這個領域,並透過 NVIDIA 的技術來加快其運算速度。 目前全球運算速度前十名的超級電腦中,有八套包括分布在美國、歐洲及中國最強大的超級電腦系統,都採用了 NVIDIA GPU 或 InfiniBand 網路技術,或是兩者兼備。 在最新的 TOP500 超級電腦排行榜中,有三分之二 (333套) 的超級電腦均採用 NVIDIA 的技術(現已完全收購 Mellanox);而在 2017 年 6 月的排行榜上,合計只有 203 套的超級電腦採用當時還是獨立兩間公司的技術,只占總數不到一半的數量,相較起來目前的數量可謂大幅增加。 榜單中有近四分之三 (73%)...
0

NVIDIA提升TPCx-BB運算表現 破大數據分析基準紀錄

NVIDIA(輝達)剛向世人展現出一舉刷新舊紀錄的實力,將運行 TPCx-BB 這項大數據分析基準的效能表現提高近20倍。 NVIDIA 使用由 16 台 NVIDIA DGX A100 系統支援的 RAPIDS 開源資料科學軟體庫套件,僅花費 14.5 分鐘便完成了這項基準測試,而對比先前的紀錄,使用 CPU 系統花了 4.7 小時才完成測試。這 16 台 DGX A100 系統共有 128...
0

NVIDIA與Mercedes-Benz聯手 部署下世代自駕軟體架構

NVIDIA(輝達)宣布將與Mercedes-Benz(賓士)攜手合作,共同打造車用運算系統及人工智慧(AI)運算基礎架構。自2024年起,全新的系統與架構將用於Mercedes-Benz下一代所有車款上,使其具備可升級的自動駕駛功能。據了解,這套系統將是目前汽車上最複雜、最先進的運算架構。 NVIDIA與Mercedes-Benz強化合作關係,打造車用運算系統及人工智慧運算基礎架構 全新的軟體定義架構將建立在NVIDIA DRIVE平台上,並將成為Mercedes-Benz下一代各車款的基本配備,以實現最先進的自動駕駛功能。其中一項主要功能便是能夠自動駕駛車輛,行駛從A地到B地的常規路線,而未來也將出現更多安全又便利的應用。屆時,消費者也將能在汽車的使用年限內,透過無線更新(Over-The-Air, OTA)來購買和新增功能、軟體應用程式及訂閱服務。 事實上兩家公司在2018與2019年CES就已經宣布合作,將人工智慧融入日常駕車情境的駕駛艙樣貌,即Mercedes-Benz User Experience(MBUX)系統;並整合自動駕駛、智慧駕駛艙之軟體定義的合作計畫,此次合作將範圍與深度進一步擴大。 全新的軟體定義架構將建立在NVIDIA DRIVE平台上,並將成為Mercedes-Benz下一代各車款的基本配備 NVIDIA 創辦人暨執行長黃仁勳表示,未來車用軟體可以被編寫,同時可以透過無線更新的方式持續升級。未來每一輛搭載NVIDIA DRIVE系統的Mercedes-Benz車款,都將配備一支由專業的人工智慧和軟體工程師組成的團隊,在汽車的使用年限內不斷開發、完善和強化。 Daimler集團董事會主席暨Mercedes-Benz Cars總裁Ola Källenius指出,這個全新的平台將成為未來Mercedes-Benz各車款中,兼具高效率、集中化且以軟體定義的系統。NVIDIA的人工智慧運算架構將有助於簡化開發自動駕駛技術的過程。未來透過雲端便能下載這些新的功能並進行升級。 NVIDIA與Mercedes-Benz將共同開發AI與自動駕駛車的應用程式,該平台將成為未來Mercedes-Benz各車款中,兼具高效率、集中化且以軟體定義的系統 未來的Mercedes-Benz車輛所採用的自動駕駛功能,將由NVIDIA的下一代DRIVE平台提供支援。名為NVIDIA Orin的電腦系統單晶片(SoC)搭載近期發布的NVIDIA Ampere超級運算架構。NVIDIA DRIVE平台包含用於自動駕駛AI應用程式的完整系統軟體堆疊。NVIDIA與Mercedes-Benz將共同開發AI與自動駕駛車的應用程式,其中包含SAE Level 2及Level 3,以及自動停車功能(最高到Level 4)。
0

美議員提案補助半導體商228億

有鑒於新冠疫情(COVID-19)、香港情勢變化以及晶片生產重心逐漸轉往亞洲,美國議員提案補助半導體製造商228億美元,期望在中國的強力競爭之中,刺激美國的晶片產業發展。 示意圖 美國議員提案補助半導體製造商228億美元。來源:Unsplash 建造一座晶圓廠需要150億美元,大部分支出在於昂貴的工具。補助的提案如果通過,除了將會為半導體設備創造40%可退還的所得稅抵免額度,還會提撥100億美元的聯邦資金來鼓勵建廠,同時提供120億美元的研發基金。補助法案將根據美國國防部的「國防生產法」取得授權,而得以動用資金。 晶片生產中心移往亞洲已是大勢所趨,雖然英特爾(Intel)與美光(Micron)等公司仍在美國當地生產晶片,但是半導體產品生產轉為以亞洲為主。其中台積電即掌握了晶片代工過半的市場分額,以及更先進的製程技術。而蘋果(Apple)、高通(Qualcomm)及Nvidia等公司都依賴台機電和其他亞洲的代工廠製造晶片。
0

關鍵應用含金量高 手機/汽車AI吸引大廠競折腰

AI新興應用持續推進 自2018年起,在演算法層面,AI已經相對成熟,賽靈思(Xilinx)人工智慧業務高級總監姚頌(圖1)提到,目前應用層面還在不斷進展的是神經結構搜索(Neural Architecture Search, NAS)相關的領域,希望透過電腦自動找到最佳演算法結構、減輕演算法工程師的負擔。MIT的韓松教授推出One-For-All神經網路,可以訓練一個複雜的網路,針對不同場景的需求(高精準度、低延遲等),自動選擇部分子網路來滿足要求。2020年,對於邊緣運算解決方案需求最大的還是手機與汽車,二者共同的特點都是無論網路與通訊狀況如何,都需要AI做出迅速的反應。 圖1 賽靈思人工智慧業務資深總監姚頌 姚頌進一步指出,手機、平板電腦已經從通訊工具,升級為娛樂工具,再升級為邊緣的核心設備。除iPhone全系列產品已經搭配了用於FaceID的結構光相機,需要即時、私密的AI識別之外,最新推出的iPad Pro,還新增了dToF的微型雷射雷達,可以進行高精度測距、實現良好的AR效果,而AR也是AI的一個重要應用場景。另外,2020年在自動/輔助駕駛、智慧車艙已全面採用AI,特別是隨著電動車的推廣,汽車被視為下一個智慧終端裝置。 過去影像辨識與語音辨識通常是各自發展的應用,主要原因是影像採用卷積神經網路(Convolutional Neural Network, CNN),語音使用遞歸神經網路(Recurrent Neural Networks, RNN),然而近期Google公開演示了使用CNN網路進行語音辨識,也開啟了影像與語音辨識複用的可能,NVIDIA技術行銷經理蘇家興(圖2)認為,目前已有應用同時導入兩種辨識技術,讓人機溝通更自然,雖然目前還不是使用同一套網路,但或許不久的將來就會相互整合。 圖2 NVIDIA技術行銷經理蘇家興 手機/汽車AI競爭如神仙打架 手機與汽車是兼具雲端與終端的裝置,一方面需要強大的運算效能,一方面對耗電非常在意,這類產品也被看好具有高度潛力,於是大廠的邊緣應用都投注心力在這兩類產品。姚頌表示,AI晶片除了性能需求足夠出色,更重要的是需要有簡單易用的開發環境、豐富的生態以及滿足使用場景的產品功能。賽靈思2019年推出了全新的軟體發展環境Vitis與Vitis AI,就是旨在協助不同開發者輕鬆地開發AI應用。而針對AI產業的Vitis AI以及Vitis AI Library,可以允許演算法工程師直接在提供的大量案例上二次開發,也可以透過簡單的命令與腳本編寫完成AI演算法的編譯與執行。 在晶片層面,賽靈思推出了新的車規級運算平台XAZU7與XAZU11,可以廣泛用於L2到L3的輔助駕駛與自動駕駛場景,也可以用於智慧車艙的各類應用。到目前為止,Vitis AI已經發布了最新的1.1版本。而賽靈思的自動/輔助駕駛方案也得到戴姆勒、百度等汽車產業認可。 另外,NVIDIA在GTC也公布新一代自駕車平台Orin,將整合具新一代TensorCore之Ampere架構GPU,針對L2的標準可在45W耗電水準下,提供200TOPS性能的版本;針對先進輔助駕駛的Orin ADAS SoC,可在5W功耗提供10TOPS的性能,能夠滿足當前先進輔助駕駛的需求。標準的Orin採用12核Arm Herculus CPU搭配Ampere GPU,記憶體頻寬達200GB/s,與支援四路10Gbps乙太網路,具備170億個電晶體。在L5自動駕駛平台部分,NVIDIA藉由雙Orin搭配兩組Ampere架構GPU組成,功耗800W,但算力可達2,000TOPS。 而在CES 2020,高通發表Snapdragon Ride平台,正式進軍自駕車領域。該平台共有三種不同的配置,其中,單處理器版已經足夠應付ADAS系統;雙ADAS處理器版本,算力則更進一步強化,同時也為系統準備了安全備援,可以支援L2和L3半自動駕駛。第三種配置則在上面的基礎上多了加速晶片,三晶片版本的配置包括兩塊ADAS處理器外加自動駕駛加速器,算力可達400TOPS。 關鍵應用投入大量資源/時間 除了汽車與手機之外,蘇家興表示,智慧醫療、5G等應用也需要高運算力,而由於AI模型發展越來越複雜,在業界希望賦予AI更多能力的前提下,導致資料庫越加龐大,所以在訓練過程中希望可以優化網路,以提升整體系統的效率。 AI晶片在重要裝置如手機、汽車等平台的發展目前由大廠主導,除了含金量高之外,這類平台的應用需要整合許多相關資源,與雲端的網路訓練關係也很密切,如自駕車就需要非常龐大的網路資料庫輔助,目前相關廠商已累積不下數百萬英哩的測試里程,但實際上離自駕車可以安全上路還有很長一段距離;另外,智慧醫療除了資料數量之外,更要求資料品質,而且醫療行為攸關人命,發展過程會更加謹慎。相信未來幾年,人工智慧還會發生更多有趣的事,開創更多可能性,值得市場持續關注。
0

不確定因素持續存在 2Q’20半導體銷售料將小幅萎縮

市場研究機構IC Insights最新報告指出,由於武漢肺炎疫情影響,科技產業鏈的運作面臨諸多不確定性,許多半導體業者已無法提供全年財測,只能逐季提供下一季營運預估。但為了評估半導體產業的景氣走勢,IC Insights仍彙整了21家提供2020年第二季財測報告的企業所提供的資料。整體來說,半導體公司對第二季營運的看法都呈現保守或悲觀態度,僅少數公司如聯發科、超微等6家公司,預估第二季營收將比第一季成長。  
0

資料科學/電子工程攜手 AI智慧醫療影像判讀加速診斷

新冠疫情爆發促使智慧醫療成為熱門議題,人們期望新科技有助於強化醫療效率及資源分配。醫療科技現正進入整合大數據與人工智慧的階段,許多醫師或醫療單位意識到醫療智慧化的需求,認為人工智慧(AI)的影像辨識技術可以協助醫療人員做決策,並提升診療的精確性及效率,因而紛紛投入AI相關的研究,或者與研發團隊合作,期望達成診斷的品質/效率/醫療資源分配最佳化的目標。而AI進入醫療體系的同時,智慧醫療的研發則面臨資料搜集、臨床的落地應用與法規限制等重大挑戰。 醫師主動學習AI 望診斷品質提升 處於醫療現場,許多醫師與醫療團隊感受到科技需求,主動進修並學習AI,走向智慧醫療。成大醫學資訊所特聘教授蔣榮先原是主攻人工智慧的資料科學家,因曾在成大醫學院兼課,開啟醫療領域的大門,以資工及AI的角度分析醫療資料。現在蔣榮先的醫學資訊研究室裡有16位醫生前來進修博士,希望透過AI提升醫療診斷品質。 圖1 成大醫學資訊所特聘教授蔣榮先說明,AI可以幫助診斷品質不受人為因素影響,而能隨時保持穩定與精準 目前全國只有五間大學設立醫學資訊研究所,蔣榮先分享,但是台灣很需要資訊及醫療的跨領域人才,藉由AI技術量化醫生經驗,才能形成一套醫療決策系統,幫助診斷品質不受人為因素影響,而能隨時保持穩定與精準,全面提升醫療品質。在醫療影像方面,導入AI可大幅提升影像的判讀速度,協助醫師救治更多病患以外,還能在特定情況下確保傷患在短暫的黃金時間內得到應有的治療。 針對醫師診斷的應用,蔣榮先描述急診室的模擬情境。如果一個可能腦出血的車禍傷患被送進急診室,需要先拍攝X光及斷層掃瞄,由放射科醫師透過影像診斷病患是否出現主動脈剝離的病徵,若是確定主動脈剝離,則需要通知急診醫師,並在幾分鐘的黃金時間內注射藥物使動脈收縮,以免發生中風。腦出血的黃金治療時間非常短暫,但是急診與放射科醫生需要同時診斷多位病患,若是未能即時發現車禍傷患需要注射藥物,則會造成嚴重的治療延誤。因此醫院導入AI的影像辨識程式,當傷患進入急診室並拍攝X光及斷層掃瞄後,AI可以1秒辨識主動脈狀況,若有剝離的危險可立即傳送預警簡訊給急診醫師,達到黃金時間內注射並治療的成效。 導入AI需醫療專業/資料科學/電子工程合作 面對智慧醫療的需求,科技大廠與新創團隊都針對醫療提出科技解決方案,其中國際晶片廠商NVIDIA回應醫療科技開發人員的需求開發Clara平台,在確保個資安全的前提下,向醫療單位搜集醫療影像資料,作為訓練AI的素材,同時善用其GPU快速運算的優勢,提供醫師標註影像的工具。NVIDIA亞太區健康照護解決方案架構總監黃宗祺用三角型形容AI醫療領域的三個重要角色。專業的醫療數據與資料來自醫療機構;資料科學家則熟知各種分析工具並不斷開發適用不同場景的演算法;電子工程廠商則負責提供最基礎的平台與演算法架構。黃宗祺認為,理想上三個領域的發展需要呈現均衡的正三角形,但台灣目前沒有機構的發展三者兼顧,因此跨領域合作便是發展智慧醫療的重要課題。 圖2 NVIDIA亞太區健康照護解決方案架構總監黃宗祺認為,跨領域合作便是發展智慧醫療的重要課題 NVIDIA作為三角型中的資訊平台/工具供應商,便透過醫療平台加速資料科學家的演算法開發,並協助醫師更有效率地標註醫療影像,同時在確保資安的前提下,搜集散落不同醫療機構的資料。目前台北榮總、中國醫學大學附設醫院等大型醫院已使用NVIDIA開發的工具,中醫大附設醫院也透過平台將智慧醫療的骨齡判讀服務分享給北港醫院使用。 新創/醫院合作推解方 新創團隊長佳智能與沐恩生醫團隊則都與大學的醫學研究單位合作,創業研發智慧醫療服務。長佳智能與中醫大產學合作,以全方位的醫療解決方案為核心進行多產品的研發。長佳智能研發長王帝皓分析,AI在醫療領域有三個發展方向,一是影像辨識,只要眼睛可見的診斷途徑都有AI發揮的空間。二為文字產出的醫院資料,如病歷、檢驗報告,可以透過AI協助整理與記錄,三則是基因相關的研發與檢測。三項之中以影像辨識技術最成熟,長佳智能的骨齡輔助判定系統便是應用AI快速判讀兒童的骨骼X光片,進行身高預測。 圖3 沐恩生醫技術長王淳恆表示,公司的醫師輔助平台將朝「資料不多也能做得好」的方向研發 沐恩生醫則與陽明大學臨床醫學所合作,分析醫生在導入AI過程中的幾項臨床痛點,並透過建置自動化訓練AI的工具平台,協助醫生快速開發客製化的AI模型。沐恩生醫技術長王淳恆在AI產業已有15年以上的經驗,他觀察到醫療導入AI時,常見三項痛點: 1.標記認定落差:根據不同醫生的經驗與診斷方式,使用臨床資料的目的和標註不同,不同醫生之間難有共識 2.資料受個資保護:醫院內的資料受到個資法規保護,不能帶出醫院進行AI模型訓練 3.模型不具通用性:不同機器、顯影劑、醫院等條件下,都會造成模型準確度下降 為符合醫療場域的特性,沐恩生醫開發AI輔助軟體MAIA(Medical AI Assistant),醫生只需要具備基礎AI知識,即可透過在軟體中上傳影像並標記,訓練出所需的AI模型,並運用在醫療工作中。作為醫師的個人化工具,單一醫生所能取得的資料不多,因此MAIA的研發朝著「資料不多也能做得好」的方向進行,目前只要幾千張的照片就能做出高精準度的模型,下一代的軟體預計只需要幾十張的照片即可訓練AI。 AI進入醫療領域的發揮,除了協助醫師診斷本科的病患,還能成為不同科別之間的互補角色。王帝皓在醫院是放射腫瘤科醫師,他說明臨床試驗的實際案例,當AI模型與本科醫生比賽診斷資料的準確度時,本科專業的醫生的精準度較高,但是當非本科專業的醫生與AI模型相比,AI模型的表現更出色。因此例如內科或急診醫師遇到病患出現心臟方面的問題,心臟診斷的AI模型就能協助基本的心電圖判定等工作。 圖4 長佳智能研發長王帝皓分析,AI在醫療領域的三個發展方向分別為影像/文字/基因 台灣具醫療/製造業優勢 綜觀AI在智慧醫療領域的發展歷程,王帝皓表示,影像是AI領域發展得最早也最成熟的技術,因此現在許多的智慧醫療產品/服務皆從影像辨識出發,進一步走向其他方面的醫療應用。聚焦台灣智慧醫療發展的優勢與挑戰,黃宗祺認為,在優勢方面,台灣雖然人口基數較小,醫療資料搜集的總量雖不如人口大國,但是醫療人員專業度在全球名列前茅,因此能夠擁有高品質的資料標籤,有利於AI模型訓練。另一方面,軟、硬體技術也是台灣在智慧醫療領域的優勢之一,然而好的產品仍需健全商業模式的支持,台灣市場小且缺乏共享服務的相關經驗,若能在智慧醫療方面與東南亞或鄰近國家合作,將開拓更多的可能性。 此外,觀察影響智慧醫療研發的外部因素,王帝皓提到台灣法規對於AI與智慧醫療的限制。AI醫療的技術需要法規迅速更新才能擁有發展彈性,但是目前AI模型經過訓練可持續優化,無法解釋AI的判斷邏輯或演化過程,未知的演算過程如同無法解釋的黑盒子,造成監管單位的疑慮,加上國際對AI醫療相關的認定尚未統一,因此若台灣的智慧醫療團隊想出海,便必須逐一通過各國規範。所幸具代表的醫療認證FDA/TFDA已逐步受理AI醫療產品的申請,盼台灣政府與業界持續溝通,尋找創新與嚴謹之間的平衡,以法規支持AI醫療發展。
0

獨立顯卡/遊戲機雙引擎帶動 GDDR6將成繪圖記憶體新主流

根據TrendForce記憶體儲存研究(DRAMeXchange)最新調查,由於兩大顯卡廠NVIDIA與超微(AMD)都預計將於2020年第三季發布全新GPU,加上微軟(Microsoft)與Sony也將在第四季發布新款遊戲機,並全部搭載高容量GDDR6記憶體,這不僅將成為支撐繪圖用記憶體(Graphics DRAM)價格的支柱,亦將使得GDDR6取代GDDR5,成為新一代的繪圖記憶體主流規格。 身為顯卡領導廠商的NVIDIA,在競爭對手AMD率先於2019年導入7nm製程的壓力下,NVIDIA計劃在2020年第三季發表首度搭載7nm的新款Ampere GPU,全數搭載GDDR6,規格較上一代明顯進步。AMD同樣將於第三季發表7nm+的BIG NAVI效能升級版GPU,並將GDDR6列為標配,容量有機會進一步提升。 TrendForce指出,兩廠的新產品首波都將以獨立繪圖卡(discrete graphics card)市場為主,正式搭載於筆電的時間點應落在2021年上半年,不過在效能與功耗顯著提升的誘因下,預計市場將掀起「換卡風潮」,進一步刺激GDDR6的需求。 除了新獨立繪圖卡之外,微軟和Sony將分別在第四季發表XBOX Series X以及PS5全新遊戲機。從硬體規格來看,除了CPU時脈明顯提升外,GPU都將搭配最高規的GDDR6 16GB,不僅容量較原有機型翻倍,更遠超過目前主流顯卡6~8GB的規格,將帶動GDDR消耗量顯著增加。  
0
- Advertisement -
- Advertisement -

最新文章

- Advertisement -

熱門文章

- Advertisement -

編輯推薦

- Advertisement -