新聞

NVIDIA黃仁勳揭示新運算時代!算力通膨是什麼?GPU如何解決耗電難題?

輝達(NVIDIA)執行長黃仁勳於6月2日晚間7點在台大體育館發表主題演講,現場吸引6500人到場。(圖片來源:NVIDIA)

被稱為「AI教父」、輝達(NVIDIA)執行長黃仁勳於6月2日晚間7點在台大體育館發表主題演講,為2024台北國際電腦展(COMPUTEX)進行暖身,會中宣告「新的運算正在開始」,並火力展示各種AI應用,包含數位攣生地球(Nvidia Earth-2)、數位人類(Digital Human)與機器人工廠,這場約2小時演說,黃仁勳提到哪些加速運算趨勢?以及加速運算如何解決AI推升用電量的問題?

趨勢一:加速運算可解決「算力通膨」的問題

一開場,黃仁勳提到從1964年IBM推出360中央處理器(CPU)以來,電腦產業已經有60年歷史,但隨著運算處理需求呈現指數成長,CPU擴充速度大幅降低,導致算力通膨(computition inflation)」問題,意味資料中心使用的電力增加,運算成本也跟著上升。

為解決算力通膨的問題,NVIDIA透過開發繪圖處理器(GPU),以及提供CUDA編程工具,讓開發者利用GPU加速各種運算任務,包含資料處理、深度學習等應用。黃仁勳強調搭配GPU加速運算可以省下更多成本,為資料中心節省大量成本與能源,達到「買越多、省越多」的效果。

黃仁勳強調搭配GPU加速運算可以省下更多成本,為資料中心節省大量成本與能源。(圖片來源:iStock)

黃仁勳提到「加速運算是永續的運算(sustainable computing),」透過GPU結合CPU,可以實現高達100倍的加速,但是功耗僅增加3倍,每瓩(kilowatt)的能效是單純使用CPU的25倍。

趨勢二: AI晶片運算效能越強,能源與時間成本也跟著降

黃仁勳提到以每年推出一款新AI晶片為目標,最新的Blackwell被譽為「地表最強AI晶片」,它讓AI運算能力在8年內增加1000倍,「當GPU運算能力越強,它的成本也會下降。」黃仁勳說明,使用Blackwell來訓練大型語言模型GPT-4系統,因算力的提升,所需要消耗的電力,大概是原來的1/350。

黃仁勳手上的Blackwell被喻為是「地表最強AI晶片」,它讓AI運算能力在8年內增加1000倍。(圖片來源:NVIDIA)

過去若訓練AI大型語言模型(LLM),可能需要1000GWh耗電量,但目前全球連一個GW等級的資料中心都沒有,且運算時間約一個月起跳;有了加速運算晶片Blackwell後,從需要1000GWh耗電量減少至3GWh,「只需要1萬個GPU,約在10天就能搞定運算,」黃仁勳說。

趨勢三:AI應用齊發,氣候科技、數位人類、機器人

此外,輝達也把加速運算的概念實際落地應用,其中被形容最具有野心的計畫——數位孿生地球(Nvidia Earth-2),直接模擬一個地球分身,透過AI預測氣候的變化,協助國家、企業來應對極端氣候的影響。

據悉Nvidia Earth-2該生成的圖像解析度比當前數值模型高出12.5倍,速度提高1000倍,能源效率提高3000倍,可以更好地分析、規劃與模擬天氣的影響,目前台灣的交通部中央氣象屬已用來預測颱風登陸更精確位置。

此外,未來數位人類(Digital Human)將改變各行各業,透過生成式AI實現數位護士、客服、老師等,白話來說就是「未來電腦可以像人類一樣流暢地互動」,像是AI室內設計師可以提供裝潢建議,並採購材料與家具。

最後黃仁勳點出:「人工智慧下一波浪潮是物理人工智慧(physical AI),理解物理定律的人工智慧,可以和人類一起工作。」

目前台灣已有多家電子大廠如鴻海、台達電、和碩、緯創等,將輝達的自動化機器人(autonomous robotics)整合到旗下工廠,透過數位孿生技術規劃工廠與訓練機器人,用來提高生產效率與降低成本,「未來所有的工廠將是機器人工廠,這些機器人將製造機器人的產品,」黃仁勳預言。

美超微梁見後拚綠色運算,成NVIDIA最緊密戰友!如何攻下液冷AI資料中心3成市占?
建築業脫碳太難!哈里發塔建築師青睞的「重力發電」,如何把高樓變電池?
Back

了解更多再生能源憑證

TOP
索取下載

請填寫資料後立即開始下載

姓名
公司
職稱
公司信箱
本網站使用cookie為您提供更好的瀏覽體驗,了解有關我們如何使用cookie的更多資訊