2025年 CES展 NVIDIA CEO 黃仁勳演講內容

2025年CES展NVIDIACEO黃仁勳演講內容1.2012年-AI的突破oAlexNet使用NVIDIAGPU和CUDA技術，標誌著深度學習時代的開端。oAI從感知型AI(PerceptionAI)開始，能理解圖像、聲音和文字。2.生成式AI(GenerativeAI)的誕生o能夠生成圖像、文字和聲音，AI的應用範圍大幅擴展。3.代理型AI(AgenticAI)oAI能感知、推理、計劃並執行行動，邁向更高層次的人工智慧。4.實體AI(PhysicalAI)o開始應用於處理物理現象與科學研究。5.2018年-Transformer的登場oGoogle發布基於Transformer的BERT，徹底改變AI和運算方式。oAI不再僅是一種應用，而是全新運算模式的核心。技術革新與AI生態系1.運算模式的轉型o傳統的手動編碼到機器學習，現在由神經網絡生成並優化。o每一層技術堆疊都經歷了重大變革，GPU成為AI運算的核心。2.跨模態學習的應用oAI可以理解、翻譯和生成各種模態的資訊，例如：胺基酸、物理現象oAI的應用潛力無窮，幾乎可覆蓋所有領域。3.GeForce與AI的結合o現在，AI正透過GeForce回到消費者的日常生活。1.即時光線追蹤的實現逼真的畫面。時運算。o人工智慧是達成此技術突破的關鍵。2.雙重技術結合o使用可編程著色器與光線追蹤加速技術，生成精美的像素。畫質。AI在光線追蹤中的應用1.DLSS(DeepLearningSuperSampling)的創新oAI可以透過空間感知，預測並生成未渲染的像素。每渲染一幀，AI可生成三幀額外畫面。以4K解析度為例，33百萬像素中只需計算2百萬像2.AI的運作過程o訓練完成後，生成過程極為高效，成為AI在圖形運算中的重大應用。AI與GeForce的互動革命1.雙向革命oNVIDIA使用GeForce推動AI的普及。o黃仁勳正式宣布NVIDIA的下一代圖形處理器：RTXBlackwello新產品將結合最新的光線追蹤與AI技術，繼續推動即時運算的極限。1.BlackwellGPU技術突破●硬體規格：o92億個晶體管，4,000TOPS運算能力。o支援AI與電腦圖形的混合工作負載。o神經網絡處理：程式化著色器可處理神經網絡，實現神經紋理壓縮與神經2.新產品線o性能是RTX4090的兩倍。●筆電版本：o5090可安裝於14.9毫米的輕薄筆電中。1.AI與GPU的融合●AI驅動GeForce的革新，使電腦圖形運算進入神經渲染（NeuralRendering）的新時代：o使用AI預測未渲染像素，並生成額外畫面（每渲染一幀生成三幀）。o在4K解析度下，只需計算33百萬像素中的2百萬像素。2.AI的三大規模法則1.預訓練規模法則（Pre-trainingScalingLawo訓練數據、模型大小與運算資源的增加能提升AI的效能。2.後訓練規模法則（Post-trainingScalingLawo使用強化學習與人類回饋，讓AI進一步學習特定領域技能。3.測試時規模法則（Test-timeScalingLawo在推論時動態分配運算資源。o通過推理與多步驟解決問題，提高AI的決策與解答能力。Blackwell在雲端與數據中心的應用●硬體支援：o涵蓋液冷、風冷、x86架構與NVIDIA自研oNVLink36x2與NVLink72x1支援多樣化配置。o在全球45家工廠生產，提供約200種SKU（產品配置適用AI運算的未來●計算需求的提升：oAI訓練與推論需要龐大的運算資源。oNVIDIA的GPU為產業提供可擴展的運算能力，驅動更高效的AI開發。●AI的應用價值：oAI是人類最具價值的資產之一，能解決複雜的挑戰性問題。●GB200NVLink72規格：o重量：1.5公噸。o組件：包含60萬個零件，相當於20輛汽車的組成。o結構設計：使用2英里的銅線纜，總計5,000條纜線。重新組裝並安裝。o這種極端規模的製造展示了NVIDIA在工程與物流上的領先地位。2.驚人的效能提升o每瓦效能比上一代提升4倍。o或以相同成本將模型規模擴大3倍。石。o數據中心的效能提升可直接轉化為更高的收入與業務增長。Blackwell作為一個巨型晶片的實現o包含72顆BlackwellGPU或144個晶片（dies）。o1.4exaflops的AI浮點運算能力，超越全球最快超級電腦的性能。o配備14TB高頻寬記憶體（HBM內存頻寬達1.2PB/s（相當●晶片技術細節：o2,592個CPU核心。o強大的網絡能力（ConnectX晶片與NVLinkSpine）。2.晶片規模的挑戰與突破●Blackwell的突破：o透過模組化設計（72GPU模塊）實現超越單一晶片的性能，並解決生產良率問題。o這些系統成為現代AI訓練與推論的基礎。●可持續運算：大規模AI訓練需求。●結合GraceCPU與BlackwellGPU的超級系統：o為未來的數據中心提供最高效能解決方案。AgenticAI的發展與需求1.計算需求的增長●未來的AI模型：理需求。AI規模化。源效率。2.AgenticAI的核心概念訊，並生成解決方案。●應用場景：NVIDIA的技術支援與框架1.AI技術堆疊將複雜的CUDA軟體與模型進行封裝與最佳化，方便在各種平台部署。支援語言與業務流程的專業化，並設置安全規範與行為守則。3.AgenticAI藍圖：開放原始碼的AI開發工具，幫助企業快速構建與部署代理型AI。2.NVIDIALLAMANemotron模型●基於Meta的LLAMA3.1模型進行微調，推出針對企業用途的開放模型：AgenticAI的應用案例1.AI研究助理：習。2.軟體安全管理：3.虛擬實驗室：o篩選數十億化合物，幫助研究人員更快找到藥物候選。4.影像分析AI：oNVIDIAMetropolis藍圖：分析來自數十億攝像頭的內容，每日生成100,000PB的影片數據。化。●智慧交通：o整合數據並重新分配員工或機器人。o監控生產過程，生成改善建議。●AI代理的角色：o代理型AI將成為數位工作者，與o企業IT部門將轉型為AI代理的人力資源部門，負責訓理與優化AI代理。●針對30億知識工作者與30萬軟體工程師：o軟體輔助開發工具：提高程式碼生產效率AI的未來與全域應用1.AI的雲端與跨平台應用●AI的誕生與雲端連結：oAI在雲端中創造，也最適合在雲端中運使用者可透過元宇宙眼鏡指向物體並獲取相關資訊，AI為隨時隨地的助手。●將AI帶入更多設備：腦。2.AI助手的願景●下一代PC應用程式接口（APIsAI的API：oWindowsWSL2是實現AIPC的核心技術：支援雙作業系統，適合開發者並可直接存取硬體。為雲端原生應用程式與CUDA進行最佳化。NVIDIAAI與PC的整合1.轉型PC為AI平台oNVIDIANIMS（微服務）、NEMO框架以運行。o全球數億台WindowsPC將成為AI運算的強大平台。●OEM合作：PC硬體堆疊與軟體環境準備就緒。2.AI藝術創作的範例o使用NVIDIANIM微服務，創作者可透過簡單的3D模型引導手動建立或AI生成3D資產。使用NIM（如Flux）生成與場景匹配的視覺效果。1.AIPC的重要性o全球數億台PC可透過NVIDIA技術轉型為AI平台。●跨平台優勢：2.Linux的角色●適合開發者的選擇：o雖然NVIDIA推動WindowsAIPC，但Linux仍是開發與實驗的重要平台。PhysicalAI的概念與願景1.將AI帶入物理世界●從語言模型到世界模型：o語言模型（如GPT）透過處理文字生成內容。●世界模型的未來應用：oPhysicalAI將推動機器人與自動化領域的●Cosmos的核心目標：o開發物理世界基礎模型，理解動態與物理規則。●Cosmos的技術架構：o自回歸模型：用於即時應用。練。Cosmos與Omniverse的結合1.Omniverse的角色oOmniverse是一個基於物理定律的模擬平台，提供真實的物理環境模擬。●Cosmos與Omniverse的協作：用於模型訓練的大規模運算系統。部署於終端設備（如車輛、機器人）的自主運算系統。3.數位分身（DigitalTwin用於AI模型的模擬、強化學習、生成合成數據與回進。oDGX訓練模型，AGX部署模型，而數位分身作為連接兩者的橋1.世界模型的功能●訓練數據生成：oCosmos能生成多樣化的合成數據，用於訓練模型。o支持物理上合理的未來場景模擬（類似於《奇異博士》的多重未述。oNVIDIA正與全球領先的倉儲自動化公司Kion和專業服務公司Accenture合作。2.模擬數據生成：3.實時預測與決策支持：oCosmos能即時生成多種可能的未來，幫助模型選擇最佳路徑。Cosmos的開放性與未來影響1.開放平臺●Cosmos開源：●目標與願景：LLAMA3對企業AI的貢獻。oCosmos與Omniverse的結合，為產業數位化與機器人應用提供關鍵支持。黃仁勳強調，NVIDIACosmos是全球首個世界基礎模型，結合Omniverse模擬平臺，將成為推動物理AI發展的重要工具。PhysicalAI的實現不僅是機器倉儲與配送中心的挑戰足，以及多樣化機器人與自動化系統的整合。2.NVIDIA、Kion和Accenture的合作●合作目標：o利用NVIDIAOmniverse和PhysicalAI，為倉儲與物流市場開發1.MEGA的功能oKion使用NVIDIAOmniverse提供的MEGA藍圖，建立工業數位分身。o數據整合：使用LiDAR生成點雲數據。●模擬機器人運作：o任務分配：Kion的倉儲管理解決方案（WMS）分配任務（如將貨物從緩衝區移至穿梭式存儲系統）。機器人「大腦」透過Omniverse中的數位分身模擬感知環使用傳感器模擬實時監控環境變化，並根據最新狀態進行●場景測試：oMEGA能在數位分身中模擬無限的運營場景。o測量運營KPI（如吞吐量、效率與利用率預先評估變更對物理倉庫的影響。●數位分身的優勢：o減少實際部署風險。o提升倉儲自動化運營的預測性與穩定性。●重新定義工業自治：動化。自駕車革命與NVIDIA的三大核心計算資源1.自駕車革命的到來●自駕車的現況與未來：o隨著Waymo、Tesla的成功，自駕車技術已全面進入實用階段。駛里程高達1兆英里。●NVIDIA的角色：o提供支持自駕車發展的三大核心計算資源：3.DriveAGX車載超級計算機：處理車輛內的實時運算。●合作夥伴：o特別宣布與Toyota合作開發下一代自駕車。o自駕車業務目前已為NVIDIA創造40億美元的收入，預計今年增至50億美元。oThor的運算能力是上一代Orin的20倍。的行車路徑規劃。●通用性：（自主移動機器人）與人形機器人。oDriveOS是首個達到ASILD認證（汽車功能安全的最高標準）的軟體定義AI計算機。數據工廠與合成數據生成1.數據生成的重要性●現實數據的限制：o合成數據成為自駕車訓練不可或缺的一部分。●NVIDIA合成數據工廠：o利用Omniverse、Cosmos和AI模型生成合成駕駛情境，提升數據規模數量級。oOmniMap將地圖與地理空間數據轉換為可駕駛的3D環境。o神經重建引擎（NeuralReconstructionEngine）將傳感器日誌重建為高保真4D模擬環境，並生成場景變體。2.合成數據的應用oCosmos能夠生成無限變化的駕駛情境，為AI訓練提供海量數o合成數據與真實駕駛數據結合，創造更高效的訓練模型。●數據規模：數據，縮小模擬與現實之間的差距（Sim-to-RealGa自駕車未來的展望o自駕車技術的開發速度將如同電腦圖形技術般迅猛。●NVIDIA的長期願景：車產業提供全方位支持。o自駕車不僅是技術的革新，也是全球機器人產業的重要突破口。通用機器人革命與NVIDIA技術支持1.通用機器人的重要性環境。2.自駕車：利用已有的道路與城市基礎設施。）：能在現有的褐地（Brownfield）環境中工作，無需重新建造o解決這三種類型的機器人技術挑戰，將創造世界上規模最大的技術產業。2.訓練機器人的挑戰●數據收集的困難：o自駕車的模擬與訓練數據可透過駕駛日誌獲得，但人形機器人需要人類示範動作，收集成本高且耗時。●解決方案：合成數據，用於訓練機器人。1.IsaacGroot的四大核心組件o提供機器人開發的核心AI模型。2.數據處理管線（DataPipelineso支援從收集、處理到生成數據的全流程3.模擬框架（SimulationFrameworkso透過模擬環境進行訓練與測試。o強大的通用機器人運算平台，用於即時運算與決策。2.合成數據生成與模擬●IsaacGroot藍圖：數據。●模擬過程：操作者透過AppleVisionPro遠程操作機器人的數位分4.Omniverse和Cosmos多重宇宙模擬引擎：3.軟硬體結合的開發與測試●軟體測試與驗證：o在IsaacSim中執行軟體測試與驗證，確保訓練模型能成功部署●從數據到部署：通用機器人時代的到來1.通用機器人的應用前景●數據驅動的開發：o從人形機器人到物流自動化，通用機器人技術將廣泛2.NVIDIA的長期願景●加速通用機