文档详情

电子行业市场前景及投资研究报告:英伟达GTC大会开幕,代理式AI物理AI时代.pdf

发布:2025-03-19约4.36万字共21页下载文档
文本预览下载声明

[Table_Page]行业专题研究|电子

2025年3月19日

证券研究报告

[Table_Title]

AI的进击时刻系列13

5英伟达GTC大会开幕,走向代理式AI物理AI时代

8

9

7

8

5

3

[Tabl

e_Author]

[Table_Summary]

核心观点:

根据英伟达官网,英伟达GTC大会开幕,黄仁勋发表主题演讲。黄仁勋表示,AI已经从最初的感知式AI,发

展至生成式AI,预计将进入代理式AI(AgenticAI)和物理AI(PhysicalAI)的时代。

英伟达发布分布式推理服务库NVIDIADynamo。在推理过程中,数据中心需要兼顾总输出量(tokensper

secondforfactory)和快速响应(tokenspersecondforoneuser),推理过程中常使用多种并行策略。英伟达

推出了分布式推理服务库NvidiaDynamo,分解推理过程中的prefill和decode阶段,动态分配两个流程的

GPU。GraceBlackwellNVLink72芯片搭载Dynamo服务库后,相比Hopper架构性能提升25倍。从Token

Revenue的角度上来看,同样在功耗为100MW的AIFactory中,Blackwell的产出是Hopper的40倍。

英伟达发布BlackwellUltra和下一代VeraRubinAI超级芯片。英伟达将在2025年下半年推出增强训练和测

试时间扩展推理能力的BlackwellUltra芯片和BlackwellUltraNVL72。对于BlackwellUltraNVL72,其FP4推

理算力达到1.1EF,是GB200NVL72的1.5倍。VeraRubin和VeraRubinNVL144将在2026年下半年开始

出货,将采用NVLink144,每个GPU可以与其他144个GPU相连接,其FP4推理算力为3.6EP,为GB300

显示全部
相似文档