电子行业市场前景及投资研究报告:英伟达GTC大会开幕,代理式AI物理AI时代.pdf
[Table_Page]行业专题研究|电子
2025年3月19日
证券研究报告
[Table_Title]
AI的进击时刻系列13
5英伟达GTC大会开幕,走向代理式AI物理AI时代
8
9
7
8
5
3
[Tabl
e_Author]
[Table_Summary]
核心观点:
根据英伟达官网,英伟达GTC大会开幕,黄仁勋发表主题演讲。黄仁勋表示,AI已经从最初的感知式AI,发
展至生成式AI,预计将进入代理式AI(AgenticAI)和物理AI(PhysicalAI)的时代。
英伟达发布分布式推理服务库NVIDIADynamo。在推理过程中,数据中心需要兼顾总输出量(tokensper
secondforfactory)和快速响应(tokenspersecondforoneuser),推理过程中常使用多种并行策略。英伟达
推出了分布式推理服务库NvidiaDynamo,分解推理过程中的prefill和decode阶段,动态分配两个流程的
GPU。GraceBlackwellNVLink72芯片搭载Dynamo服务库后,相比Hopper架构性能提升25倍。从Token
Revenue的角度上来看,同样在功耗为100MW的AIFactory中,Blackwell的产出是Hopper的40倍。
英伟达发布BlackwellUltra和下一代VeraRubinAI超级芯片。英伟达将在2025年下半年推出增强训练和测
试时间扩展推理能力的BlackwellUltra芯片和BlackwellUltraNVL72。对于BlackwellUltraNVL72,其FP4推
理算力达到1.1EF,是GB200NVL72的1.5倍。VeraRubin和VeraRubinNVL144将在2026年下半年开始
出货,将采用NVLink144,每个GPU可以与其他144个GPU相连接,其FP4推理算力为3.6EP,为GB300