文档详情

DeepSeek惊艳世界,算力与应用将迎来结构性变化+东方证券-计算机行业深度报告.pptx

发布:2025-02-19约8.76千字共17页下载文档
文本预览下载声明

?DeepSeek近期成为科技圈最炙手可热的明星企业:DeepSeek近期分别发布大模型DeepSeek-v3和推理模型R1,前者在大模型主流榜单的开源模型中位列榜首,并与世界上最先进的闭源模型不分伯仲;后者性能对标OpenAI的o1正式版,在数学、代码和自然语言推理等任务上表现卓越。以上两个模型均通过算法和架构的创新,大幅降低了训练成本和推理成本,为AI技术的普及与创新作出了卓越的贡献。DeepSeek相关模型自从推出后,立刻占据全球科技头条并引发巨大关注,我们认为,DeepSeek呈现出的算法创新、性能表现、开源属性等多重因素,将对AI应用与算力行业产生深远的影响。

?DeepSeek在模型训练与推理中采用了多项技术创新:DeepSeek-V3实现了多项工程技术上的创新,包括通过FP8精度训练、DualPipe双向流水线等技术降低训练成本,通过优化MoE负载均衡、多头潜在注意力机制(MLA)来降低推理成本,并通过多Token预测(MTP)以及模型蒸馏来进一步提升模型性能,最终用极低的成本完成了训练过程,与此同时推理的成本也较其他模型有大幅下降。而R1-Zero的目标是验证纯RL能否激发模型的自主推理能力,探索无监督强化学习的潜力,而R1则通过数据引导+多阶段优化,平衡推理性能和实用价值,目标是打造更符合人类偏好的通用推理模型,两个模型均实现了较为理想的效果。

?DeepSeek将对AI算力与应用产生结构性影响:由于DeepSeek-V3、R1等模型通过算法与架构层面的多重创新大幅降低了训练端算力消耗,不过我们认为,在各模型公司仍致力于训练出性能更强大模型的目标指引下,庞大的训练集群将仍然被产业所追逐,训练算力长期看仍有前景和空间。而推理算力的需求空间则更为乐观,

我们认为推理成本的大幅下降将带来需求更大幅度的增长,而在这样的过程中,算力需求结构可能将会改变,而美国如果进一步收紧AI芯片供应,则可能对国产芯片形成利好。而另一方面,此前AI应用的普及及其商业化还存在一定的困难,一方面在于模型性能仍然没法满足众多场景的需求,尤其是在推理能力和多模态环节,另一方面则是闭源模型性能领???但API调用的成本过高,影响了AI应用的大范围普及,我们认为,DeepSeek的强推理能力、低算力成本、开源属性,使得其对AI应用的普及有望发挥重要的作用。;

目录

引言...............................................................................................................4

一、DeepSeek-V3、R1模型推出后“火”遍全球..............................................4

1.1DeepSeek-V3性能表现不输全球顶尖模型...................................................................4

1.2R1模型实现了比肩OpenAIo1的推理能力..................................................................5

1.3DeepSeek-V3、R1模型在产业中引发巨大反响...........................................................7

二、DeepSeek模型训练与推理技术创新解析................................................8

2.1DeepSeek-V3模型采用了多项创新技术......................................................................8

2.2R1-Zero与R1模型尝试强化学习边界.......................................................................10

三、DeepSeek将对AI算力与应用产生结构性影响.....................................11

3.1DeepSeek模型有望引发算力需求与市场结构变化........................................

显示全部
相似文档