文档详情

计算机行业AI与专题系列点评:DeepSeek开源周,重塑AI基础设施效率.pdf

发布:2025-03-11约7.98千字共11页下载文档
文本预览下载声明

AI+专题系列点评(三十)

目录

一、FlashMLA:显存的“节流阀”4

二、DeepEP:通信的智能交通系统5

三、DeepGEMM:矩阵运算的“编译器”7

四、DualPipe和EPLB:并行训练的“指挥”9

五、3FS:AI专属的分布式文件系统11

证监会审核华创证券投资咨询业务资格批文号:证监许可(2009)1210号2

AI+专题系列点评(三十)

图表目录

图表1DeepSeek开源FlashMLA4

图表2MLA在推理过程中显著减少了KV缓存4

图表3DeepSeek开源DeepEP5

图表4DeepEP普通内核性能评估5

图表5DeepEP低延迟内核性能评估6

图表6DeepSeek开源DeepGEMM7

图表7在普通GEMM中,DeepGEMM矩阵运算最高提速达到2.7倍8

图表8DeepSeek开源DualPipe9

图表9DualPipe实现前向和后向计算通信阶段的完全重叠9

图表10DeepSeek开源EPLB10

图表11DeepSeek开源3FS11

图表123FS在大型集群上进行读取压力测试的吞吐量11

图表133FS在所有KVCache客户端的读取吞吐量12

图表14DeepSeek-V3/R1的成本与理论收入12

证监会审核华创证券投资咨询业务资格批文号:证监许可(2009)1210号3

AI+专题系列点评(三十)

显示全部
相似文档