计算机行业AI与专题系列点评:DeepSeek开源周,重塑AI基础设施效率.pdf
AI+专题系列点评(三十)
目录
一、FlashMLA:显存的“节流阀”4
二、DeepEP:通信的智能交通系统5
三、DeepGEMM:矩阵运算的“编译器”7
四、DualPipe和EPLB:并行训练的“指挥”9
五、3FS:AI专属的分布式文件系统11
证监会审核华创证券投资咨询业务资格批文号:证监许可(2009)1210号2
AI+专题系列点评(三十)
图表目录
图表1DeepSeek开源FlashMLA4
图表2MLA在推理过程中显著减少了KV缓存4
图表3DeepSeek开源DeepEP5
图表4DeepEP普通内核性能评估5
图表5DeepEP低延迟内核性能评估6
图表6DeepSeek开源DeepGEMM7
图表7在普通GEMM中,DeepGEMM矩阵运算最高提速达到2.7倍8
图表8DeepSeek开源DualPipe9
图表9DualPipe实现前向和后向计算通信阶段的完全重叠9
图表10DeepSeek开源EPLB10
图表11DeepSeek开源3FS11
图表123FS在大型集群上进行读取压力测试的吞吐量11
图表133FS在所有KVCache客户端的读取吞吐量12
图表14DeepSeek-V3/R1的成本与理论收入12
证监会审核华创证券投资咨询业务资格批文号:证监许可(2009)1210号3
AI+专题系列点评(三十)