文档详情

Deepseek在药企研发领域的本地化部署和应用场景.pdf

发布:2025-03-25约1.35万字共33页下载文档
文本预览下载声明

Deepseek在药企研发领域的本地

化部署和应用场景

智慧芽生物医药

2025年03月

01大模型的发展阶段和deepseek

02Deepseek-R1在药企的本地化部署

目录03芽仔与Deepseek-R1对接

04AI融入智慧芽生物医药产品

2

智慧芽@LS-GTM

大模型的发展阶段

资料来源:中文大模型基准测评2024年度报告(2025.01.08)

3

智慧芽@LS-GTM

Deepseek出圈引爆全行业的原因?

•基础能力:进入推理模型阶段,跻身全球第一梯队

•推理能力跃升:DeepSeek大模型核心技术突破,实现复杂推理任务的精准处理与高效执行,覆盖

多模态场景应用。

•国际竞争力对标:模型综合性能跃居全球第一梯队,技术指标与国际顶尖水平(如GPT系列、

Claude等)直接对标,奠定国产大模型的行业标杆地位。

•加分项:开源、低成本、国产化

4

智慧芽@LS-GTM

Deepseek对行业产生巨大影响

•打破垄断:R1版以低成本和开源特性打破以往头部企业垄断局面。

•价格优势:DeepSeek-R1的API定价仅为行业均价的1/10,推动了中小型企业低成本接入AI,对各

个行业产生了积极影响。

•创新:重新定义了芯片和算力对大模型的影响。

•Deepseek的三种使用方式:在软件系统中调用官方API、模型微调、直接使用。

资料来源:AI肖睿团队,北京大学-DeepSeek原理与落地应用5

智慧芽@LS-GTM

01大模型的发展阶段和deepseek

02Deepseek-R1在药企的本地化部署

目录03芽仔与Deepseek-R1对接

04AI融入智慧芽生物医药产品

6

Deepseek-R1在药企的本地化部署

资料来源:AI肖睿团队,北京大学-DeepSeek原理与落地应用

7

智慧芽@LS-GTM

Deepseek-R1在药企的本地化部署

•个人部署:Ollma框架适合个人用户私有化本地部署,但在多用户并发场景下性能衰减明显。

•企业部署:推荐使用Transformers来快速验证模型能力,使用vLLM框架借助PagedAttention

技术实现24倍于Transformers的吞吐量实现大模型的高效推理,针

显示全部
相似文档