文档详情

20250503 Deepseek在药企研发领域的本地化部署和应用场景.pptx

发布:2025-05-03约2.03千字共37页下载文档
文本预览下载声明

Deepseek在药企研发领域的本地化部署和应用场景

智慧芽生物医药2025年03月;目录;大模型的发展阶段;Deepseek出圈引爆全行业的原因?

基础能力:进入推理模型阶段,跻身全球第一梯队

推理能力跃升:DeepSeek大模型核心技术突破,实现复杂推理任务的精准处理与高效执行,覆盖多模态场景应用。

国际竞争力对标:模型综合性能跃居全球第一梯队,技术指标与国际顶尖水平(如GPT系列、Claude等)直接对标,奠定国产大模型的行业标杆地位。

加分项:开源、低成本、国产化;Deepseek对行业产生巨大影响

打破垄断:R1版以低成本和开源特性打破以往头部企业垄断局面。

价格优势:DeepSeek-R1的API定价仅为行业均价的1/10,推动了中小型企业低成本接入AI,对各个行业产生了积极影响。

创新:重新定义了芯片和算力对大模型的影响。

Deepseek的三种使用方式:在软件系统中调用官方API、模型微调、直接使用。

资料来源:AI肖睿团队,北京大学-DeepSeek原理与落地应用5

智慧芽@LS-GTM;目录;Deepseek-R1在药企的本地化部署;Deepseek-R1在药企的本地化部署

个人部署:Ollma框架适合个人用户私有化本地部署,但在多用户并发场景下性能衰减明显。

企业部署:推荐使用Transformers来快速验证模型能力,使用vLLM框架借助PagedAttention技术实现24倍于Transformers的吞吐量实现大模型的高效推理,针对不同企业场景,则提供不同

其他方式:近期出现的KTransformers、Unsloth等多套低成本动态量化模型的DeepSeek部署

vLLM部署简单,更适合中小型企业做大模型推理部署,对于大型企业,可以使用配置较为复杂的的企业级部署方案。

解决方案。目前暂不够成熟。

资料来源:AI肖睿团队,北京大学-DeepSeek原理与落地应用

TensorRT框架。

智慧芽@LS-GTM;Deepseek-R1满血版模型部署方案

DeepSeekR1模型就成了很多应用场景下的当务之急。受限于DeepSeekR1671B(6710亿参数)的模型规模,通常

情况下部署DeepseekR1满血版模型需要1200G左右显存(考虑百人内并发情况),需要双节点8卡H100服务器才能运行(总成本约在260万-320万左右),即便是INT4半精度下,也至少需要490G显存,需要单节点8??H100服务器才能运行。

为了实现低成本DeepSeekR1模型的高性能部署,目前大多数方案都采用了牺牲模型推理速度的策略。使用

CPU+GPU混合推理的方式,将一部分推理计算转移到CPU上,降低GPU的负载。由于CPU并不适合深度学习计算,导致模型整体推理速度较慢。;Deepseek-R1部署方案简介;目录;Deepseek出圈引爆全行业:仍有幻觉问题,例如出现专利号需要查证;为什么需要RAG?;;芽仔与Deepseek-R1对接;;;分子设计场景:智能体agent一键式生成分子动力学模拟图

解决方案:自主设计的新分子通过智能体agent快速完成分子对接的过程

从PDB数据库下载带有hit分子的靶蛋白结构(PDBID:3wzm),提取A链,移除水分子,作为起点。

通过与GROMACSCopilot对话,要求其搭建体系,构建小分子力场、建立复合物拓扑、溶解、平衡等步骤后,进行1ns的正式模拟。

对轨迹移除PBC,根据蛋白质进行旋转平移对齐,最后输出RMSF,并且对RMSF进行分析。

基于芽仔,可以连贯地完成这个过程。;;;;;;;;;;目录;AI提效专利工作;AI释放Eureka的创新潜力;;;下方链接或左侧扫码进入DeepSeek智库子星球;下方链接或下方图1扫码进入零竖质量主星球;;本星球专注于赋能全行业数字化转型顶层设计咨询和落地解决方案,聚焦于各行业数智化建设、大数据与数据治理、信息安全、人工智能与元宇宙等,前沿资讯信息分享及生态合作,打造专业数字化解决方案知识交流平台。

1、业内资深专家主理,邀请知名咨询机构、企业资深人员、第三方机构等合作伙伴,为会员提供本领域咨询与规划落地服务,知识分享与传播。

2、分享业内最新PPT/Word/PDF规划与方案实施文档,业界最新最佳实践淬炼资料与干货。

3、高价值的企业数字化转型方法论、大数据和数据治理方法论、人工智能技术项目实战解码与分析,含解决方案、行业报告与PPT模板等资料素材。

4、资料每日两次上传,经过层层审核把关,杜绝2020年以前的老旧资源纳入!咨询材料新!更新速度快!内容质量高!;连接创新突破边界

Connecting

显示全部
相似文档