AI 应用开发新范式.docx
里
里
AI应用开发新范式
计缘
阿里云智能云原生应用平台
C-里云
01AI应用架构新范式
AIAgent架构和发展趋势
AIAgent架构
PromptTemplate
PromptTemplate
Instructions
/ReasoningPromptAgentPlanning
/Reasoning
Prompt
Agent
ResponseLLMs
Response
LLMs
ActionsStore/Retrieve
Actions
ToolsMemory
Tools
Memory
AIAgent趋势
UniversalAgents
UniversalAgentsMulti-Agents
UsefulnessPlatform-Level
Usefulness
Platform-LevelAgents
Smarter
Smartermodelsusingmoretoolstoaccomplishhighervaluetasks
Siloed,
Single-Purpose
Agents
LevelOfIntelligence
编排AIAgent的两类方式多种部署方式的LLMSLS触发器Kafka触发器RocketMQ触发器DTS触发器定时触发器…LLM服务统一管理多APIKey管理、LLM切换、Fallback鉴权认证、安全、限流、联网搜索User现存业务A现存业务B现存业务C微服务服务注册（Java微服务，Go）从Nacos发现MobileAPPMSENacosWebAPP现存业务E多语言服务API/路由统一管理流量统一管控（转发、负载）
编排AIAgent的两类方式
多种部署方式的LLM
SLS触发器
Kafka触发器
RocketMQ触发器
DTS触发器
定时触发器…
LLM服务统一管理
多APIKey管理、LLM切换、Fallback
鉴权认证、安全、限流、联网搜索
User
现存业务A
现存业务B
现存业务C
微服务
服务注册
（Java微服务，Go）
从Nacos发现
MobileAPP
MSENacos
WebAPP
现存业务E
多语言服务
API/路由统一管理
流量统一管控（转发、负载）
鉴权认证、安全、限流
DashVector
Store/Retrieve
Redis
通过IP，域名代理
Device
各类三方API
三方服务
RDS
OSS
流程式
函数A函数
函数A
函数D
函数B
函数C
CloudFlow流程编排
节点A
节点A
节点B
节点
节点C
Serverless应用引擎部署Dify
节点A
节点A
节点B
节点
节点C
容器服务ACK部署Dify
编码式
函数C函数
函数C
函数B
函数A
函数A
函数计算
SpringAIAlibaba/LangChain/…
标准化MCP标准化了LLM访问外部数据的方
标准化
MCP标准化了LLM访问外部数据的方式，简化了不同数据源和工具的集成。
模型上下文协议（ModelContextProtocol）是一个开源协议，由Anthropic（Claude开发公司）开发，旨在让大型语言模型（LLM）能够以标准化的方式连接到外部数据源和工具。它就像AI应用的通用接口，帮助开发者构建更灵活、更具上下文感知能力的AI应用，而无需为每个AI模型和外部系统组合进行定制集成。MCP被设计为一个通用接
口，类似于USB-C端口，允许LLM应用以一致的方式连接到各种数据源和工具，如文件、数据库、API等。
MCP
MCP
MCPProtocol
MCPProtocol
HostwithMCPClient（Claude，Cline，IDEs）
可扩展性MCP使得添加新数据源或工具变得简单，无需大幅修改现有系统。MCP
可扩展性
MCP使得添加新数据源或工具变得简单，无需大幅修改现有系统。
MCP
MCPServerA
MCP
MCPServerB
安全性MCP提供结构化的访问模式，内置验
安全性
MCP提供结构化的访问模式，内置验证，确保数据交互安全且受控。
MCPServerC
WebAPIs
模块化
MCP促进了模块化设计，允许独立开发和维护不同组件。