AI 应用开发新范式.pptx
里
奥运会官方云服务合作伙伴;
C-里云
奥运会官方云服务合作伙伴
01AI应用架构新范式;;;
模型上下文协议（ModelContextProtocol）是一个开源协议，由Anthropic（Claude开发公司）开发，旨在让大型语言模型（LLM）能够以标准化的方式连接到外部数据源
和工具。它就像AI应用的通用接口，帮助开发者构建更灵活、更具上下文感知能力的AI应用，而无需为每个AI模型和外部系统组合进行定制集成。MCP被设计为一个通用接
口，类似于USB-C端口，允许LLM应用以一致的方式连接到各种数据源和工具，如文件、数据库、API等。;
②LLM输出：用户的输入应该调用哪个MCP;
MCP不像传统的协议定义，它没有一个确定的数据结构。它的核心是通过自然语言描述清楚有哪些MCPServer，承担什么作用，有哪些MCPTool，承担什么作用，然后让大
语言模型通过推理去选择最合适的MCPServer以及MCPTool。所以它的核心本质上还是提示词工程。
Cline给LLM的系统提示词，以及DeepSeek的响应;
MCP和FunctionCalling之间的区别
MCP是通用协议层的标准，类似于“AI领域的USB-C接口”，定义了LLM与外部工具/数据源的通信格式，但不绑定任何特定模型或厂商，将复杂的函数调用抽象为客户端-服务器架构。
FunctionCalling是大模型厂商提供的专有能力，由大模型厂商定义，不同大模型厂商之间在接口定义和开发文档上存在差异；允许模型直接生成调用函数，触发外部API，依赖模型自身的上下文理解和结构化输出能力。
FunctionCallingMCP;
MCPServer与LLM之间的协同关系
延伸出值得思考的点：
目前负责协同的工具很少，比如Cline，Claude，且都是C/S工具，如何和企业级的AI应用结合？能不能结合？
MCPServer会很多，如何管理？
现存业务能快速转成MCPServer吗？
在这个新的协同关系下，AI应用该怎么开发？
企业级AI应用中，身份认证、数据权限、安全这些如何做？;;
调用链路说???;
C-里云
奥运会官方云服务合作伙伴
02云原生API网关介绍;;
云原生API网关在应用架构的核心作用–链接生态;;
核心优势;
通义/百炼/PAI内置AI网关，每天亿级多模态请求生产验证;;;
C-里云
奥运会官方云服务合作伙伴
03云原生API网关底座核心优势;;
网关自内部2020.5上线，已在支付宝、钉钉、淘宝、天猫、优酷、飞猪、口碑等阿里各业务系统中使用，数年以来可用率100%，无任何故障。
历经多年双11海量请求的考验，大促日可轻松承载每秒承载数10万笔请求，日请求量达到百亿级别。;
核心优势;
云原生API网关控制台;
C-里云
奥运会官方云服务合作伙伴
04流量网关最佳实践;
VPC1;
支持ACK/ACS集群内服务的自动同步
支持多ACK/ACS集群复用一个网关实例
支持K8sIngress/GatewayAPI规范
支持NginxIngress核心注解扩展
支持ACKOne多K8s集群容灾;;
方案优势;
C-里云
奥运会官方云服务合作伙伴
05AI网关代理LLM最佳实践;
1成本平衡问题;;
云原生AI网关代理LLMs方案的核心收益
部署开源DeepSeek-R1671B;
核心问题1：我以什么样的方式将LLM服务和能力暴露给大家呢？
解法：OpenAIAPI的协议基本已经是标准协议，目前市场面上几乎所有的LLM都支持OpenAIAPI协议。所以提供遵循Open