AI应用开发新范式
AI应用概述
AI应用正从被动的命令处理工具进化为主动的智能伙伴。AI Agent + LLM的双引擎模式成为AI应用的主流架构，其中LLM作为认知核心（大脑）负责理解意图和规划任务，而AI Agent则作为执行者，通过工具调用和任务执行与LLM形成“思考-行动-观察-自省”的闭环。
企业能力的核心体现为MCP（模型上下文协议）服务，它将企业零散的IT资产和服务转化为AI可理解和调用的标准化能力，为AI Agent提供技能。
构建AI应用有两种路径：全新开发和存量改造。全新开发不受历史技术债务束缚，可实现颠覆式创新；存量改造则直接作用于核心业务流程，价值释放路径更短。
AI应用的核心是AIAgent
AI应用基础架构包含AIAgent平台、MCP服务、LLM和模型平台等组件。AI应用架构新范式强调Model代理/MCP服务代理端和生态的建设。
AI Agent是AI应用的核心，它包括使用LLM进行推理、通过工具执行行动，并具备“思考-行动-观察-纠错”的循环机制。AI Agent与Chatbot的最大区别在于前者能解决需要多领域知识和能力协同的复杂问题。
AI Agent的核心组件包括：大脑（LLM）、记忆（存储服务）、手（各类工具）和指令（系统提示词）。AI Agent的推理模式采用ReAct模式，即推理-行动-观察-自省。
AI Agent的构建模式分为编码式和低代码式，并可根据功能分为辅助现存业务的AI Agent、辅助基模的AI Agent和作为独立产品的AI Agent（通用AI Agent）。
函数计算FC概述
函数计算FC是事件驱动的全托管计算服务，用户无需管理服务器等基础设施，只需编写并上传代码。函数计算FC支持多种规格的CPU和GPU实例，具备百毫秒级弹缩能力，并提供完善的日志、可观测和告警能力。
函数计算FC是云产品的连接器，提供事件驱动的计算模型，支持多种触发器类型和丰富的业务场景。函数计算FC作为云产品的粘合剂，通过触发器实现不同云产品之间的集成和联动。
函数计算FC作为AIAgent运行时
函数计算FC可作为AI Agent自身的运行时（Runtime）或辅助AI Agent的沙箱环境（Sandbox）。函数计算FC作为Runtime，提供细粒度、高弹性、强安全的AIAgent运行环境，支持多种编程语言运行环境，并具备丰富的触发器和各语言运行环境。
函数计算FC+CloudFlow可视化构建AIAgent，提供易用且高性能的解决方案。AIStudio是阿里云自研的可视化构建AI Agent的产品，基于云工作流和函数计算，提供更灵活、更稳定、性能更好的可视化构建AI Agent的产品。
函数计算FC作为AIAgentSandbox
AI Agent需要沙盒环境确保安全可控地运行。函数计算FC可作为AIAgent的Sandbox，提供代码执行、文件系统隔离、进程隔离、网络隔离、资源管理和可观测性等功能。
函数计算FC支持多种Sandbox场景，包括CodeSandbox、RLSandbox、BrowserUseSandbox和SimSandbox，满足不同业务场景的需求。
云原生API网关&AI网关介绍
云原生API网关是新一代网关模式，将流量网关、API网关、微服务网关、AI网关和MCP网关多合一，统一管理东西南北向流量，集成WAF、内容安全、数据面和AI领域LLM、MCP等。
云原生API网关在应用架构的核心作用是链接生态，实现多产品联动的自动化流程。云原生API网关作为流量网关，支持长连接、流式传输、多种安全认证与限流防护。云原生API网关作为AI网关，通过Ingress集成PAI的管控，支持超大路由/域名规模场景，并构建完善可观测体系。
AI网关是AI开发插件集，提供AI安全防护、Model服务管理、LLM缓存、提示词模板、提示词装饰器、请求/响应转换、向量检索、内容审核/AI安全护栏、Token限流、Token配额插件、AI代理插件、协议转换、多APIKey管理、FallbackAgent管理和百炼Agent等功能。
AI网关代理LLM最佳实践
AI网关代理LLM可解决部署成本、模型幻觉、多模型切换、安全合规、模型服务高可用、闭源模型QPM/Token限制和用户管理失控等问题。
AI网关通过OpenAIAPI协议、消费者鉴权认证、多模型切换、多APIKey管理、结果缓存、LLM服务Fallback、内容安全和联网搜索等功能，实现LLM生产项目的落地。
MCP概述
MCP（模型上下文协议）是一个开源协议，旨在让大型语言模型（LLM）能够以标准化的方式连接到外部数据源和工具。MCP就像AI应用的通用接口，帮助开发者构建更灵活、更具上下文感知能力的AI应用。
MCP协议的运作机制通过自然语言描述清楚MCPServer和MCPTool的作用，让LLM通过推理选择最合适的MCPServer和MCPTool。
MCP与Function Calling的区别在于MCP是通用协议层的标准，而Function Calling是专有能力，不同大模型厂商之间存在差异。
MCP的本质是描述MCP信息的系统提示词和MCP Server与LLM之间的协同关系，其挑战在于系统提示词的管理、安全性保障、标准定义、Token消耗和私有化等问题。
AI网关代理MCP服务最佳实践
AI网关代理MCP服务可解决传统业务0代码改造转换为MCP Server的场景，通过白屏化操作将各类服务快速接入AI网关，实现协议转换和消费者授权。
MCPRegistry定义及特性为MCP服务提供集中化管理，MSENacos作为MCPRegistry，除了兼容官方定义的MCP元数据格式和API外，还提供了结合AI网关、HTTP转换MCP的能力，以及MCP服务敏感数据加密的能力。
MCP模式下的身份认证和权限管控通过云原生API网关的插件机制提供HTTP Basic Auth、OAuth2.0、JWT、API Key、外部认证等多种认证方式，以及基于消费者认证功能，灵活管理Client的身份认证和MCP Server/MCP Tool使用权限。
基于函数计算FC构建Agent的最佳实践
MCP Server on FC复用高性能能力，云原生API网关+函数计算提供深度集成、高保障的流量入口、更强的管控能力和更高的流量入口稳定性。
MSENacosMCPRegistry最佳实践通过Nacos提供服务Endpoint以及服务Tools Prompt，基于MCP网关（云原生API网关）转换MCP协议，实现MCP服务管理、动态发现、消费者授权和策略配置。
MCP安全性保障和效果验证体系是规划中的功能，将进一步提升MCP范式的安全性和效果。
基于LLM实现模型生成结果自动化评估
模型生成结果评估通过内置模板和自定义评估，降低门槛，提升生成效果。自动化评估基于Trace或模型日志，实现自动化定量/定性评估，如合规性检查、用户意图提取等。
AI应用可观测体系
AI应用面临基础资源、模型推理和成本等挑战。AI应用可观测体系通过AI全栈统一监控、模型调用全链路诊断和模型生成结果评估，实现AI应用的全面观测和分析。
Tracing实现模型调用全链路诊断，基于OpenTelemetry W3C协议详细记录每一次模型调用过程。面向LLM应用的领域化Trace语义以会话串联用户交互问答过程，以Trace承载应用全链路交互节点。
基于LLM实现模型生成结果自动化评估系统，通过内置模板和自定义评估，降低门槛，提升生成效果。自动化评估基于Trace或模型日志，实现自动化定量/定性评估，如合规性检查、用户意图提取等。
MCP为大模型生态带来的变化和挑战
MCP为人工智能模型和开发环境之间建立统一的上下文交互提供了标准化方法，解决“N×M”集成问题。但模型&MCP多轮交互会导致“熵增”，需要通过可观测体系降低“熵增”。
AI应用开发新范式对企业的影响
AI应用开发新范式通过Serverless架构、灵活弹性、按需快速组装业务功能、最小粒度灰度发布和资源成本降低等优势，推动企业数字化转型。
云原生API网关底座核心优势
云原生API网关具备高性能、高可用、安全能力和插件机制等核心优势，为企业提供稳定、高效、安全的AI应用开发平台。
流量网关最佳实践
云原生API网关作为流量网关，可解决网络不通、业务边缘部署、协议不同、安全域不同和跨region等问题，实现统一接入层、跨域互通、证书管理、认证登录、WAF防护、限流熔断、风险预警和插件市场等功能。
K8sIngress
云原生API网关支持K8s Ingress和Gateway API规范，实现ACK/ACS集群内服务的自动同步、多ACK/ACS集群复用一个网关实例、Nginx Ingress核心注解扩展和ACK One 多K8s 集群容灾等功能。
全链路灰度
云原生API网关支持全链路灰度发布，通过静态文件、消息、任务、前端/配置、Scheduler和ARMS观测等功能，实现灰度发布和观测。
同城多活方案
云原生API网关支持同城多活方案，通过网域层和网关服务层解耦，实现高效负载均衡分配和秒级故障转移，保障业务连续性。
