企业级AI应用开发运行时选型
AI原生范式对基础设施提出全新要求
- 基础设施的核心服务对象从“人类用户”转变为“自主Agent”。
- 基础设施必须原生支持状态的持久化、低延迟访问与跨环境迁移。
- 承认LLM输出的非确定性,通过基础设施能力降低风险。
- 基础设施主动协调Agent完成目标,Agent和Agent或者Agent和工具之间的协作依靠事件驱动和动态弹性。
- AI时代开发者关注业务创新而非基础设施,Serverless是AI原生架构的最短实现路径,ServerlessAI运行时是AI原生应用的最佳选择。
Serverless AI运行时关键技术
- 函数计算FC:运维、轻量、经济、弹性,冷启动速度快,资源强隔离。
- 模型运行时:GPU冷启动优化,模型加载加速,支持多种场景。
- 智能体/工具运行时:沙箱即服务、Session亲和/隔离架构、毫秒级启动与按需付费。
客户案例–Serverelss+AI让应用开发更简单
- 阿里内部案例:魔搭社区、Qwen、百炼,大规模使用函数计算FC提供的Serverless运行时构建模型、智能体和AI工具。
- 吉利汽车AI业务部署架构:基于阿里云函数计算的Serverless GPU算力集群为AI座舱的交互和娱乐功能提供大模型推理服务。
- Serverless xAI,函数计算FC帮助企业跨越技术鸿沟,让模型服务兼具SaaS体验和自建优势。
FunctionAI:生成式AI的落地实践与案例分享
- Serverless AI原生应用架构:组装式开发,弹性开放,按需选择。
- FunctionAI产品能力介绍:模型服务、AgentRun:AgenticAI应用基础设施。
- ServerlessAI场景案例分享:与光同尘AIGC案例、吉利汽车AI业务部署架构、AIStudio场景案例、智谱Sandbox场景案例、MCP行业案例。
Serverless应用引擎SAE:从传统应用到AI应用的一站式托管
- 传统应用运维的‘简、稳、省’优化之道:一站式容器托管平台,全程保障线上稳定运行,极致资源利用率。
- 加速AI创新:从快速探索到高效落地:SAE在AI原生应用领域的定位,SAE全托管AI智能体解决方案。
传统架构Serverless容器化迁移实践
- 企业云原生上云的挑战:技术、成本、管理。
- Serverless容器化架构的演讲趋势:SAE适用场景,SAE适用的软件架构和兼容的部署平台。
- 场景一:单体应用(已经存算分离)架构迁移:微服务架构“0”改造上云/升级到SAE。
- SAE方案VS开源自研的优势:无需投入研发,稳定性有保障,白屏化使用,体验更简单,完整的可观测能力。
- 传统能源行业Serverless新突破–中国石化:多个系统完成Serverless转型。
- 构建企业级Serverless转型标准–中国宝马:以ServerlessLandingZone方案为核心,构建Serverless环境IaC标准。
- 茶饮头部企业-全栈云原生助力业务高速发展:全栈基于云原生,构建了完整的云原生应用平台。
AI网关在AI原生架构中的位置
- AI网关提升AI应用企业级能力,企业AI应用访问大模型,工具,多智能体的统一出口。
- AI网关提供多模型路由、Failover、灰度发布、并发控制、限流等能力将模型调用可用性提升到99.9%+。
- AI网关预集成安全能力,对API-key,消费者凭证进行统一管理,分权管理预集成WAF防护。
- AI网关支持多协议,集中管理智能体各种调用,包括模型调用,MCP工具调用,以及A2A调用。
- AI网关发布Serverless版,免容量预估,500QPS秒级弹性大幅降低起步成本。
- 模型:从文生文到多模态,满足多模型、多模态、多场景的诉求,做到高安全、高稳定。
- 从MCP代理到工具组装,通过手动和智能组装MCP Server,更好地使用工具。
- 云监控为AI应用提供全栈可观测能力。