企业级AI应用开发运行时选型
AI原生范式对基础设施提出全新要求
基础设施的核心服务对象从“人类用户”转变为“自主Agent”,需支持Agent的高效运行,包括状态持久化、低延迟访问与跨环境迁移。基础设施应承认LLM输出的非确定性,通过容错自愈降低风险,并主动协调Agent完成目标。Serverless是AI原生架构的最短实现路径,ServerlessAI运行时是AI原生应用的最佳选择。
Serverless AI运行时关键技术
- 函数计算FC:提供轻量、经济、弹性、运维简单的运行环境,冷启动速度快,资源强隔离。安全容器通过虚拟机级别隔离、加固安全策略、组件裁减和实例回收等策略提升安全性。
- 模型运行时:函数计算Serverless GPU通过请求感知调度、毫秒级闲置唤醒、1/N卡切分使用和混合调度等技术,优化GPU资源利用率,降低冷启动延迟,提升推理性能。
- 智能体/工具运行时:函数计算FC提供沙箱即服务、Session亲和/隔离架构、毫秒级启动与按需付费,支持多语言代码安全执行,保障Agent运行安全。
客户案例
- 阿里内部案例:魔搭社区、Qwen、百炼等大规模使用函数计算FC构建模型、智能体和AI工具,实现高效开发。
- 吉利汽车AI座舱:基于函数计算Serverless GPU算力集群,打造大规模、高可用、高性能的推理引擎,降低算力成本33%。
- 设计师、初创公司等客户通过函数计算FC构建智能体开发平台,降低成本60%,实现极致弹性。
AI网关在AI原生架构中的位置
AI网关作为AI应用企业级能力的提升,解决流量管理、安全、协议转化等问题,提升模型调用可用性至99.9%+,预集成安全能力,支持多协议,发布Serverless版,满足多模型、多模态、多场景需求。
AI应用可观测
云监控2.0针对AI应用提供全栈智能可观测能力,支持应用监控、日志管理、链路分析等功能。
FunctionAI产品能力介绍
FunctionAI提供AI全栈升级方案,包括模型服务、AgentRun等能力,支持开源模型一键部署、Serverless GPU弹性算力、AIStudio工作流引擎等,让AI应用开发更简单。
SAE赋能企业高效、稳定、无缝实现全托管容器化
SAE提供一站式容器托管平台,简化运维,保障稳定运行,极致资源利用率,支持多种灰度发布、可观测、可回滚等功能,降低成本,提升性能。
传统架构Serverless容器化迁移实践
SAE支持IDC上云、云上架构升级、EDAS升级等场景,提供平滑迁移方案,简化K8s管理维护,提升系统弹性能力和容灾能力。
AI应用全栈统一监控
SAE支持对接云监控、ARMS、Prometheus等监控工具,提供应用级监控、前端用户体验监控、链路分析等功能,构建完整的统一智能告警体系。
传统能源行业Serverless新突破
中国石化多个系统完成Serverless转型,构建企业级Serverless转型标准。
全栈云原生助力业务高速发展
茶饮头部企业通过全栈云原生架构,实现业务高速发展,降低运维成本,构建完整的可观测体系,支持业务快速迭代。