研报总结
Serverless在解决什么问题
Serverless通过优化资源供给能力,降低用户保有资源的成本,提高资源利用率,降低资源使用成本;同时,通过加强云产品及周边生态的集成,降低用户业务构建的门槛,减少业务发布和扩容运维时间,提升业务效率。其目标在于实现按需付费、极简运维、灵活定制,具体策略包括平台及体验能力升级,如事件驱动、云服务集成、流程编排、应用模版、计费优化、观测能力集成。
AI 应用基本要素与Serverless擅长领域
AI应用基本要素包括大模型、领域模型、业务逻辑、领域抽象、BaaS服务和流程编排。Serverless擅长领域在于提供开箱即用、一键托管、可观测、完备、低成本的服务,以及领域适配、业界标准、活跃生态。Serverless在AI应用开发中具有门槛高、迭代快、效果好、低成本的优势。
模型服务+Serverless GPU实现降本增效
行业痛点包括开源/微调模型做成镜像有门槛,商业模型按token计费贵且有速率限制,高峰流量大、资源成本高、运维管理复杂,冷启动延迟高。平台价值在于快速托管主流模型,封装vLLM/SGLang/Ollama/Hugging Face Transformers实现推理加速、轻量化部署,提供API Key管理;通过负载感知调度、资源池化实现更高的弹性和资源利用率,平衡推理速度、稳定性、成本。
领域模型加速落地:图像生成
行业痛点包括SaaS昂贵且无法自主可控,虚机/容器自建弹性效率弱、利用率低、成本高,文生图WebUI/API开发门槛高,模型/插件下载国内网络不可用。平台价值在于深度集成Serverless GPU,兑现弹性降本优势、快速出图,提供专属工作空间,增强企业级特性。FunctionAI图像生成支持SD WebUI/CompyUI一键部署,提供专属工作空间和网络加速能力,支持上传、下载自定义模型及插件,开发调试一键发布Serverless API。
智能体应用中间件服务
智能体应用包含感知、决策、行动,行动需要灵活、快速、轻量的运行时,函数是最合适的形态。Serverless是Agent的最佳运行时承载,通过MCP/Function Calling、Hosting Services、Serverless GPU实现智能体模型服务工具的价值。
智能体应用集成:MCP
MCP server的优势在于稀疏调用、非稳态调用、脉冲型调用特征明显,算力规格要求小,适合弹性;Nodejs、Python主流,启动快,适合FaaS运行时;多租隔离,满足安全要求;内置负载均衡以及安全防护,支持集成网关实现更高阶流量管理。劣势在于大部分MCP server都是STDIO模式,不支持多并发,不具备鉴权能力;SSE会话亲和性特性,不适合Serverless按量弹性不同实例;SSE协议长连接特性,造成函数实例长时间活跃,持续产生费用;本地调试困难,问题难定位,缺少开发及部署MCP的最佳实践。厂商应对之道包括FunctionAI MCP广场提供模板一键部署、自定义MCP服务;提供隐私变量管理、服务鉴权、内网访问能力;提供Serverless Devs工具本地部署函数计算MCP Runtime,内置MCP Proxy,存量STDIO无改造直接生成SSE/Streamable Http服务,具备单实例多并发能力;发布MCP会话亲和性调度,保证相同sessionID会话绑定到相同实例;发布长连接闲置计费,最高降低87%成本。
流程式编排:AI 工作流
引入LLM、Agent、MCP、工具节点完成复杂业务场景,工作流具备理解上下文、自适应、自我进化的能力。AI工作流重塑企业自动化流程,自动化->智能化。Serverless工作流组装式、连接云服务,事件驱动,高效处理图片、音视频等非结构化数据,典型场景ETL;无缝连接各种云服务,完成云上自动化任务;弹性自动扩展、按量付费;多地域容灾、高可用、低代码。Serverless AI工作流FunctionAI Studio基于Serverless工作流,引入AI节点:LLM、Agent、MCP、工具,使用云服务完成RAG流程:OSS、Tablestore、PolarDB。
总结
Serverless优势助力AI应用研发提效,弹性扩展、按需付费、无服务器运维,解决AI开发中的资源瓶颈与成本压力。Serverless作为AI时代的基础设施与未来价值,正成为AI应用的“基石”,支撑从数据预处理到模型部署的全链路AI。需要Serverless的‘弹性’,Serverless需要AI的‘智慧’。