CVM弹性算力如何实现高效运维? 梁居宝主讲人 Agent是什么?01Agent如何使用工具?02实战演示–AI运维03安全的试验场04 Agent是什么? 我们一起揭开它的神秘面纱 1.Agent是什么? 从“百模大战”到“应用狂飙” AI基座大模型的迭代速度趋于放缓,而基于大模型的应用生态正在蓬勃发展,AI-enabled/AI-native应用层出不穷 AI原生应用AI-nativeApplications AI赋能/增强应用AI-enabled /AI+Applications AI是应用的“中枢神经”,核心业务逻辑深度依赖AI技术 在现有应用中叠加AI模块,AI作为辅助、增强工具存在 AI基座大模型的市场格局趋于稳定,迭代发展速度放缓,国内外头部大模型之间的差距在缩小 1.Agent是什么? 一种能够感知环境、自主决策并执行动作以达成特定目标的人工智能系统。 反应性 自主性 能在没有人类直接干预的情况下自主运作 能够对周围环境的变化和信息输入做出及时响应 学习能力 目标导向 拥有明确的目标或任务,并制定策略以实现这些目标 通过经验不断改进自身的性能和决策策略 1.Agent是什么? AIAgent(智能体)是当前大模型应用落地的核心载体 能够感知环境、自主决策并执行任务的智能软件实体 如何掌握更多的知识? •RAG(检索增强生成):让AI先“查外部资料”再回答问题 如何更便捷使用外部工具? •MCP(模型上下文协议):大模型连接外部工具的标准 如何成为垂直领域专家?•Fine-Tuning(微调/精调) 还有其他的吗? •PE(提示词工程)---大模型时代的编程语言,VibeCoding•FunctionCalling、A2A …•传统软件工程所需要的:部署架构、权限、安全、可观测性… Agent如何使用工具? 关键协议—MCP(Model Context Protocol) 2.Agent如何调用工具? MCP(模型上下文协议):为大模型提供工具箱 MCP (模型上下文协议):为AI大模型与外部工具、数据源提供标准化的交互接口,类似AI应用的USB-C接口 为什么需要MCP? •LLM大模型本身不具备调用外部工具的能力,之前业界提出了FunctionCalling方式来实现,但不同大模型的实现不同,导致每个工具对于不同大模型都需要分别适配封装通用的协议,同一MCPServer可供不同大模型使用 MCP对我们有何价值?我们怎么用好MCP? •将内部工具、产品API、AIAgent封装为MCPServer,方便内外部的AI应用来调用,更好的连接外部AI生态•产品能力:MCPServer一键部署和云端托管 2.Agent如何调用工具? 基于腾讯云提供的MCPSever托管服务开箱即用 当前已经上线云服务器CVM/腾讯云自动化助手TAT/自动伸缩AS等多个计算产品MCPServer 2.Agent如何调用工具? 基于MCP连接腾讯云服务,管理云资源 典型应用:计算产品AI智能体 业务痛点 通过MCP接入外部AI生态,在元宝/元器等AI应用生态中构建智能体,对话式操控云资源、执行“带内”操作 •云平台传统的管控方式依赖于官网控制台、API,操作路径复杂•不同AI客户端、大模型的接入标准各异,调用云API的实现繁琐 应用场景 ✓为不同的大模型调用API操控云资源提供统一、标准的MCP工具✓用户将云产品MCPServer嵌入自己的AI智能体,探索更多用法✓在AI平台发布我们的AI智能体,让用户对话式操控云资源 实战演示–AI运维 使用用CVM MCP Server,TAT MCP Server高效管理云资源 3.实战演示–AI运维 场景一:基于MCP Server高效运维CVM实例和排障 效果演示 演示场景 ★通过智能体快速创建CVM实例★快速排查实例高负载进程,并kill掉★快速查询和管理CVM实例,安装镜像等 应用价值 ★连接云生态与AI大模型应用生态,拓展云服务的应用边界★AI辅助用户“随时随地对话式”管理操作云资源 落地成效与未来展望 ★为社区贡献计算产品系列MCPServer:CVM、LH、HAI、TAT等★基于MCP,构建计算产品AI智能体★后续规划:上架元宝/元器,供外部使用 3.实战演示–AI运维 场景二:打通VibeCoding最后一个环节,实现应用快速部署 效果演示 演示场景 AI生成的简单博客系统,通过内置规则让AI完成项目部署:CVM MCP工具自动创建云服务器实例、完成密码、安全组等配置,最终将项目部署到腾讯云CVM实例上,用户可通过实例公网IP和项目端口直接访问部署好的博客网站。 应用场景 ★将本地代码一键部署到远端CVM实例,构建测试/生产环境。★基于TAT提供的“带内”管理功能无需安装任务软件即可轻松上手。 落地成效与未来展望 ★极简上手,提升部署效率★增强安全与合规性后续规划★降低运维成本与复杂度 安全的试验场 基于CVM实例快速搭建沙箱环境 4.安全的试验场 AgentSandbox是什么? 正如Docker重构了软件的交付方式,GitHub重构了代码的协作模式,专为AI Agent设计的安全沙箱(AgentSandbox),也正在成为支撑AI时代安全运行的基石。 2010/2013 2014-2018 2023–至今 1990 虚拟化技术普及 传统安全沙箱诞生 FirecrackerMicroVM Code Interpreter上线 为分析计算机病毒和恶意软件,创建隔离环境技术(如CuckooSandbox),允许安全研究人员在封闭环境中观察恶意代码行为。 VMware、Xen等虚拟化技术实现硬件资源分割,支持多操作系统隔离运行,但启动慢(需分钟级)、资源消耗大。 OpenAI在ChatGPT中集成代码执行能力,首次实现AI Agent的“思考+行动”闭环,同时暴露AI代码的安全风险(不可预测性、权限模糊)。 AWS推出专为无服务器计算设计的微虚拟机,结合虚拟机强隔离性与容器轻量化优势,实现毫秒级启动和高密度部署。 Docker容器革命 E2B技术发布 专为AI Agent设计的沙箱服务,通过API提供安全隔离环境,支持毫秒级启动、细粒度权限控制,后集成至LangChain生态。 Docker通过容器技术实现轻量化隔离环境,解决环境一致性问题,具备秒级启动、低资源占用和标准化部署能力。 4.安全的试验场 E2B安全沙箱 基于CVM构建 E2B是一个开源的“秒级启动MicroVM+ API”平台,专为AI在云端安全运行任意代码而设计,提供高效、安全的运行环境。 在E2B协议基础上腾讯云CVM团队基于CVM实例构架了E2B集群。 安全隔离 快速启动 多语言支持 持久化状态 基于MicroVM的独立内核,拦截危险系统调用,支持会话结束后自动擦除数据,确保存储安全,防止数据泄露。 E2B的冷启动与本地Docker相当,而热启动仅需150毫秒,显著优于本地Docker。内存占用均保持在128MB,远低于本地Docker的300MB。支持高并发任务调度。 沙盒暂停/恢复(Persistence),支持一个月内状态保留。适应长时任务与间歇执行场景 预置Python/JS环境,动态安装第三方包(如pandas、matplotlib)。支持灵活适配数据分析与可视化需求 4.安全的试验场 Code Interpreter 在聊天Agent中,E2B可实时运行图表代码,为用户提供即时的数据可视化和分析结果。 AI数据分析 E2B支持Pandas和Matplotlib,实现无缝可视化,助力AI数据分析的高效进行。 E2B典型应用场景 并行测试 E2B能够支持多版本依赖的并行单元测试,显著提升开发效率和测试速度。 支持复杂AgentE2B支持复杂Agent,如Manus,可自动操作浏览器完成多步任务,满足复杂的业务需求。 THANKS 轻量云助力开发者畅游AI时代 腾讯云产品曹峻玮主讲人 AI应用建设与云上AI助手 Lighthouse介绍01 03 02 云端AI助手“双引擎” 轻量云助力AI应用搭建 Lighthouse介绍 专为中小企业与个人开发者而来 Lighthouse是什么? 轻量应用服务器(TencentCloud Lighthouse)是腾讯云专为中小企业和开发者打造的新一代开箱即用、面向轻量级业务场景的云服务器产品,适用于在云端构建网站、Web服务、小程序/小游戏、APP、电商、音视频直播、云盘/图床等应用,相比传统云服务器更加简单易用且更贴近应用,一站式融合基础云服务并通过优惠套餐售卖,为您提供极简云上应用构建体验。 轻体验 轻应用 一站式融合常用基础云服务极简体验 优质应用镜像,一键部署秒级启动应用 轻运维 计费清晰简单高性价比 可视化管理控制台统一、智能、简单易用 轻量云助力AI应用搭建02 为开发者提供AI时代的“LAMP” 操作系统:Linux 轻量云面向开发者提供AIAgent版“LAMP” 场景需求 需求开发:实现核心业务逻辑,如集成模型、编写Prompt、引入向量检索与外部工具 调试验证:在沙箱环境调试、测试验证,复现并修复错误与边界情况,确保功能可用 发布部署:将Agent部署至云端服务器,确保功能可用并完善监控、告警等配置 运行观测:分析用户使用日志、追踪Agent执行过程,检查是否达到预期并持续优化 核心产品能力 Langfuse:为Agent提供全生命周期运行监控观测和管理 Qdrant:为Agent提供向量数据库,实现Memory能力 轻量云助力开发者快速上手MCPServer:一键云端部署 需求场景:MCPServer云端托管 本地部署相对而言上手门槛较高,同时随着以MCP Server为基础的应用逐步普及,开发者对于更加稳定、低门槛的应用部署模式有着很高的需求潜力。 核心产品能力 自动构建MCPServer运行环境:省去开发者手动安装和配置各种组件的步骤,确保环境的一致性和稳定性。MCPServer一键部署:部署社区/自定义MCPServer,支持远程调用。 轻量云助力开发者快速上手MCPServer:零门槛上手开发 需求场景:MCPServer开发 大量新手开发者或因编程基础薄弱望而却步;从功能设计到代码实现、应用部署均需手动完成,占用大量时间与精力。开发者对“低门槛、高效率”的MCP Server开发工具需求潜力高。 核心产品能力 自动构建MCPServer运行环境:省去开发者手动安装和配置各种组件的步骤,确保环境的一致性和稳定性。MCPServer一键部署:部署社区/自定义MCPServer,支持远程调用。 云端AI助手“双引擎”03 从控制台到终端,AI助力开发者上手云计算 轻量云AI助手:助力开发者快速上手轻量云控制台 核心能力 智能问答:基于腾讯云AI助手,支持产品知识智能问答智能规划:通过自然语言,AI即可辅助完成40+控制台常用操作智能选购:AI智能分析服务器选购需求,推荐高性价比套餐 智能规划:Lighthouse实例备份 优势 场景覆盖广:AI能力覆盖产品问答、选购推荐、服务器基础管理等多场景,助力开发者高效管理Lighthouse。操作效率高:仅通过AI助手对话即可完成多步骤任务,无需辗转多处。 智能选购:推荐Lighthouse套餐 OrcaTermAI助手:助力开发者快速上手服务器运维 核心能力 智能规划:开发者使用自然语言即可与终端进行交互命令生成:支持生成终端命令、一键执行并对结果进行理解上下文理解:AI可理解终端上下文,生成内容更符合实际环境 智能规划:检查服务器运行状态 优势 贴