贾飞 拥抱AI原生浪潮01 资本市场下“AI原生” AI原生的数智浪潮正在走来 从传统基础设施走向云智算 面向AI发展的组织阵型变革 •异构算力支持:AI原生系统需兼容GPU、TPU、NPU等专用芯片,优化算力分配;•弹性资源调度:动态分配算力资源,支持大规模模型训练和实时推理;•数据-算力-算法协同:基础设施需打通数据存储、计算资源与算法框架。•高密机房改造:“空间利用率+能源效率+运维智能化”三重维度的智能化跃迁 •组织演进:公司的科技部门将成为AlAgent的HR部门—黄仁勋; •组织协同:平衡人类智慧与ai数字生产力,实现高效协作;•新岗位需求:AI算法工程师、数据科学家、AI产品经理、智能体工程师、Prompt工程师。•开发模式:传统开发者转型为“AI训练师”,未来算法、工程、产品融合的复合型团队。 迎接数据与AI的双向驱动 •Data与AI融合:数据预处理,多模态数据接入,知识库向量化;数据缓存加速,分布式训练能力;•一站式模型开发(MLOps):从数据标注、训练、评估到部署的自动化流水线;•实时数据流处理:支持高吞吐、低延迟的数据采集与处理,支撑推理和训练实时业务场景。 AI应用生态的云起浪涌 构建模型服务平台驱动AI应用创新 •AI助手:元宝、豆包、deepseek•智能体生态:元器、coze、TCADP、MCP•智能知识库:ima(个人)、乐享(企业)•AI浏览器:QQ浏览器Qbot、Manus、夸克•智能终端:智能眼镜、智能耳机•具身智能体:人形机器人、机器狗等…•多智能体协作系统:智能驾驶、智能物流 •模型即服务(MaaS):将预训练模型、微调接口作为基础服务;•Prompt工程化:通过自然语言指令直接调用AI能力,降低开发门槛;•模型的多极竞争趋势:通用模型你追我赶,小模型百花齐放;•多模态:从文字模态到文生图、文生视频、语音、数智人等多模态。•智能助手:个人级智能助手、企业级智能助手。 智算架构:大模型从创新探索到企业级应用的基石(1/2) 智算架构:基于混合云的智算架构布局(2/2) •基于通用硬件打造全栈智算,算、网、存极致性能协同•存算解耦的分布式架构,根据需求发展灵活扩展•一云多算(异构算力),算力的利旧投资保护、布局国产化•在私有环境内建设,便捷打通企业内的数据与应用服务 •企业生产基建:面向大模型规模化应用的智算核心基础设施•多业务共享:面向多部门、多场景的共享集约智算基础设施•训推混合应用:具备训练、推理的大模型场景 •开发测试:不涉及敏感内部数据与用户请求的创新测试场景•公开数据:基于公开数据/信息的大模型应用场景 •一站式智算服务、灵活的订阅投入模式,可弹性扩展•以单卡为单位,起步投入更低•靠近交易,适合对时延敏感的业务•可信、安全的行业基础设施 •创新试验:功能完善、投入低、快速起步,易于对不同类型与尺寸的模型进行测试与创新应用•行情交易:如机构交易服务等低时延业务的大模型应•弹性算力延展:自建算力之外,对弹性需求的有效补充 模型广场:大模型应用与创新落地的重要平台支撑 大语言模型 •通用基础模型•金融行业模型•精调专属模型•RAG原子模型•机器翻译模型•代码生成模型 为什么需要多种大模型 •场景:不确定->确定•模型广度:文本->多模态•模型深度:慢思考,深度思考•模型成本:开源,平权 企业如何选择模型? •维度一:参数规模•维度二:数据模态•维度三:建模方式 知识治理:大模型企业应用落地的基础和关键步骤 复杂表格 概念知识 解析+切分+检索 推理+生成 工程能力:如何构建从“能用”到“好用”的智能体 Tokens消耗高造成成本压力大以及时延增大? 金融场景内容安全如何做到严格管控? 安全合规:大模型创新应用的底线命题 监管要求 •2023年8月国家网信办发布《生成式人工智能服务管理暂行办法》•2023年10月网络安全标准化技术委员会发布《生成式人工智能服务安全基本要求》•2023年10月网络安全标准化技术委员会发布《大模型系统安全保护要求》•2024年2月网络安全标准化技术委员会发《网络安全技术生成式人工智能服务安全基本要求(TC260-003)》 内容安全控制:模型算法控制+集成天御内容安全+通过prompt工程控制 企业智能大脑:智能体的构建与持续进化 拥抱AI生态:构建ToB + ToC的AI原生生态连接 原生AI产品快速迭代:从“可用”到“好用” 元宝 •双模驱动,用户显著增长•快速迭代,新增图片、多文件解析、代码生成等•打通微信、微信读书、QQ音乐、腾讯地图、京东…… ima •打通微信生态的个人知识库应用•腾讯独家rag能力,支持多场景问答和多文件格式•开放知识库广场与知识号构建生态 元器 •开放式智能体中枢平台•与微信生态无缝连接:公众号、小程序、客服、微信支付•特色应用:微信公众号智能体、微信支付MCP…… QQ浏览器 •QQ浏览器全新升级为“AI浏览器”•双模驱动的搜索、浏览、办公、学习、写作等五大能力•Qbot智能助手,Agent中心推出财经助理等智能助手 核心产品全面拥抱AI:模型与产品的协同演进 700+产品依托腾讯大模型体系能力,快速上线AI原生功能 行业场景实践探索02 案例一:资本市场利用AI技术构建行业知识库平台 平台定位 ➢共建共享的行业级知识平台➢作为行业新型基础设施,打破知识壁垒,连接监管、行业节点、市场机构➢知识治理与应用的行业示范,驱动行业知识迈向智能化 案例二:某头部券商利用AI技术从协同数字化走向智能化 打造面向员工“懂意图、能问答、会执行”的协同助手: 通过实现与企业微信原生智能机器人的无缝集成,收敛员工散乱的问答入口,打通企业微信、腾讯会议、企业版ima、内部应用等多方API,让AI不仅能问答更会执行 案例三:某头部券商全面应用AI代码助手提升研发效能,面向业务创新释放生产力 读代码、建知识 定规则、立规范 精修改查 打磨关键细节例:span及error处理时应做安全检查,避免空指针 把知识库转化为规则,提升AI生成代码质量让AI生成代码时沿用已有的逻辑与风格例:公共函数必须增加“GoDoc”注释 利用AI “读”已有的源代码让AI正确理解已有代码 案例四:某互联网券商构建AI大模型智能投资助手提升客户体验 技术实现:该证券公司与腾讯云深度合作,基于腾讯云技术栈构建包括“投资助手”在内的多个对内、对外大模型应用,模式包括“基于TCADP智能体开发平台快速低代码应用构建”、“各类原子能力调用”、“算力购买”等。 目标定位:降低投资门槛,增加用户粘性,提升活跃度和留存 功能定位:投资辅助工具,不提供买卖建议,在信息整合、交互体验和辅助决策方面带来了升级 数据查询:上市公司财报、股价、财务指标等客观数据查询 行业动态:跟踪科技、消费、新能源等关键领域的投资逻辑变化 公司研究:解析企业商业模式、竞争优势、财务健康度等基本面信息 市场分析:解读市场热点、行业趋势、政策影响等 案例五:某券商面向新一代智能APP构筑全面的AI原生架构 布局与展望03 THANKS