拥抱大模型时代 构建新时代数字员工 ⾼原/句⼦互动CTO DataFunSummit#2024 GPT为代表的⼤语⾔模型开启了⼀个全新的⽣产⼒ ⼈类历史上从来没有这种能⼒, 可以千⼈千⾯,场景性的,带有情感的让企业和每⼀个⽤户之间进⾏互动。 从“千⼈千⾯”的”推送”—>“千⼈千⾯”的”互动”。 它不⽌局限于对话,更不⽌局限于被动的响应, ⽽是⼀名真正的数字员⼯, 主动解决现实中我们原来看起来⾮常繁琐的问题。 大模型企业落地的问题 缺乏与真实世界的连接 大模型专业深度不够,数据更新不及时。经常会出现幻觉,用户使用最直观的感受是它在一本正经的”胡说八道“ 记忆能力有限 大模型由于Token的限制,只能记忆部分的上下文。比如ChatGPT3.5只能记忆4096个Token的上下文,无法实现长期记忆。 数据安全隐患 企业要想利用大模型构建商业,必须将自己的语料全部输送给大模型,以进行推理和表达。对于数据敏感的行业,存在较大的安全隐患。 落地成本较高 大模型由于数千亿的模型参数,光部署计算资源的投资就得上亿。重新训练一次模型也需要近千万的投入 今天的做法 在新的⼤模型范式下,成本和⼯作流有机会进⾏重组 ✅⾃动化 ✅成本降低20倍 ✅⽆需⼈⼯标注 ✅基于⼤模型,更智能 01 产品介绍 RPA+AI,打造领先的数字员工 RPA+AI 他可以是数字销售 他可以是数字⽹格员 他可以是数字电⼒管家 他可以是数字SDR 他可以是数字⺠警 打造下一代,大模型驱动的 领先数字员工 数字员⼯的4个能⼒ 句⼦互动提供2款产品 提出8⼤⽣命周期作为理论⽀撑 句⼦互动,国内最早将⼤模型落地于营销场景的服务 数字员工的4大核心能力 优化⽤户转化及运营流程、⾃动完成销售任务、显著提⾼服务品质与团队效能 句子互动提供2个产品 RPA+AI 打造大模型驱动的新时代数字员工 RPA-数智化运营服务一体化平台 AI-Agent工作流平台 1.RPA-数智化运营服务一体化平台 利用RPA,基于社交媒体(例如企业微信)打造运营服务呼叫中心 电话 呼叫中⼼ 短信 ⽆呼叫中⼼替代品 ?? ? ⽤户习惯的变化 什么是RPA?为什么需要企业微信的RPA RPA通过模拟人类的操作,将基于规则、重复、枯燥的数字化业务流程自动化,从而达到降本增效的目的 提供了让机器⼈能操作企业微信的⼯具 •RPA:让机器⼈来控制企业微信和⽤户说话,句⼦互动将企业微信RPA化实现⾃动化能⼒。 •Copilot:机器⼈和⼈协同⼯作,客户的问题优先由机器⼈接待,机器⼈解答不了的问题可转⼈⼯ •Integration:将各个IM的消息收发、客户管理等操作路径封装,员⼯在可视化⻚⾯下⾼效的完成⾯向数百万⽤户的消息推送和应答。 多IM账号聚合&客服分流,智能运营&营销自动化,社群&朋友圈自动化管理 运营-智能触达引擎服务-客服工作台 智能触达高频推送 将群发任务按时间线设定为SOP任务,机器人到达预设时间自动执行任务。支持营销日历,查看所有触达任务的执行状态。 句子支持更高频次的消息推送,无需员工确认,即可直接完成面向企业所有用户的私聊、群聊群发任务。 RPA产品-服务:聚合多个账号的消息构建更强大的聊天页面 多账号聚合客服消息分配 将多IM(飞书、5G消息、WhatsApp、小红书、微信公众号、微信客服、企业微信等)账号聚合在一个页面查看并回复所有用户消息,无需在多个设备间切换 实现工单的自动流转,同时提供系统分配和人工分配两种方式,并可记录客服的响应绩效 2.AI-Agent工作流平台 句子AIAgentWorkflow功能矩阵 流 知程 识引 库擎 Agent 测调 试优 中中 心心 不同格式⼀键上传 复杂⽂本智能切⽚ 图⽚视频智能理解 对话历史⼀键提取 测试对话批量上传 多轮测试⾃动执⾏ 关键节点⾃动检测 测试报告直观展示 对话历史全量留存 错误环节快速定位 来源归因清晰展示 修改效果现场测试 满足企业的效率需求 在效率和可控之间的平衡 AI推荐,人来回答,企业控制每一条回复 AI产品:根据企业对内容要求可控度,支持三种模式随机切换 AI全⾃动模式 AI直接回复客户 应答效率更高,节约大量人力成本 ⼈机协作模式 AI预先回答 根据业务流,在用户情绪异常或识别 无法机器处理时转人工 机器推荐模式 AI辅助人工客服 发送之前可二次修改,内容更可控 1.诊断用户运营效率,挖掘可优化模块 •基于句子独有的5力模型,对运营现状进行访谈、调研和分析。 •基于分析结果,确定可通过AI优化的运营模块。 2.基于产品化解决方案,打造AI深度参与的工作流 •基于业务需求,规划如何将AI加入工作流,从而提高运营效率。 •制定详细的“AI工作手册”,清晰界定全部工作场景下AI的动作。 •制定人与AI配合协作的标准化流程,解决业务实际问题。 •产出定制化的产品解决方案,数据安全等个性化需求。 运营力:针对不同用户,是否有匹配的运营策略和动作,能保证用户获取、留存、分享、复购的成功率。 内容力:是否能高效率、低成本的生产有价值的内容,影响用户心智。触达力:每个用户触点的体验如何,能否满足用户需求。 数据力:是否能有效的收集数据,并合理的使用数据指导运营。 组织力:人力配置、职能分配、权责设置是否合理高效。 3.打造专家级数字员⼯ 根据产品规划,完成开发、测试、和上线 4.运营陪跑/代运营5.数据监控和复盘优化 陪跑和代运营两种服务模式以日/周/月/项目为周期,分析对话记录,调优AI机器人和工作流 陪跑模式:句子运营专家参与运营工作,提供AI使用和运营策略指导 调优中心助力企业收集反馈,构建数据飞轮 代运营模式:由句子运营团队负责独立的工作模块或账号 大模型层 数字 AI民警 数字销售员工 数字 网格员 AI 家庭医生 AI 店长 数字 教师 … 基于企业即时通讯的RPA能力,快速接入不同企业即时通讯软件 企业微信 公众号 小程序 小红书 抖音 WhatsApp 网页 … 数据/知识库(文档,FAQ,网页) 基于大语言模型编排能力,快速搭建对话式应用 数据切割 数据转换数据更新 promptpipeline 意图领域识别 对话管理 数据 检索 调优中心 … 应用层 句子互动 集成诸多大模型实现大模型之间的协 同应用 RPA层 通过提供大模型应用 层编排器提供完整大模型中间件解决方案 API 开放平台 打通外部系统 运营反馈 流量分析;对话内容分析;对话异常分析 运营反馈 需求分析 需求分析 确定Chatbot的边界;确定Chatbot的形象;“六何"产品需求分析法;案例:差旅Chatbot 平台渠道集成 微信;钉钉;BotFramework 平台渠道集成 流程设计 流程设计 对话流程设计的原则;梳理业务要素抽取对话流程,绘制流程图 系统测评 任务型Chatbot测评指标;问答型Chatbot测评 指标;闲聊型Chatbot测评指标 系统测评 系统搭建 数据处理 Prompt撰写 数据处理 数据收集;数据清洗;数据转换;数据切割数据扩充和数据更新 Prompt撰写 系统搭建 搭建前的准备;自然语言理解;对话管理; RAG搭建;平台工具介绍 何谓PromptEngineer;撰写Prompt的原则和方法;PromptEngineer实操;针对搭建Chatbot业务流撰写Prompt;Prompt工具介绍 ⼤咖推 荐 大模型时代如何构建AIAgent—《Chatbot从0到1》 多种部署方式、灵活性高、服务种类丰富且优质 云端/公有云 句子提供服务器 开箱即用,方案灵活,成本低廉 适用企业中小企业、个人开发者 √敏捷迭代,希望快速实践大模型应用 √公开数据信息丰富,通用行业适用 独立部署 句子提供独立服务器 数据资源隔离,灵活,高性价比,高稳定性 适用企业中、大型企业 √希望探索行业垂类场景大模型场景 √经验壁垒、专业知识壁垒高要求行业 私有化部署 客户提供服务器 数据存储品牌自有服务器 适用企业超大型企业、国企、央企 √计划构建专属垂类大模型,打造竞争优势 √保证安全性更强或有特殊要求 场景特征 √快速上线,低成本试验 √通用类场景 场景特征 √大体量客户和公有云客户数据资源隔离 √场景涉及较多行业知识或企业自有沉淀 场景特征 √数据不能出内网,有特殊安全保密要求 √支持最大程度灵活扩展与最高级稳定性要求 √需要私有数据训练模型 助力大模型企业落地Plus服务 大模型咨询服务 PoC项目验证 部署陪跑 内部培训 提供标准化的API接⼝,开放IM消息收发送能⼒。 02 案例分享 ⼤模型驱动的基于企业私有数据的数字员⼯ 利⽤AI机器⼈,帮助销售⼈员在与客户沟通中解决遇到的任何问题,提⾼效率。 ⼈员流动⼤ 大量的时间、人力和资源进行招聘和培训;缩短公司 内部知识和经验的传承时间;降低生产力和效率。 SKU产品多 给企业带来管理成本高、产品更新迭代快、和销售难度增加等方面的影响。 案例⼀ 健合集团-AI产品知识库 根植Swisse业务数据打造专属数字员工 企业数据需要智能化,机器人需要专属大脑支持,生成最懂企业的AI客服。从而解决“不结构化的知识,不标准化的流程,不稳定的人员”带来的问题。 PromptChain结合工程解决大模型幻觉等问题 工程化的解决了健合场景下大模型幻觉问题、相似产品混淆、 产品推荐不准确等问题。 …… 销售提问 健康问题咨询 咨询产品 客户投诉…… 机器⼈回答 利⽤知识库解答 推荐产品介绍使⽤⽅式 提供对应话术…… 怎么使用 机器人结合上下文 识别到的 我应该怎么使用Swisse儿童脑部健康DHA鱼油胶囊? 某头部银行保险业务—AI业务员 案例⼆ ⽤户转化周期⻓ 过去大部分的成交都是“概率成交”,虽然企业有打造“信任成交”的经营策略,但是“客户陪伴式营销”的策略落地周期长,成本高,销售意愿度不可控。 沉默线索转化,⼈⼒成本⾼ 银行行业拥有大量的沉默线索线索,人工进行线索转化成本高,不可规模化,因此即使沉默线索中有可能挖掘出大单,但是销售依然会专注确定性更强的重点线索。 以⽤户个体为最⼩服务单位,让AI机器⼈主动向⽤户提问来获取信息,根据⽤户身份和需求,主动提供针对性的内容和监测触达效果 •客户基本信息 姓名年龄性别 银⾏系统 句⼦系统 •客户基本信息 微信昵称微信备注 ExternalUserID【企业微信唯⼀身份识别码】 •过往消费记录 产品名称消费⾦额消费时间 •客户画像分析 消费层级客户等级推荐产品 句⼦开放API接⼝ ⽀持与银⾏系统相互打通为精细化运营提供更多的参考依据与技术能⼒⽀持 •过往消费记录 私聊聊天历史群聊聊天历史客户跟进记录 •标签体系 ⾼/低净值⽤户会员等级 活动标签 AI业务员-实现方式:可视化配置流程引擎 在流程引擎中提前设置转化链路,让AI机器⼈主动向⽤户提问来获取信息,根据⽤户身份和需求,主动发起下⼀步动作。下⼀步动作包括但不局限于:主动提供针对性的内容、打标签、改备注、拉⼊群聊。。 我想咨询⼀下健康险 今年做过体检了吗?我们这⾥正好有优惠检的名额,你要不要来体验⼀下? 您体 这是你的专属体检优惠套餐,包括商务体检服务、家庭医⽣服务⼀年和减免挂失⼿续费次,点击链接(XXXX)可以直接抢购哦~ 1 发优惠券 优惠券服务卡⽚ AI业务员-实现方式:长决策周期新客户拓展场景标签体系|⽤标签体现线索核⼼信息 AI业务员-实现方式:长决策周期新客户拓展场景线索打分,提⾼线索转化率 腾讯广告AI助教 案例三 学习效率低 视频时间过长,学习者可能会感到厌倦和疲惫,无法集中注意力,从而降低学习效果,影响学习积极性和动力。 学习意愿低 在学习时由于部分内容已经熟知,