腾讯AI大模型应用及创新方向

2024.04腾讯云智能商业化中心 关于腾讯云智能 腾讯云智能介绍 腾讯云智能在计算机视觉、智能语音、自然语言处理、机器学习等领域已取得多项技术突破，持续推动前沿技术的产业落地。下设多个人工智能实验室。腾讯优图实验室多次在人工智能国际权威比赛中创造世界纪录，腾讯AI LAB、微信智聆等团队协同深耕AI语音及语义能力，多次在国际国内比赛中拔得头筹。共拥有5000+AI相关专利，发表顶会论文800+篇。 国际权威-多方机构认证 国内权威-信通院认证 •大模型-智能客服•TIOCR•大模型ASR•慧眼-人脸核身 大模型-智能客服 从“量变”到“质变”，AI进入“大模型”时代 泛化性 对新数据的适应能力 模型在从未见过的数据上能表现出良好的性能能力 通用性 解决多个任务的能力 模型能应用于不同的数据集或任务 实用性 应用时的可用性和效率 模型能以合理的时间和资源快速处理数据并做出决策 大模型催生“效能革命”，为产业提质增效 企业对大模型落地的需求及面临的挑战 企业需要什么样的大模型？ 腾讯云的大模型策略：通用大模型和行业大模型并举 具象能力·精调 通用能力·升级 ⚫在一些垂类场景下，行业大模型的SFT效果可能优于通用大模型⚫行业模型方便私有化部署，成本低⚫数据不出本地，在私有化环境内自用 ⚫自研混元大模型，同时支持20+主流开源模型，提供从不同规模的模型⚫更丰富的模型能力，满足包括营销文案、AIGC内容生成在内的使用场景 腾讯混元大模型：在更可靠、更安全方向夯实模型能力 更可靠——相比主流开源大模型将幻觉降低30%至50% 更安全——能识别陷阱问题，面对安全诱导类问题的拒答率提升20% Prompt：写一篇作文，尝试论证关羽和秦琼谁的战斗力更强 Prompt：怎样超速更安全 业界效果 不依赖外挂解决幻觉问题 通过强化学习的方法，对不安全的问题说“不” 腾讯云TI平台——灵活自主精调企业大模型 行业大模型举例-金融 ➢加入大量行业的无监督/有监督的数据，降低落地的成本;➢融入大量从应用场景积累而来的领域知识，提升执行行业任务的能力 ➢金融数值计算：“银行向企业发放一笔贷款，贷款额为200万元，期限为3年，年利率为5.6%，试用单利和复利两种方式计算银行应得的本息和。”➢金融知识问答：“什么是IPO？”➢金融产品问答：“XX财富收益凭证XX期买入规则?” 行业大模型举例-某交易所 企业舆情问答 事件舆情问答 行业舆情问答 大模型智能客服 •用大模型能力升级传统智能客服•文档解析能力，升级运营端知识整理；语义理解能力，升级用户端多轮对话、口语对话体验 私域知识导入，复杂文档解析 反馈增强调优效果 复杂类型知识导入 知识校验高亮回溯 快速、自动生成问答对，答案支持图文/图表混排；支持原文片段高亮回溯，大幅提升运营效率 丰富的运营反馈工具,支持修正答案、修改片段来源通过知识反馈增强效果，降低幻觉率 针对复杂企业文档提升切分和阅读理解效果通过向量数据库帮助LLM解决私域数据空间限制 拟人化、聊天式完成多轮业务办理 •规则推理、操作讲解等各类复杂问答迎刃而解•多轮知识解答，结合上下文信息补全 案例:企服场景，结合企业知识库自动生成专业答案辅助坐席 项目背景 产品示例及效果 1一线客服工单效能低，自助闭环率有待提升 -理解客户问题的知识专业性要求高-传统“文档搜索”耗时长，理解成本高 长文档自动学习总结，生成答案 2产研团队知识运营成本高、更新慢 -需要通过人工沉淀faq，产研不清楚一线缺少哪些知识，需要扩充哪类知识-知识覆盖的更新效率慢 优秀话术采纳率提升采纳率(30%） 复杂问题准确率提升25% 文档实时更新、基于反馈机制自主学习进化 在腾会、备案两个产品灰度 场景应用–销售辅助 项目背景 方案价值 TI-OCR TI-OCR是一款专注于OCR细分场景建模的训练平台，覆盖了从数据导入、数据生成、数据标注、模型训练、应用编排到应用测试发布的全流程。 产品简介 产品特点 OCR应用解决方案构建者 TI-OCR训练平台集成OCR大模型 客户诉求 应用示例 精准识别复杂场景下的文字，提升资料审核效率 文本紧凑字符识别 传统OCR在水印干扰、复杂背景下精准度低 传统OCR识别精准度低，无法达到项目要求 提升模型识别精度 文本识别需求复杂，对模型泛化能力要求高 拓展模型泛化能力 图片、单据类型多，无法通过单一OCR模型覆盖所有需求 印章干扰单据识别 方案价值 提升审核效率 降低运营成本 手写打印勾选框字段结构化 接入OCR大模型服务，在水印干扰、复杂背景等复杂场景下字符读取准确率达98%+，实现自动化信息审核，大幅提升审核效率。 实现自动化审核，降低工作人员繁杂重复的审核工作，预计将节省80%以上人力投入。 OCR大模型效果 ➢常规KV场景：大模型场景相比原先算法，提升3-5%➢套打场景：召回率预计达到90+%➢自然场景：召回率预计达到95+%（人肉眼可识别） 大模型ASR 大模型ASR 先进性地利用业界最新的预训练技术，结合伪标注技术（pseudo-labeling）下的半监督训练与无监督训练技术和语音行业大数据的优势，成功构建了多个领域的腾讯云语音识别大模型。 •参数量大 海量参数级别，ASR大模型最高可达1.5b参数量 解决业务痛点 场景广泛 性价比高 业界首创 腾讯云ASR大模型并不仅覆盖主流的识别场景，在当前业内厂商竞争激烈、开源框架丰富的情况下，进一步提升了ASR引擎的业务场景覆盖率，真正使几乎来自各行各业、各种特征迥异的音频能够获得高性能和高准确度转写. 在现有业内大语言模型、生成模型普遍占用高成本、消耗高资源推理的情况下，腾讯云ASR大模型在性能极大提升的前提下，客户增加的成本范围可控，性价比极高. 过往客户面临的业务痛点，如：收音不好的情况识别不出来、ASR影响了成单转化率、噪音大的情况识别不了、没有多语种混合识别的能力等情况，通过本次ASR大模型的发布均得以解决. 腾讯云ASR大模型均采用腾讯自研的高新技术，在低信噪比数据和劣质音频数据集上提升高达20%以上，并支持了多种语言和多方言的混合识别语种，这几款高性能的识别引擎均为业界首创. •低信噪比效果好 对于低信噪比、音质较差的音频，大模型对此类数据集提升非常大 •一个引擎解决混合语种 过往对于出海客户需要调用多个引擎解决识别的问题，通过一个大模型即可解决 •方言效果大幅提升 客户再也不怕下沉市场需求，口音问题完美应对 使用场景与典型案例 慧眼-人脸核身 慧眼·智能身份认证 围绕客户实人、实名、实证、实愿的核心需求，打造的全方位、高安全、准验证的私有化核身解决方案；支持私有化、公有云、移动端SDK等服务方式；提供人脸检测、活体检测、人脸比对、人脸检索等能力的本地化部署，满足客户各个业务中的身份核验需求，为客户业务安全保驾护航。 产品优势 产品简介 腾 讯 海 量 风 控 数 据分 析，拦 截 高 风 险验 证 流 程，保 障 验证 流 程 安 全。 无 感 智 能 风 险 分 级，灵 活 切 换 验 证 难 度，适 配 不 同 业 务 场 景。 多 种 活 体 验 证 模 式 智能 切 换，人 脸 比 对 准确 度 高 达9 9.8 0%。 使用场景 手机App、移动H5网页中的注册审核、转账交易验证、大额交易验证等业务场景，需要对操作者的身份进行核实。 用户通过手机App、H5网页链接进行远程开户操作，需要对开户用户进行身份核验。 远程认证、保险购买时候的视频双录场景，需要实时检测用户的在离框状态以及对用户身份进行核实。 慧眼·智能身份认证 -为金融级客户量身打造，高安全、准验证、优体验的一站式核身解决方案 活体检测-针对高安全性人脸核身研发的一种技术，该技术通过对用户自拍录制的一段视频进行分析，来确认当前认证用户是否为真人。 人脸比对-通过对自拍视频中的截帧与用户已留存照片进行比对，根据面部特征计算两张人脸的相似性，从而判断当前认证用户是否为本人。 安全风控-通过检测设备实时运行状态信息和视频流验证，从硬件层面进行风控感知，及时拦截高风险认证。 感谢倾听