企业落地大模型的路径、场景与案例-

目 录Contents 02. 中国市场大模型进展与趋势 大模型在企业用户落地进展 大模型在科技厂商落地进展 企业用户对大模型的预期大模型在行业落地进展大模型在企业落地方式 中国大模型市场全景地图国产大模型市场机会企业落地大模型路径 大模型对科技厂商的价值大模型在数据分析、营销、办公的落地案例 0中国大模型市场进展与趋势 Ø中国大模型市场全景地图Ø国产大模型市场机会Ø企业落地大模型路径 大模型：参数量超过10亿、具备泛化能力的模型，可以被称为大模型。 大模型当前以生成类应用为主，多模态是未来重点发展方向 企业用户是从应用视角出发，分成生成类应用、决策类应用和多模态应用。 受限于模型能力、应用效果等因素，当前阶段以生成类应用为主。 对比美国市场，中国市场在模型层和应用层发展迅速 三大要素，驱动中国“OpenAI”（通用大模型）必定出现 国产化： 从IT基础设施到上层应用软件的国产化、自主可控需求强烈。银行、大型央国企在内部明确限制员工使用ChatGPT用于内部办公、生产场景，5家银行在1年内有明确采购国产大模型服务的计划。 客群特征： 以央国企等集团型企业为主的客群，集团层面要进行大模型能力建设，有明确购买/自研通用大模型的需求。 本地部署： 从数据安全角度出发，银行、大型央国企如果将大模型用于生产，必须要进行本地部署。 根据爱分析调研，除了部分企业基于开源自研之外，绝大部分国内企业用户和应用厂商，都在等国产大模型的商业化落地，这是国产大模型最核心的驱动力。 市场成熟度、监管要求、数据安全等因素推动行业/领域大模型发展 监管要求： C端应用短期不会放开，更多应用场景在B端。 数据安全： 大型甲方企业数据安全考虑，特定场景的SFT数据获取存在一定难度。FT数据量不大，但需要有很深的行业know-how，获取难度不低。通用大模型优先训练通用场景FT数据，特定场景积累需要时间。 市场成熟度： 很多甲方企业在23-24年有明确上线大模型需求，当前国产通用大模型能力不足。 服务支持： 中国企业客户需要端到端服务，倾向于采购行业大模型+业务应用，几乎不可能直接采购通用大模型，需要有很强的区域服务支持能力。 大模型能力建设和应用场景探索是当前企业用户落地大模型的主要路径 集团企业重点是大模型能力建设，一般企业/部门重点是应用场景探索。 大模型能力建设分成三个层面：基础设施建设、大模型训练和大模型应用，当前以基础设施建设和大模型训练为主。 综合成本和安全性考虑，智算中心会成为解决算力问题的重要方式 当前以SFT为主，未来预训练会成为主流 SFT试错成本低，成为多数企业的选择。 未来随着基础/通用模型成熟和算力持续降低，模型预训练成为主流方式。 当前以小模型为主，模型级联是未来主要应用方向 分成三种形式，现阶段以（1）和（2）为主： 1）小模型为主，大模型提升小模型的开发效率；2）大模型与小模型级联，小模型连接应用，大模型增强小模型能力；3）大模型与小模型融合 0大模型在企业用户落地进展 Ø企业用户对大模型的预期Ø大模型在行业落地进展Ø大模型在企业落地方式 多数企业认为大模型将带来变革性价值，但应用场景尚需挖掘 •能源、金融、消费品零售、汽车等行业最为关注大模型 •大型央企等控股集团从高层推动，其他企业多从IT等部门自下而上推动 •在金融、消费品零售、能源、汽车等重点行业，对大模型现状进行了摸排调研 •大模型上线应用以内部生产力工具为主，对客应用囿于监管和大模型技术成熟度，尚需时日 •大多数企业对大模型预期业务价值抱有高期待 •创造新的业务模式，并实现新的业务收入来源 •在既有业务模式下，业务价值得以显著增强或业务流程得以重塑，从而明显增加收入或者降低成本 大模型可分为生成和决策两类应用场景，决策场景预期业务价值更高 基于大模型构建的AI原生应用，有望创造变革性价值 预期业务价值变革性 基于大模型，创造全新业务模式，并实现新的业务收入来源。只有大模型才具备涌现能力、泛化能力，从而跳脱出在系统中的模块局限。 预期业务价值高或中 在既有业务模式下，增强或改善业务流程，带来收入增长或者成本下降 小模型时代，系统中只有部分模块为AI替代。AI应用场景切割的很细，工行1,000+场景、3,000+模型。 大模型时代，整体系统具备AI能力，创造全新业务。 能源、银行两大行业，大模型落地进展最快 能源企业生成类场景落地速度快，高价值应用聚焦决策类场景 大模型基于设备日志等运行信息进行故障定位，有望成为首个中价值场景 设备运检知识助手 Ø过去：基于Bert模型的智能客服Ø现在：利用大模型改善智能客服的用户体验 检修文档生成 Ø过去：传统故障检修方法难度大、耗时耗力Ø现在：大模型快速定位故障原因，提供检修建议和方案 Ø过去：模板式文档填写Ø现在：利用大模型快速自动生成文档 预测类决策场景是未来高价值场景 电力系统仿真平台 设备预测性维护 Ø过去：AI算法故障预测能力弱Ø现在：大模型可以提取潜在故障特征，实现对电力设备故障预测 Ø过去：MATLAB等电力仿真工具Ø现在：利用大模型自动实现仿真样本补充和样本分布改造 电力负荷预测 新能源规划设计 Ø过去：新能源供电不稳定，分配不同类型新能源电站强依赖专家经验Ø现在：利用大模型规划电站建设最优解 Ø过去：负荷预测考虑实时影响因素少Ø现在：纳入更多影响因素实时预测负荷 Ø预期：提高供给侧规划准确率 Ø实际：尚未实现，未知 银行重视大模型在营销、风控、运营三个方向应用价值 银行积极探索智能客服场景，强监管环境下尚难以实现面客业务 智能客服 营销图片自动生成 Ø过去：智能陪练题库少，缺少针对性Ø现在：基于大模型生产个性化题库 Ø过去：设计师在素材库中选取并设计，耗时天级别Ø现在：Midjourney自动生成 Ø预期：降低成本Ø实际：版权成本以及人力成本下降 数字营业厅 沉睡客户唤醒 Ø过去：沉睡客户分组、唤醒渠道、文案撰写、唤醒时间等一系列人工策略Ø现在：利用大模型自动生成策略 Ø过去：3D营业厅以功能展示为主Ø现在：大模型支持的数字人帮助客户办理业务、推荐产品完成交易 品牌商AI原生应用多点开花，虚拟导购寄予厚望 大模型的降本价值在营销图片生成场景显著 千人千面文案 营销图片生成 Ø过去：千篇一律的模板式邮件文案Ø现在：出海企业可基于不同用户生成个性化邮件文案 Ø过去：基于Bert的NLP智能客服Ø现在：基于通用大模型，客服机器人的交互能力、推理能力更强 大模型长期将对虚拟导购、代码生成场景带来变革性价值 虚拟导购 大模型在自动驾驶中尚处于辅助角色 自动驾驶 智能座舱 Ø过去：人车互动限于特定娱乐、驾驶场景Ø现在：人车互动场景扩展至开放域 Ø过去：仿真库基于历史数据持续积累Ø现在：大模型自动生成仿真场景，覆盖CornerCase 大模型对药物研发带来跨越式价值提升，商业化落地仍需时间 临床试验文档管理 临床应用规划及推荐 Ø过去：基于人工经验进行规划Ø现在：基于大模型生成药物临床试验设计思路、统计方法等 Ø预期：提升效率Ø实际：尚未实现，未知 Ø预期：辅助专家提高效率Ø实际：尚未实现，未知 场景价值 场景价值 AI药物研发 虚拟医生 Ø基于大模型进行靶点发现、药物分子筛选、药物分子优化等，预测药物与靶点蛋白的相互作用 Ø过去：虚拟医生做简单导诊Ø现在：大模型基于病例给予诊疗建议 Ø预期：提高研发效率，降低研发成本Ø实际：尚未实现，未知 Ø预期：辅助不发达地区医生诊疗Ø实际：尚未实现，未知 场景价值 场景价值 大模型在企业内部落地形式，当前以直接调用通用大模型能力为主 目前在企业内部有两种落地方式：1）直接调用通用大模型的能力；2）用行业数据集训练基础大模型，形成行业大模型。 如何决定落地场景、测试性能、本地化部署均是重要关切问题 企业内部业务与IT加速融合，加快数字化落地进展 •企业数字化建设更加敏捷高效 •IT部门分化成两个部分：1）深入业务的ITBP；2）更新维护大模型等基础设施 0大模型在科技厂商的落地进展 Ø大模型对科技厂商的价值Ø大模型在数据分析、营销、办公的落地进展及案例 大模型对于科技厂商有三方面价值 增强产品能力 重塑产品和商业模式 提升内部生产力 n研发：代码生成，数据标注n营销：营销内容生成n交付：代码生成n培训：知识库问答 n优化产品功能和易用性，提升客户体验和满意度n自然语言交互降低用户门槛，拓展用户群体n开发新功能，拓展能力边界和客群 n发掘大模型原生应用场景需求，开发全新产品n基于新产品，实现按调用量收费等新商业模式 大模型能力 当前普遍处于前两个阶段，更大价值预期在大模型原生应用 大模型生成能力对于提升科技厂商内部生产力价值明确： 图片、文本等营销内容生成，代码生成，数据标注与数据合成。 大模型增强产品能力有初步进展： 1）Copilot类应用成为“标配”：利用大模型对话、生成等能力的AI助手，降低用户使用门槛，提升产品易用性；2）增强小模型效果：AI厂商（如智能客服、知识管理）借助大模型在文本等任务中的优异表现，增强产品能力；3）开发新应用：AIGC厂商（如数字办公）利用自研或外部大模型能力，开发新的AIGC应用。 新商业模式处于探索阶段，预期在大模型原生应用 1）现有产品能力增强不足以产生新订单和提升客单价，需要开发大模型原生应用产品； 2）AI对服务效果和效率提升预期显著的应用（客服、营销等），未来有机会产生新的商业化收入； 3）能够帮助企业节省算力投入的AI基础软件，未来有机会产生新的商业模式。 BI：对话式交互促进数据分析平民化，智能洞察将进一步提升价值 当前进展 应用场景： •对话式交互：传统NLPtoSQL准确性不足，大模型增强后，增加对常识的理解，避免显而易见的答非所问，提升了用户意图识别准确性。 预期价值： •显著增强对话式交互能力，降低BI使用门槛，促进数据分析平民化，增加用户数量。 实际价值： •功能可实现，但企业用户额外付费意愿较低。 潜在价值 •智能洞察：利用大模型的理解和生成能力，辅助业务人员，对查询的数据进行分析并生成业务洞察，提升数据分析能力和效率。 低代码平台：智能开发助手进一步提升效率，应用生成实现周期长 当前进展 应用场景： •智能开发助手：基于大模型的生成能力，在使用开发过程中提供自动生成数据模型、表单、脚本代码，以及基于对用户意图的理解自动推荐配置等能力。 预期价值： •提升专业开发者的开发效率。•进一步降低门槛，普通业务用户无需培训即可使用低代码搭建简单应用。 实际价值： •可实现部分功能，企业用户额外付费意愿较低。 潜在价值 •应用生成：利用大模型的理解和生成能力，理解复杂应用开发需求文档，调用低代码平台组件化能力直接生成复杂系统。当前大模型的尚不满足所需推理能力，实现周期较长。 营销：内容生成显著降低服务成本，千人千面效果有待提升 当前进展 潜在价值 应用场景： •营销内容生成：传统模式下需要设计师根据客户需求在素材库中搜索素材，并进行设计。基于大模型文生图能力，可以根据需求描述查询所需素材并自动生成不同风格的营销内容。 •面向消费者的个性化营销内容，传统方式是基于一组标签的用户群创作文案、图片等营销内容。基于大模型的理解和生成能力和较低的成本，未来可以实现基于每个用户生产个性化的营销内容，提升销售转化率。当前落地来看，效果提升尚不明显，需要进一步优化。 预期价值： •降低服务成本。 实际价值： •显著降低设计师人天服务成本，提升产能。 更多报告请关注公众号：全球行业报告库 客服：大模型增强交互能力，未来有望重塑客服产品形态 当前进展 应用场景： •交互能力增强：相比基于传统NLP