中国市场大模型落地进展与趋势洞察Jul.2023更多报告请关注公众号：全球行业报告库 目录Contents中国市场大模型进展与趋势大模型在企业用户落地进展大模型在科技厂商落地进展中国大模型市场全景地图国产大模型市场机会企业落地大模型路径企业用户对大模型的预期大模型在行业落地进展大模型在企业落地方式大模型对科技厂商的价值大模型在数据分析、营销、办公的落地案例02.03.01. 10Ø中国大模型市场全景地图Ø国产大模型市场机会Ø企业落地大模型路径中国大模型市场进展与趋势更多报告请关注公众号：全球行业报告库 大模型定义大模型：参数量超过10亿、具备泛化能力的模型，可以被称为大模型。大模型小模型AI建模方法深度学习、自然语言处理、多模态技术机器学习、深度学习、自然语言处理、计算机视觉等参数量参数量规模在10亿以上参数量规模是几万至几百万参数应用场景泛语言类场景（自然语言、编程语言等）、多模态场景（文本、图像、音频、视频）场景更加多样，但生成类场景效果差，不具备多模态泛化能力强，处理多任务效果好弱，处理多任务效果差可解释性弱强训练冷启动成本低任务对齐成本高冷启动成本高任务对齐成本低推理反馈速度慢准确率低反馈速度快准确率高 大模型当前以生成类应用为主，多模态是未来重点发展方向生成类应用对话式交互内容生成代码开发虚拟专家智能体决策类应用辅助决策：描述、诊断智能决策：预测、指导多模态应用图像、语音、视频、结构化数据企业用户是从应用视角出发，分成生成类应用、决策类应用和多模态应用。受限于模型能力、应用效果等因素，当前阶段以生成类应用为主。理解生成推理大模型能力更多报告请关注公众号：全球行业报告库 对比美国市场，中国市场在模型层和应用层发展迅速通用大模型应用层模型层基础层AI芯片高速网络存储向量数据库云平台行业大模型领域大模型企业大模型中间层大模型应用开发工具数据标注工具提示词工程工具............金融能源教育出海传媒电商医疗政务......客服营销应用开发数据分析MSP运维服务商ISV独立软件服务商SI系统集成商任务大模型 三大要素，驱动中国“OpenAI”（通用大模型）必定出现国产化：从IT基础设施到上层应用软件的国产化、自主可控需求强烈。银行、大型央国企在内部明确限制员工使用ChatGPT用于内部办公、生产场景，5家银行在1年内有明确采购国产大模型服务的计划。客群特征：以央国企等集团型企业为主的客群，集团层面要进行大模型能力建设，有明确购买/自研通用大模型的需求。本地部署：从数据安全角度出发，银行、大型央国企如果将大模型用于生产，必须要进行本地部署。根据爱分析调研，除了部分企业基于开源自研之外，绝大部分国内企业用户和应用厂商，都在等国产大模型的商业化落地，这是国产大模型最核心的驱动力。本地部署国产化国产化服务支持本地部署更多报告请关注公众号：全球行业报告库 市场成熟度、监管要求、数据安全等因素推动行业/领域大模型发展监管要求：C端应用短期不会放开，更多应用场景在B端。数据安全：大型甲方企业数据安全考虑，特定场景的SFT数据获取存在一定难度。FT数据量不大，但需要有很深的行业know-how，获取难度不低。通用大模型优先训练通用场景FT数据，特定场景积累需要时间。市场成熟度：很多甲方企业在23-24年有明确上线大模型需求，当前国产通用大模型能力不足。服务支持：中国企业客户需要端到端服务，倾向于采购行业大模型+业务应用，几乎不可能直接采购通用大模型，需要有很强的区域服务支持能力。监管要求市场成熟度数据安全服务支持 大模型能力建设和应用场景探索是当前企业用户落地大模型的主要路径基础设施建设芯片（算力）大模型训练模型选型模型训练与微调大模型应用模型压缩大模型与小模型结合集团企业重点是大模型能力建设，一般企业/部门重点是应用场景探索。大模型能力建设分成三个层面：基础设施建设、大模型训练和大模型应用，当前以基础设施建设和大模型训练为主。更多报告请关注公众号：全球行业报告库 综合成本和安全性考虑，智算中心会成为解决算力问题的重要方式自建集群成本高AI团队要求高安全性高云服务租用性价比高安全性差智算中心成本低于云服务安全性强安全性投入产出比智算中心云服务租用自建集群 当前以SFT为主，未来预训练会成为主流SFT预训练投入算力成本低算力成本高团队需要具备模型训练经验数据集SFT精标数据SFT精标数据大量无标注数据集模型能力受限于模型本身能力能力增强，但可能出现灾难性遗忘安全性受限于模型自身数据集，只能尽可能弥补安全问题很大程度上解决安全性问题未来发展迁移成本低受限于基础大模型，迁移成本高SFT试错成本低，成为多数企业的选择。未来随着基础/通用模型成熟和算力持续降低，模型预训练成为主流方式。 当前以小模型为主，模型级联是未来主要应用方向分成三种形式，现阶段以（1）和（2）为主：1）小模型为主，大模型提升小模型的开发效率；2）大模型与小模型级联，小模型连接应用，大模型增强小模型能力；3）大模型与小模型融合以小模型为主大模型提升小模型训练效率降低数据标注成本大模型与小模型级联安全性、性价比、准确度大模型提升小模型的理解和生成能力大模型与小模型融合当前主要探索方向 20Ø企业用户对大模型的预期Ø大模型在行业落地进展Ø大模型在企业落地方式大模型在企业用户落地进展 多数企业认为大模型将带来变革性价值，但应用场景尚需挖掘调研行业分布72%28%关注不关注15%85%高层部门中层•在金融、消费品零售、能源、汽车等重点行业，对大模型现状进行了摸排调研是否关注需求及来源•能源、金融、消费品零售、汽车等行业最为关注大模型•大型央企等控股集团从高层推动，其他企业多从IT等部门自下而上推动45%39%16%0%观望学习探索可研试点应用全面应用43%40%12%5%变革性高中低当前阶段预期业务价值•大模型上线应用以内部生产力工具为主，对客应用囿于监管和大模型技术成熟度，尚需时日•大多数企业对大模型预期业务价值抱有高期待1%1%1%1%3%4%4%6%7%9%16%43%咨询化工交通地产媒体信息技术央国企制造汽车能源消费品零售金融 附录：预期业务价值释义高预期业务价值由高向低•创造新的业务模式，并实现新的业务收入来源•在既有业务模式下，业务价值得以显著增强或业务流程得以重塑，从而明显增加收入或者降低成本•在既有业务模式下，业务流程有所改善，并带来收入增长或成本下降•用户体验改善等业务微调，难以与收入增长或成本下降直接关联变革性中低 大模型可分为生成和决策两类应用场景，决策场景预期业务价值更高生成场景决策场景•通过数据分析建模，由系统直接给出能达成预期业务目标的行动方案•典型场景：智能决策系统•通过数据分析发现业务现象背后的原因，实现业务可诊断•典型场景：数据分析•通过数据采集和展示，描述业务正在发生什么，实现业务可视化•典型场景：数据大屏•通过数据分析，判断业务未来会可能会发生什么，实现业务结果可预测•典型场景：机器学习平台辅助决策智能决策•通过自然语言与用户进行交互•典型场景：聊天机器人•在特定领域，通过对大量的非结构化数据总结，为用户提供专业意见•典型场景：智能客服•生成用户需要的文字、图片、音频、视频、3D模型等•典型场景：AI绘画•对已有代码检查、修正，或根据要求生成代码•典型场景：代码生成•通过对话，调用内外部数据，满足用户目标，短期内难实现•典型场景：Auto-GPT虚拟专家内容生成代码开发智能体指导诊断描述预测对话式交互 基于大模型构建的AI原生应用，有望创造变革性价值预期业务价值高或中在既有业务模式下，增强或改善业务流程，带来收入增长或者成本下降预期业务价值变革性基于大模型，创造全新业务模式，并实现新的业务收入来源。只有大模型才具备涌现能力、泛化能力，从而跳脱出在系统中的模块局限。小模型时代，系统中只有部分模块为AI替代。AI应用场景切割的很细，工行1,000+场景、3,000+模型。大模型时代，整体系统具备AI能力，创造全新业务。 能源、银行两大行业，大模型落地进展最快所处阶段观望学习探索可研试点应用全面上线场景丰富度高中低制造智能问答研发设计辅助主机厂自动驾驶智能座舱消费品零售智能客服千人千面文案营销图片生成导购赋能媒体摘要生成写作助手智能问答银行智能问答智能客服数字营业厅贷后报告生成沉睡客户唤醒金融产品推荐证券智能投顾智能投研智能客服智能风控审计助手智能营销药企药物研发能源智能客服设备运检知识助手检修文档生成电力系统仿真平台电力负荷预测出海智能客服 能源企业生成类场景落地速度快，高价值应用聚焦决策类场景主流采纳时间1年内实现1-3年实现3年以上实现生成类大模型带来的场景价值变化决策类原生应用注：主流采纳时间，指被行业内企业用户主流采纳应用的时间。场景价值变革性高中低设备故障维修资金归集设备预测性维护电力负荷预测新能源规划设计电力系统仿真平台设备运检知识助手智能客服/虚拟营业厅检修文档生成 大模型基于设备日志等运行信息进行故障定位，有望成为首个中价值场景设备运检知识助手场景价值案例对比Ø过去：基于NLP技术构建结构化知识库Ø现在：利用大模型构建运检助手Ø预期：效率改善Ø实际：提取效率和效果、交互方式有优化智能客服/虚拟营业厅场景价值案例对比Ø过去：基于Bert模型的智能客服Ø现在：利用大模型改善智能客服的用户体验Ø预期：用户体验改善Ø实际：意图理解更准确、语言更拟人化检修文档生成场景价值案例对比Ø过去：模板式文档填写Ø现在：利用大模型快速自动生成文档Ø预期：效率提升Ø实际：尚未实现，未知设备故障维修场景价值案例对比Ø过去：传统故障检修方法难度大、耗时耗力Ø现在：大模型快速定位故障原因，提供检修建议和方案Ø预期：故障快速定位与修复Ø实际：尚未实现，未知 预测类决策场景是未来高价值场景新能源规划设计场景价值案例对比Ø过去：新能源供电不稳定，分配不同类型新能源电站强依赖专家经验Ø现在：利用大模型规划电站建设最优解Ø预期：提高供给侧规划准确率Ø实际：尚未实现，未知设备预测性维护场景价值案例对比Ø过去：AI算法故障预测能力弱Ø现在：大模型可以提取潜在故障特征，实现对电力设备故障预测Ø预期：提高设备故障预测准确率Ø实际：尚未实现，未知电力系统仿真平台场景价值案例对比Ø过去：MATLAB等电力仿真工具Ø现在：利用大模型自动实现仿真样本补充和样本分布改造Ø预期：丰富仿真样本库Ø实际：尚未实现，未知电力负荷预测场景价值案例对比Ø过去：负荷预测考虑实时影响因素少Ø现在：纳入更多影响因素实时预测负荷Ø预期：提高预测准确率Ø实际：尚未实现，未知 银行重视大模型在营销、风控、运营三个方向应用价值主流采纳时间1年内实现1-3年实现3年以上实现生成类大模型带来的场景价值变化决策类原生应用注：主流采纳时间，指被行业内企业用户主流采纳应用的时间。场景价值变革性高中低沉睡客户唤醒金融产品推荐营销图片自动生成个性化资产配置申请/交易反欺诈智能问答助手智能客服贷后报告撰写数字营业厅 智能客服场景价值案例对比Ø过去：智能陪练题库少，缺少针对性Ø现在：基于大模型生产个性化题库Ø预期：改善培训效果Ø实际：测试中，预期可以缩短培训周期营销图片自动生成场景价值案例对比Ø过去：设计师在素材库中选取并设计，耗时天级别Ø现在：Midjourney自动生成Ø预期：降低成本Ø实际：版权成本以及人力成本下降银行积极探索智能客服场景，强监管环境下尚难以实现面客业务沉睡客户唤醒场景价值案例对比Ø过去：沉睡客户分组、唤醒渠道、文案撰写、唤醒时间等一系列人工策略Ø现在：利用大模型自动生成策略Ø预期：端到端策略改善唤醒效果Ø实际：尚未实现，未知数字营业厅场景价值案例对比Ø过去：3D营业厅以功能展示为主Ø现在：大模型支持的数字人帮助客户办理业务、推荐产品完成交易Ø预期：独立于APP之外的新渠道Ø实际：尚未实现，未知 品牌商AI原生应用多点开花，虚拟导购寄予厚望变革性高中低1年内实现1-3年实现3年以上实现千人千面文案场景价值主流采纳时间CDP渠道数字化智能客服营销图片生成全渠道一盘货智慧门店导购赋能实时价格优化M