AI驱动业务创新 云夯实业务基础

AIGC企业创新实践指南手册 参与人员 顾问 徐翊鸣、许华彬 腾讯云 陈亮李想郭有春李增鑫高绍雷程暄王彬刘禹梁绮莹张良郑宗恒王梦娜邵虎石磊王军薛峰陈思薇 腾讯研究院 刘琼李南林家仪 腾讯会议 吴祖榕刘丹罗君陈志兴翟伟黄申朱莹刘迪迪刘丽婷郑孙聪（混元大模型团队）张锋（混元大模型团队） 一、行业发展趋势 01 1.1 现状：技术应用仍处于早期市场阶段1.2 预测：据预测市场鸿沟有望快速跨越0202 二、互联网企业服务实践案例 三、腾讯云AIGC解决方案全景图 47 行业发展趋势 INDUSTRY DEVELOPMENTTRENDS 趋势一 AI应用处于早期，但有望成为业务创新的助推器 1.1 现状：技术应用仍处于早期市场阶段 生成式AI技术在B端企业级市场已有诸多探索，但目前的采用者仍主要属于创新者和早期采用者群体，尚未进入规模化推广阶段，应用仍处于初级阶段。 虽然生成式AI已经展现出巨大的潜力，但在实际应用中仍存在一些不成熟的方面。例如，在文本生成领域存在“幻觉”问题，图像生成领域还无法精确控制图片内容，视频生成领域则面临一致性问题，尤其在企业服务应用追求精确性、稳定性的场景下，这些问题无疑限制了生成式AI在企业服务各细分场景的应用发展。 1.2 预测：据预测市场鸿沟有望快速跨越 新技术在早期市场和主流市场之间往往存在着一条巨大的鸿沟，能否顺利跨越这一鸿沟并进入主流市场，赢得实用主义者的支持，将决定一项新技术的成败。虽然生成式AI尚未像云计算、大数据等技术那样完成鸿沟的跨越，但从目前的应用情况来看，其跨越鸿沟势在必行。 从企业级市场来看，根据SAS的全球调研数据显示，全球将生成式AI充分实施到常规流程中的企业占比为11%，但美国和中国的占比分别达到了24%和19%，均超过了鸿沟理论中创新者和早期采用者之和，这表明美国和中国已经显现出跨越鸿沟的迹象。 从个人用户来看，根据德勤的调查，今年亚太地区学生和员工中使用生成式AI的比例达到了11%，预计明年这一比例将升至18%，而未来五年预计将达到35%。这些预测进一步表明，生成式AI有望快速跨越鸿沟，提升渗透率。 1.2.1 表现一：AI 技术为创新提供了必要条件 目前，无论是以ChatGPT为代表的闭源模型，还是以Llama为代表的开源模型，都在以较高的迭代速度完善模型的基础能力。例如，OpenAI的ChatGPT从3.5版本到GPT-4的迭代，在MATH benchmark上的表现就从34.1%提升到了76.6%。这些能力的提升无疑为企业应用提供了坚实的基础。此外，模型价格的下降也为企业的投入产出比提供了保障。以ChatGPT为例，经过几轮降价后，普通的一次问答的成本已经接近于搜索引擎搜索一次的成本。 1.2.2 表现二：生成式AI正在融入企业全价值链 伴随着文本、图像、音频、3D、视频等多模态模型的不断成熟，企业对生成式AI的探索已经覆盖了产品研发设计、生产制造、营销和销售、服务运营、供应链管理等各个环节。根据麦肯锡的调研，生成式AI工具最常见的用途是营销和销售、产品服务开发以及服务运营。然而，随着模型能力的提升和企业探索的深入，未来生成式AI将进一步渗透到生产制造、供应链管理等环节。 1.2.3 表现三：AI帮助企业实现降本增效 生成式AI在企业中的应用能够释放多方面的价值，但目前提高效率和生产力（占比56%）以及降低成本（占比35%）仍是企业的首选效益目标。然而，随着生成式AI不断融入企业流程，未来在业务创新、战略洞察等方面也将创造更多价值。 趋势二 技术方案的选择将影响AI应用的效率 2.1 路径一：结合专业领域知识做RAG 为了有效的降低幻觉、提高对特定任务的适应性，企业级应用需要结合企业内部私有数据、行业专业知识等做RAG，并利用大模型的能力做知识求解，才能满足企业用户对于生成式内容准确性的要求。RAG方式无需企业用户花费较多的人力和GPU算力针对大模型做微调，只需将相关专业数据存入向量数据库，即可以“外挂硬盘”的方式弥补大模型所缺乏的细分行业场景知识，是企业级AI应用落地的首选技术方案。 2.2 路径二：Agent将成为应用落地的主要方式 Agent主要是指给大模型叠加了自主记忆、推理、规划和执行能力的可执行应用，可以结合用户实际业务场景自主性的完成相关业务流程。企业级应用覆盖人力资源管理、供应链管理、财务管理等多种复杂的业务场景，Agent的独立思考、任务规划、工具调用等能力可以进一步提升相关业务流程的执行效率和自动化程度。目前看企业级应用市场主要有两类Agent落地方式，一类是Agent平台厂商，提供可自定义workflow的Agent平台，根据不同的业务需求创建不同的Agent智能体。第二类是企业服务应用在自身产品能力上补充Agent能力，提升原有产品的交互式体验及产品使用效率。如金蝶近期推出Cosmic，集感知、思考、行动、智能响应于一体，简化企业管理，提高运营效率。 2.3 路径三：云计算是夯实基础的重要底座 2.3.1云原生助力敏捷开发，快速迭代 在快速变化的商业环境中，企业服务应用需要能够迅速适应市场的新需求和新趋势。通过快速迭代，企业可以更快地推出新产品或服务，满足市场的即时需求，从而抓住市场机遇。通过短周期的开发循环和持续集成测试，快速迭代有助于及时发现和解决问题，降低项目风险。 云原生能力逐渐成为企业服务厂商加快应用迭代的关键能力，其主要体现在如下几个方面。 1）微服务架构：采用微服务架构可以将应用拆分为多个独立的服务，每个服务可以独立开发、部署和扩展。这有助于提高开发效率，降低系统的复杂性。 2）容器化能力：利用容器化技术，企业可以快速部署和扩展应用，提高资源的利用率。这有助于降低运维成本，提高迭代速度。 3）持续集成和部署：CI/CD流程可以实现自动化构建、测试和部署，使企业能够更频繁地发布新版本的应用。这有助于缩短发布周期，提高迭代速度。 4）监控和日志分析：实施有效的监控和日志分析策略，可以帮助企业实时了解应用的性能和问题。这样，在出现问题时，团队可以迅速定位并解决问题，减少停机时间。 5）Serverless：企业服务应用被拆解成多个细粒度的函数服务，消除了对传统海量持续在线服务器组件的需求，可以降低开发和运维的复杂性，降低运营成本和业务交付周期。 2.3.2云端高性能算力助力创新，催生大模型产业链 1）云端丰富算力显著提升研发效率 科学研究，尤其是物理、化学、天文学等科研领域，需要处理复杂的数学模型和进行大量的计算，一般高校或者科研机构无法提供匹配的算力资源。同时随着AI技术的不断发展和应用，科研机构对高性能算力的需求将持续增长，云端丰富算力将在科研领域发挥更加重要的作用。通过云端的灵活资源匹配及调度能力，帮助用户在保证安全性的同时，可以提高研发效率和业务流程的运行效率。 2）海量弹性算力助力顶级影视特效制作 随着目前顶级动画及特效电影逐步进入8K分辨率时代，画面的细腻程度不断提升，单帧所包含的元素也逐渐增多，传统IDC已经无法满足顶级影视特效制作需求。通过将本地IDC算力跟云上弹性资源融合进行渲染已经成为目前影视制作的典型最佳实践。 3）高速互联GPU集群催生大模型产业链 大模型的发展对算力基础设施的要求从单卡拓展到了集群层面，这对大规模卡间互联的兼容性、传输效率、时延等指标提出了更高的要求，高速互联GPU集群通过其大带宽、低延迟的技术特点和在大模型产业链中的关键作用，不仅满足了当前大模型训练和推理的需求，还推动了整个大模型产业链的变革和发展。国内头部的大模型服务商之所以能够在非常短的时间内训练出自己的大模型，追赶OpenAI的能力，也得益于云端的GPU集群的强大算力支撑。 互联网企业服务实践案例 INTERNET ENTERPRISEPRACTICE CASES 打造新的数字内容生成方式 提高效率、激发灵感、拓展新边界 腾讯云助力右脑科技降低算力成本,提高推理速度 降低40%算力成本，提高30%推理速度 右脑科技是一家专注研发AI图像和视频生成的初创公司, 旗下有VegaAI绘画生成产品，为用户提供AI智能生成业务。通过AI智能结合用户输入字段进行智能图片生成，提升创作者工作效率。 面对挑战 在腾讯云的支持下右脑科技 在AIGC的风口之下，右脑面临外部攻击、盗刷和平台自身内容合规的双向挑战。同时由于模型训练和微调对高性能计算，网络和存储要求较高，降低成本成为重要课题。 稳定支撑访问用户数100万 解决方案 助力算力成本降低40% 多款安全产品，助力平台安全稳定 业务安全：DDOS高防包、WAF、验证码服务一站式安全方案，有效解决网站注册、登录环节盗刷、被DDOS攻击停服、网站漏洞注入等挑战，支撑了百万用户稳定使用。 提高推理速度30% 内容安全：数据万象CI和天御安全审核方案，在大幅提高内容分发效率的同时，保障了每天140w级别图片和视频生成和安全合规。 保障安全合规的图片和视频140万+/每日 稳定支撑十亿级参数训练与微调 通过高性价比的GPU 、高性能CFS Turbo存储以及Taco 推理加速能力，高效稳定支撑十亿级模型参数训练和微调。 腾讯云助力创客贴大幅提升AI设计工作流 综合成本节省50%+ 创客贴是一款多平台（Web、Mobile、Mac、Windows）图形编辑和平面设计工具，聚焦于AI创意设计与视觉传播，提供包含一站式创意营销内容生产、管理、分发，定制化视觉营销设计、AIGC智能创作等在内的全场景视觉营销解决方案。 面对挑战 在腾讯云的支持下创客贴 随着AI设计领域的快速发展与竞争，创客贴面临IT成本、内容安全和AI产品迭代效率的三重挑战。 20+AIGC创意功能嵌入设 计 流 程，平均 每 2 周上线1个AI新功能20+ 解决方案 腾讯云EKS部署助力业务快速创新 创客贴基于腾讯云EKS部署自研文生图推理模型，实现AI业务形态的快速创新。 综合成本节省50%+ 基于容器服务保障资源弹性，以最优成本满足创客贴AI业务需求。 基于腾讯云内容安全产品确保AIGC生产内容100%满足合规要求 腾讯云内容安全，护航合规运营 腾讯云内容安全审核能力，保障创客贴线上输入文本和图片生成安全合规。 腾讯云助力筷子科技云架构升级 AIGC视频工作流性能提升240% 筷子科技是一家典型的AIGC应用层厂商，致力于用AI技术解决营销内容生产、管理效率以及转化问题，旗 下 拥 有一 体化 的内容 商业 A IG C 视 频 应 用平台Kuaizi.ai，并推出了包括小K助理、ScriptAI、AI一键成片、百搭卡、多场景AI文本等原生AI应用。 面对挑战 在腾讯云的支持下筷子科技 随着业务规模的快速扩张，让筷子科技原有云服务平台无法满足日益增长的web端剪辑，云端分发与合成、高并发、多模态、海量存储、大模型、大宽带等数据处理需求。 每小时视频合成峰值18000+ 解决方案 稳定完善的迁移 视频合成性能提升285.89% 腾讯云基于迁移工具MSP为筷子科技制定了完整的迁移方案。 弹性伸缩扩容应对高并发 每小时素材上传峰值16000+ 腾讯云容器服务TKE和中间件，支撑筷子科技构建云原生技术底座和微服务体系。 降本增效 工作流性能提升240% 腾讯云高性能文件存储CFS Turbo将文件存储上限20PB提升至100PB，上传下载带宽上限从3Gbps提升至单地域50Gbps。 腾讯云助力 FancyTech实现效率提升 模型训练效率提升30%+，平台创作效率提升30% FancyTech（时代涌现）致力于通过自研垂直模型为消费品牌提供优质的内容生成解决方案。公司服务国内外700多家顶级品牌，涵盖奢侈品、服饰鞋包、美妆个护、食品酒水、数码家电等。荣获2024年LVMH创新大奖最高奖，成为中国企业历史上首家获此殊荣。