五大关键要素解锁生成式AI全新机遇 从基础模型到落地的生成式 AI 应用，需要经过模型训练、模型定制、模型部署、模型推理等环节。各个环节上的行业参与者均面临着不同程度的基础设施、数据集成、应用场景选择、安全与隐私以及负责任 AI 方面的挑战：大模型提供商在训练基础模型的过程中，数据准备工作复杂而耗时，训练基础设施的管理与优化有较高的门槛，且算力成本高昂。对于生成式 AI 应用开发者而言，需要为应用场景选择最为适配的模型，也需要集成来自不同存储库、不同格式的数据，还需要保障用户数据隐私、模型安全以及生成内容的安全。对于生成式 AI 应用使用方而言，识别应用场景、利用自有数据与大模型进行交互的过程中如何保证数据安全，如何确保模型生成内容所问即所答，都是其挑战所在。整体来看，能够帮助生成式AI新生态里的产业参与者加速生成式 AI 应用落地的解决方案，必须具备五大要素：高性价比的基础设施、丰富而灵活的模型选择、使用私有数据实现差异化定制、开箱即用的生成式 AI 驱动的应用和负责任的 AI。关于部署方式，现阶段用户更倾向于从云端开始部署：一方面大模型尚处于早期，模型能力不断突破，云服务能够助力用户快速使用到最新的模型能力；另一方面，使用云服务也可以助力用户降低基础设施搭建与运维的时间成本，因此云服务商成为各类玩家构建和部署生成式 AI 应用的首选合作伙伴。执行概要 开启云上生成式 AI 之旅：有必要尽快将生成式 AI 融入企业级战略，确定是自建模型还是使用模型定制功能来发挥企业的差异化优势。在参考外部诸如提高生产力、增强用户体验以及优化业务流程成功实践的同时，筛选确定自身应用场景。端到端构建生成式AI 应用，则从为应用场景选择模型开始，参考当前的成功实践，选择适当的模型定制路线进行模型的适配与调整，将经过评估验证的模型集成到企业应用系统，并设立评估指标，对应用进行持续迭代。亚马逊云科技助力释放生成式 AI 潜力：亚马逊云科技致力于不断降低机器学习使用门槛，面向生成式 AI，公司提供丰富的算力选择与高效的加速训练与推理；在海外区域推出 AmazonBedrock 助力轻松构建并规模化生成式 AI 应用，以及企业级生成式 AI 助手 AmazonQ；高度重视为用户提供负责任的 AI 策略支持。此外，公司也在持续建设端到端的数据基座，以支持生成式 AI 的数据集成需求。至今，超过�万家客户利用亚马逊云科技 Amazon Bedrock 进行生成式 AI 创新。 生成式 AI 应用：热度高、落地慢�.� 近六成企业开始拥抱生成式 AI�.� 生成式 AI 落地不及预期构建生成式 AI 应用的现实挑战�.� 生成式 AI 三类主要参与者�.� 数据准备耗时，训练成本高昂�.� 数据集成复杂，模型适配难，安全要求高�.� 应用场景筛选难，数据隐私安全顾虑，缺乏成功部署实践云服务助力构建生成式 AI 应用�.� 落地生成式 AI 应用的五大关键要素�.� 具备成本效益和领先 AI 应用的云服务加速构建生成式 AI����������������������010203CONTENTS 从云端开始构建生成式 AI�.� 制定融入生成式 AI 的人工智能战略�.� 规划生成式 AI 应用场景�.� 端到端构建生成式 AI 应用亚马逊云科技助力企业解锁生成式 AI 潜力�.� 高性价比且丰富的基础设施加速训练与推理�.� 丰富的模型可选，可基于私有数据差异化定制�.� 生成式 AI 驱动的应用程序�.� 亚马逊云科技注重负责任的 AI�.� 端到端数据基座打通壁垒，让所有应用可治理、可管控��������������������0504 随着生成式 AI 应用快速进入市场，以及越来越多大模型的不断面世，����年已经成为生成式 AI 的元年：不同区域、各行各业、不同领域的人们开始尝试在工作和生活中使用生成式 AI，以探索各种可能性。于企业而言，生成式 AI 也已经成为从董事会到基层员工都在探讨热议的话题，一些领先的企业甚至已经利用生成式 AI 技术实现了业绩增长。生成式 AI 应用：热度高、落地慢第一章�� 在����年第四季度的生成式 AI 用户调研中，IDC 发现，已经有近六成的企业开始拥抱生成式 AI，超过三成企业开始制定潜在应用场景，仅有�%的企业还没有任何举措。��%的企业表示已经投资生成式 AI，并且有相应的预算计划。这些预算可能来自����年已有的规划，也有些是针对生成式 AI 新增的预算。��% 的企业表示已经做了一些初步的测试与概念验证，但还没有明确的投资计划。��%的企业表示正在制定潜在应用场景，但还没有进入试点阶段。仅有�%的企业表示目前还没有任何举措。�.� 近六成企业开始拥抱生成式 AI图� 贵组织目前评估或者使用生成式AI的进度如何？来源: IDC ����, N=���我们对生成式AI进行初步测试，但没有固定的支出计划我们正在制定一份潜在用例列表，但尚未开始试点我们已经投资了生成式 AI 且有明确预算我们还没有做任何举措�.�% �.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�% ��.�%�.�%��.�%��.�%��.�%�� �.� 生成式 AI 落地不及预期在已经开始尝试生成式 AI 的企业中，应用场景遍及企业各个业务流程，包括客户服务类应用、支持运营决策类应用、提高员工生产力的应用、辅助产品设计的应用、支持营销的应用等。其中，高管最为关注且最希望从中获取价值的前三大应用为：智能客服类应用、支持财务和运营决策的应用以及专注于提升员工生产力的应用。在实际探索中，预计能优先落地的场景主要是生成式 AI 支持数字化营销领域的应用，支持财务、运营决策类的应用，以及智能客服类应用。综合来看，模型生成结果的准确性、人才技能稀缺、部署的成本等，都影响了生成式 AI 的规模化落地。深入探索企业生成式 AI 的实践，发掘落地前、中、后的全链路问题，让企业能够理性选择技术方案、大胆尝试应用场景，才能真正实现以生成式 AI 带来差异化竞争优势。在落地时间方面，五成以上的企业认为各个领域的应用落地时间都需要在��个月以上，这远远长于企业期望的�个月的时间。在应用范围方面，即使已经上线的应用，范围也都比较局限，以单点应用为主，如基于大模型升级的智能客服；当前，单个项目的应用可能也就局限于小部分客户群体或者不足百路的坐席中。�� 科技行业正处于开创性时刻，生成式 AI 使预测变得更加容易，甚至可能更加普惠、价格更加亲民。企业将把生成式 AI 应用到更多全新的领域，带来众多商业模式和竞争战略的改变。IDC 预计，生成式 AI 将在未来 �� 年内为全球 GDP 增加近��万亿美元。然而，高关注度、高预期并没有带来相应的落地进展。厘清生成式 AI 应用落地的路径，寻找能够加速应用落地的解决方案，是行业参与者的当务之急。图� 企业高管最关注的生成式 AI 应用以及预计落地时间来源: IDC全球生成式AI调研，N=����专注在以客户为中心的应用专注于财务/运营决策支持应用专注于员工应用（技能/培训）专注于数字营销工具专注于应用开发工具专注于 PLM 以及产品设计应用专注于 RFP/合同流程应用��%��%��%��%��%��%��%集成生成式 AI 的热门领域热门领域生成式 AI 应用预计落地时间专注在面向客户的应用已经开始整合小于�个月平均时间（月）�到��个月��到��个月��个月以上专注于财务/运营应用专注在数字营销应用��.���%��%��%�%��%��.����%�%��%��%�%��.����%��%��%��%��%�� 相比上一代 AI，生成式 AI 应用的开发需要重新在各种大模型之间进行选型适配，对于用于模型训练的数据的安全性要求更高，在模型定制环节的工作有更加多样性的选择，也因此形成了全新的生成式 AI 应用产业生态。而生态上的所有参与者，今天也面临着诸如数据、算力、成本、模型适配、安全隐私等挑战。构建生成式 AI 应用的现实挑战第二章�� �.� 生成式AI三类主要参与者从基础模型到集成到企业系统中的生成式 AI 应用，简单说就是对基础模型进行定制、调整，再进行推理的过程。其中，基础模型的训练，对于数据、算力以及技能、人才的要求都很高，因此只有少部分企业专注于模型的训练，即模型提供商。更多的企业选择依托基础模型，使用自有数据进行调优、采用提示词工程（Prompt Engineering）的方法，以提升模型生成内容的准确性；或者使用检索增强生成（下文简称：RAG）的方法以充分利用企业自有知识使模型更好地理解上下文的语境，给出更相关的答案⸺这两类群体为生成式AI应用开发者。行业应用解决方案商则是将生成式AI应用集成到现有的系统中，开发出 AI 赋能的行业应用；大部分行业用户也更倾向于采用融入生成式 AI 能力的行业应用，来实现智能化升级。图� 大模型驱动的生成式AI价值链生成式AI应用使用方生成式AI应用开发者基础模型提供商基于大模型的生成式AI应用对基础模型使用自有或行业数据集进行微调从�到�构建基础模型提示词工程（Prompt Engineering）检索增强生成（RAG）通用生成式AI应用生成式AI驱动的数字人智能客服AI辅助代码设计知识管理......制造行业生成式AI应用产品设计供应链管理质量控制自动化预测性维护......互联网行业生成式AI应用生成式AI辅助NPC设计智能推荐自适应教育AI辅助艺术设计......生命科学/医疗生成式AI应用新药研发临床决策助手AI辅助诊断......出海场景生成式AI应用机器翻译智能推荐AI生成内容对话式AI......更多生成式AI应用............来源：IDC，������ 大模型提供商⸺基础模型训练大模型提供商从零开始构建基础模型，参数量达到百万、千万甚至亿级别，典型厂商如 Anthropic 、Al�� Labs、Meta、cohere、OpenAI、Stability.ai、智谱华章、百川智能等。当前阶段，通常只有科技巨头、头部创企才有能力自主进行大模型训练，这些大模型也是生成式AI应用创新的重要源头。从模型的供给侧来看，随着大模型提供商的逐渐发展和壮大，参数量的不断增加，这些模型应用到生产环境中的准确性也相应的越来越高，过去不可能达到的预测准确度也开始成为可能。生成式 AI 应用开发者从基础模型得到最终应用，需要将特定领域数据引入基础模型进行再次训练 / 调优，才能获得理想的效果。如前所述，当下有三种方式可以实现模型的定制：调优，提示词工程，检索增强生成（RAG）。生成式AI应用开发者可以基于市场上的商业化或者开源模型，采用专有数据对模型进行调整，来构建特定场景下的生成式 AI 应用。各行业的解决方案商可以采用基础模型基于领域数据训练领域大模型，行业企业则可以使用模型定制功能开发企业专属应用，市场上也涌现出越来越多的AI原生企业采用大模型开发出各种创新的应用。图� 生成式AI应用开发者来源: IDC, ����生成式 AI 应用开发者提示词工程（Prompt Engineering)检索知识增强（RAG)微调（Fine-tuning)通过设计和调整输入的提示词（Prompt）,来引导这些模型生成更准确、更有针对性的输出文本在模型运行时动态地从外部知识库中检索信息，并将其与模型当前处理的内容结合起来，以增强模型的知识理解和回答能力对预训练的大模型在特定的数据集上进一步训练，优化其在特定任务上的性能�� 生成式 AI 应用使用方将大模型驱动的生成式 AI 应用程序，部署到企业现有的系统中。采用构建好的生成式 AI 应用，可以将其应用在内部知识问答、自动邮件生成、代码补齐等场景中，也可以集成在诸如新药研发、预测性维护、广告推荐、智能营销等行业垂直应用中。�.� 大模型提供商的挑战：数据准备耗时，训练成本高昂现阶段，作为生成式 AI 应用创新的源头，模型提供商在模型训练