大模型与AIGC蓝皮书

目录 I.大模型如今已展现出卓越的能力，随着其不断演进和完善，必将引领AI的未来道路，开创智能时代的新纪元 II.受益于大模型技术的日益成熟，AIGC有望掀起新一轮产业革命，开启人类发展的智能新时代 III.GPGPU高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持，推动了大模型与AI领域的不断进步和创新 全球AI市场预计将于2030年达到1万亿美元，并且全球超过15%的GDP将由AI驱动；AI在各垂直领域的应用渗AI应用现状 透率也将继续提升。 大模型是基于海量多源数据打造的模型，其是实现通用人工智能（AGI）的重要路径。大模型可以整合多种不大模型的定义 同类型的数据和信息，实现多模态处理和分析，从而更全面地理解和解决复杂问题，其具备通用性、涌现性等诸多特点。 定义 •AI可分为ANI(ArtificialNarrowIntelligence)、AGI(ArtificialGeneralIntelligence)和ASI(ArtificialSuperIntelligence）。ANI是专注于执行某一领域任务的经过训练的人工智能，是目前大多数的AI形式；AGI是通用人工智能，是指一种具有与人类相当的认知能力的智能系统，能够理解、学习、计划和解决问题；ASI是超级人工智能，指在几乎所有领域都超过最优秀的人类所具备的智能、知识、创造力、智慧和社交能力的智能系统。目前，ANI已经广泛应用，AGI处于研发阶段，而大模型是实现AGI的重要路径。 大模型产业图谱 大模型产业涵盖了行业应用、产品服务、模型工具和基础设施四个关键层面，广泛应用于各行业与垂直场景，前景广阔。 大模型的演变经历3个阶段：基础大模型具备大量知识储备，能理解并生成内容，质量差强人意；精调大模型能大模型的演变 按照人类偏好及普世价值取向、并保证一定安全性的前提下，生成高度可用的内容；而出现能力涌现的大模型所生成的内容接近人类水平。 大模型演变概览 能力涌现的大模型3 根据结果重复优化过程 随着模型参数的指数级增长，大模型能力呈现明显的爆发增长，呈现能力涌现的情况。 •指令精调在于确保模型输出结果的准确性及安全性，在该阶段需要使用较多的人工标注介入。在此基础上，引入奖励模型，让模型脱落人工指引，实现自优化。 •具备逻辑推理能力及上下文理解能力，更接近人类水平。 •能按照人类偏好及普世价值取向，并保证一定安全性的前提下生成高度可用的内容。 大模型的终端用户大模型的终端用户包括C端、B端和企业自用三类。C端用户一般使用标准化的模型产品，B端用户更倾向于选择 能满足行业或企业特定需求的个性化解决方案，而企业自用的模型则旨在降低运营成本、提高运营效率、优化产品的用户体验。 大模型的表现 大模型在多领域表现卓越，在自然语言理解、学习能力、视觉听觉识别等领域可以媲美甚至超越人类。提高大模型的创造能力、减少对数据的依赖性、加强隐私保护等将会是大模型迭代的重点。 大模型的发展现状 随着大模型的不断演进，它们的参数规模也呈现出指数级增长的趋势；与此同时，它们的复杂性和功能愈发提升，使得大模型能够在各领域担任更加多样和复杂的任务。 大模型的应用 大模型正在各应用场景崭露头角，其应用场景广泛且多样化。从自然语言处理到图像生成，从音频处理到视频、3D场景创建，大模型能够应对多领域的挑战。未来，大模型有望为更多应用场景带来更多机会和创新。 大模型的应用 大模型在多个领域的应用上取得了显著进展，文本生成、编程、图像处理等领域的能力逐渐完善，有望商业化落地。然而，3D、视频、游戏等领域发展相对较慢，但潜力巨大，需要更多时间来成熟和商业化。 大模型的应用 大模型也已开始逐步渗透进金融、医疗、汽车、制造、零售等行业，头部大厂及垂类解决方案服务商相继推出适用于各垂直行业的解决方案，助力行业变革。 大模型的相关政策 随着大模型相关政策的出台，大模型的发展得到了进一步的推进和规范。这些政策不仅为大模型的研发和应用提供了指导和支持，同时也为大模型的推广和应用提供了更加广阔的空间和机遇。 ChatGPT：建立在OpenAI引入的深度学习模型GPT基础上，它已经成为迄今为止增长最快的APP之一。大模型典型案例（1/2） 目录 I.大模型如今已展现出卓越的能力，随着其不断演进和完善，必将引领AI的未来道路，开创智能时代的新纪元 II.受益于大模型技术的日益成熟，AIGC有望掀起新一轮产业革命，开启人类发展的智能新时代 III.GPGPU高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持，推动了大模型与AI领域的不断进步和创新 AIGC定义 AIGC发展历程 AIGC核心价值 对于企业而言，AIGC在降低内容制作成本、加快内容制作效率的同时提升了内容的多样性及质量，AIGC与不同产业融合互动亦可孕育出新业态新模式；对个人而言，AIGC则显著降低了内容创作门槛。 增加内容多样性 降本增效 2 •生产多模态内容：有助于企业多元化交付工作成果，例如通过文本形成图片、基于文本生成视频短片，满足海量个性化需求 •降低内容制作成本：例如游戏行业，美术创作者可以使用AIGC寻找灵感，降低初期成本投入 •提升效率：承担信息挖掘、素材调用、复刻编辑等基础性机械劳动，从技术层面实现以低边际成本、高效率的方式满足 新商业模式 •通过支持AIGC与其他产业的多维互动、融合渗透从而孕育新业态新模式，为各行各业创造新的商业模式，提供价值增长新动能 提升内容创作质量3 •有助于企业提升交付工作成果，近年来AI模型在手写、语音和图像识别、阅读理解和语言理解方面的表现逐渐超过了人类的基准水平。 降低内容创作门槛 •AIGC降低了用户的内容制作门槛，例如没有绘画基础的用户也能借助AIGC工具快速作画，内容创作将迎来爆发期。 AIGC的实现逻辑 底层生成算法和开发架构是实现AIGC所必不可缺的部分。底层生成算法是实现内容生成的基石，通常是深度学习模型，而开发架构是支撑底层算法的基础设施，以便开发人员较易集成多种算法组成。 AIGC产业链概览 AIGC应用场景 AIGC产品形态多元，如文本生成、音频生成、图象生成、视频生成、代码生成、3D模型等，赋能“数字化程度高+内容需求丰富”的行业，如娱乐、传媒、影视、电商等，驱动各行业创新。 AIGC行业发展驱动因素——算法升级 AIGC行业发展驱动因素——算力扩容 算力提升是AIGC发展的重要驱动力之一，愈大的算力规模可以支撑更大规模的模型运转。 算力芯片、AI服务器有望持续放量，数据中心建设提速，全球算力总规模将保持高速稳定增长态势 算力是打造大模型生态的必备基础，AIGC拉动算力需求指数级增长 算力芯片、AI服务器有望持续放量，数据中心建设提速•需求拉动算力芯片及AI服务器的技术迭代，预计未来将持续放量；同时，各国纷纷 算力是打造大模型生态的必备基础•算力是指计算设备执行算法、处理数据的能力，包括CPU、GPU等。算力的应用包 括数据中心、分布式计算、云计算、边缘计算等。AIGC背景下，大模型是AI发展的必然趋势，而算力是打造大模型生态的必备基础。 提速数据中心建设，我国“东数西算”工程投资规划逐步清晰。 全球算力规模将保持高速稳定增长态势•预计2030年人类将迎来YB数据时代，全球算力规模达到56ZFlops（1021次）。预 AIGC拉动算力需求指数级增长•大模型训练所需算力每3-4个月增长1倍，增速远超摩尔定律（18-24个月/倍）。模 计智能算力2021至2030年年均复合增长率将超65%，以支撑庞大的新增非结构化数据（文本、图片、语音、视频等）。 型预训练过程是消耗算力的最主要场景，AI训练所需算力呈现指数增长态势。 AIGC行业发展驱动因素——多元化变现模式 AIGC通常可同时面向企业和个人变现，随着用户方需求持续升级和AIGC产品愈加成熟，诸多潜在的变现方式也将进一步刺激AIGC行业蓬勃发展。 目录 I.大模型如今已展现出卓越的能力，随着其不断演进和完善，必将引领AI的未来道路，开创智能时代的新纪元 II.受益于大模型技术的日益成熟，AIGC有望掀起新一轮产业革命，开启人类发展的智能新时代 III.GPGPU高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持，推动了大模型与AI领域的不断进步和创新 GPGPU定义GPU可根据其功能和集成方法进行分类。GPGPU出色的处理和并行计算能力被广泛应用于大模型、高性能计算 在GPGPU产业链中，上游供应商主要为中游的芯片设计公司提供服务，在GPGPU生产出来后再被转交给下游GPGPU产业链 的终端用户。随着GPGPU在更多新兴应用场景中的普及，预计未来终端用户的覆盖范围将进一步扩大。 关键分析 产业链上游: •半导体IP供应商提供搭建SoC所需的核心功能模块。•硅片设计服务供应商提供各个研发环节部分或全部的研发服务及后续晶圆制造、封装及测试的委外管理•EDA工具供应商则主要提供芯片设计所需的自动化软件工具等。 产业链中游: •芯片设计指根据芯片规格要求，通过主系统涉及、逻辑设计、电路设计、物理设计，最终形成设计版图。•晶圆制造环节是根据设计版图将电路图形信息蚀刻在硅片上，并形成电路的过程。•封装则是将芯片在框架上布局、粘贴、固定及连接，引出接线端子并通过可塑性绝缘介质灌封固定，构成整体立体结构的工艺。•封装完成后，再对芯片进行功能和性能测试。 产业链下游: •下游主要为终端厂商，如运营商、云厂商、AI厂商、互联网、行业AI、政府AIDC等。如今，GPGPU已被用于越来越多的新兴领域，推动各行业快速发展。 GPGPU架构软硬件集成所带来的性能优化已成为GPGPU的关键竞争力。目前，持续的微架构创新和制程工艺升级，以及软 件开发人员对生态系统完整性和多样性的提升促进了GPGPU的持续发展。 关键分析 计算能力、热设计功耗、能效比、进程、内存和内存带宽等是GPGPU的关键参数。GPGPU关键参数 GPGPU技术在大模型、AI和其他领域的应用日趋成熟，推动全球GPGPU市场持续快速发展。GPGPU市场规模 •尽管GPGPU最初是为了完成图像相关的任务而发明的，但它的架构并非是定制的，这使它们能够广泛应用于各种不同的计算任务，在计算场景不断发展和多样化的当今世界，这是一个至关重要的优势。因此，GPGPU已成为通用计算芯片的主流选择，并将在未来继续保持这一优势。 •推理的算力需求通常会随着用户使用AI模型次数的增加而增加。受益于AI模型用户的不断增长，推理所需的计算能力未来将持续增长。 •同时，AI模型的参数越多，完成一次训练所需的计算能力就越高。随着大模型的不断发展，对能够处理此类大规模计算的GPGPU的需求将越来越大。未来，大模型的在各行业应用更加多样化，长期促进训练所需的计算能力的增长，推动GPGPU市场的发展。 目录 I.大模型如今已展现出卓越的能力，随着其不断演进和完善，必将引领AI的未来道路，开创智能时代的新纪元 II.受益于大模型技术的日益成熟，AIGC有望掀起新一轮产业革命，开启人类发展的智能新时代 III.GPGPU高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持，推动了大模型与AI领域的不断进步和创新 彩蛋：生成式AI如何提升工作效率 市面上AI工具五花八门，有文字、图像、音视频、编程、办公等众多类型。GPT爆火后，各行各业都在开发大模型，有些是蹭热度，有些是基于已有产品进行升级，但目前具有颠覆性的仍是我们熟知的GPT、Midjourney等文字、图像类生成式AI工具。 彩蛋：生成式AI如何提升工作效率 文字–常用大模型帮助撰写一些分析，如行业驱动因素等，经过简单改写或让AI基于之前的回复改写后，生成的内容能够达到及格水平；也会用来翻译中英文、改写并总结文字。以修改英语为例，虽然简单