新兴技术策展系列5-生成型人工智能

EMERGINGTECHNOLOGIES定制系列 问题# 5:Generative Artfi社交智能 确认 WB韩国Oflce 杰森·迈克尔·奥尔福德(特别代表) WBG，InformationTechnology Solutions，Technology and InnovationLab (ITSTI)优素福·卡拉考格鲁(董事兼高级顾问)、斯特拉·莫坎(经理)、金熙公园(ITO∆cer), Yongdae Kim (IT O∆cer), Yusaku Kawashima (Senior IT O∆cer) © 2023世界银行1818 H Street NW华盛顿特区20433电话：202 - 473 - 1000因特网：www. worldbank. org This work is a product of the staffof The World Bank with external contribut i on. Thefindings,在这项工作中表达的解释和结论不一定代表fl的观点世界银行、其执行董事会或其代表的政府。 世界银行不保证这项工作中包含的数据的准确性。在这项工作中的任何地图上显示的边界、颜色、面额和其他格式都没有暗示世界银行对任何领土或认可或接受这种界限。 权利和权限 本作品中的材料受版权保护。因为世界银行鼓励在据其所知，本作品可全部或部分复制，用于非商业目的只要在tri但iono处充满，就可以完成这项工作。 任何关于权利和许可证的问题，包括附属权利，都应向世界银行提出。Publicat i ons, The World Bank Group, 1818 H Street NW, Washington, DC 20433, USA; fax: 202 -522 - 2625；电子邮件：pubrights @ worldbank. org。 韩国Office EMERGINGTECHNOLOGIES定制系列 问题# 5:Generative Artfi社交智能 Contents 缩略语…………………………………………………………………………5导言……………………………………………………6一、生成性人工智能的基础知识……………………………………………………………………………………………………………………………………………………………………………7二、生成人工智能简史…………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………三、生成人工智能的类型及其工作原理………………………………………………………………………………………………………………………………………………………………………………14显式密度模型…………………………………………………………………………………………………15隐式密度模型……………………………………………………………………………………………………………………………………………………………………………………………………………………………………16iV.生成AI的Benefits………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………创造力和可扩展性………………………………………………………………………………………………………………………………………………………………………………………………………21效率和生产率…………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………五、人工智能在工业中的应用 …………………………………………………………22保健和制药…………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………制造业…………………………………………………………24媒体、艺术和娱乐…………………………………………………………………………………………………………………………25时尚…………………………………………………………………………25电子商务和市场营销……………………………………………………………………………………………………………………………………………………………………………………………………………………26六、国际发展机遇………………………27七、限制和考虑因素…………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………八、人工智能在韩国…………………………………………………………………………………32公共部门倡议……………………………………………………………………33韩国对AI的态度……………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………………生成AI的策略和方法.......................................私营部门倡议。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。36 首字母缩略词 AIArt ificial I telligenceBERT双向i onal Enoder Representat i on on fom Transformers罗伯特稳健选择BERTCLIP语言图像预训练对比GANGPTGenerat i e对抗网络Generat i e预训练变压器大型语言模型LLMMCSTMSITMTIENLP文化、体育和旅游部Ministry of Science and ICT贸易，工业能源部自然语言处理SOC社会间接资本GSNCNNRNNNADEMADEVAEGenerat i e Stochast i c Ntwork卷积神经网络递归神经网络神经自回归密度估计用于Distribut i onEt i mt i o的屏蔽自动编码器Variat i onal AutoencodersRMFCVPRADADNA风险管理框架计算机视觉与模式识别Adapt i e鉴别器Augmentat i o脱氧核糖核酸 INTRODUCTION 人工智能(AI)一直在迅速发展，并且已经尝到了甜头。Signifi近年来取得了许多进步和突破。人工智能市场预计将从2021年的15亿美元增长到6.5美元到2026年达到10亿美元，复合年增长率为34.9%。1 承认人工智能在研究和实践中日益重要应用程序，包括使用它来解决内部开发挑战，这报告全面概述了广义人工智能，介绍了基础知识，解释了它在我身上的发展，并研究了它的类型和应用。突出显示通用人工智能的优点和能力，该报告探讨了如何它可以应用于各种行业，如医疗保健，制造业，媒体，和娱乐，然后讨论有效的机会和限制用户必须考虑。最后，它描述了韩国人的信息和策略政府和私营部门的参与者已经实施了采用和推进Generat i e AI在韩国和全球市场。 新兴技术系列“Generat ve AI”中的fif t问题是世界银行集团在技术解决方案方面的合作技术和世界银行韩国国家办事处。该系列捕获新技术和趋势，分享知识，帮助解决国际问题发展挑战。 的基础知识GENERATIVE人工智能 Gartner，Inc.宣布了关键字“generat i e art i cial intel”-人工智能(AI)作为战略领域的顶级战略技术趋势2022年的技术，并预测到2025年，generat i e AI1将产生所有数据的10%，高于目前的不到1%。Generat ve AI是一种颠覆性的机器学习算法，它可以学习从数据中获取内容，并用它来产生creat i e，realist i c，完全新的输出。它不是一种只在一个有很多东西的世界里工作的技术数据，这是数据驱动的人工智能擅长的；它可以从少量的informat i onand可以在各种fi字段中使用，并且可以用于各种应用程序 ••••艺术与设计：Generat i e AI创造独特、多样的艺术品，如数字绘画三维设计和动画。OpenAI的DALLE2和Stabiilty. AI的稳定Diffusion是此类域的流行示例。Lexicia. art是一个收集使用Generat Ve AI通过Stable Diffusion创建的图像(图1)。2Music:AI算法可以使用输入数据和用户偏好生成音乐曲目并能分析现有的音乐数据，了解PAT ERNS和结构，并生成符合用户偏好和特定fic标准的音乐，如流派、风格或心情。Text:Generat i e AI可以产生内容、创造故事、诗歌和编程代码，可用于生成对客户的自动响应客户服务查询。ChatGPT (generat ve预训练变压器)来自OpenAI是这个应用程序的一个流行例子3演讲稿:Generat i e AI can take content and create appropriate voice audio. The user输入文本，人工智能将其转换为真实的语音。生成的语音可以使用用于各种目的，包括语音应答系统和虚拟助手。与传统的文本到语音系统，它产生更自然的声音，表达演讲4 图1. 利用人工智能生成的图像 II.简介HISTORY OFGENERATIVE AI G人工智能是在20世纪50年代和60年代开始开发的，当计算机图形系统开始使用传统的静态模型，如马尔可夫模型和蒙特卡罗模型Carlo simulat ons. Ian Goodfellow及其同事介绍了这一代人2014年的对抗网络(GAN)，它已经成为最重要的网络之一流行和成功的generat ve模型。如果是这样的话，公众就成了5意识到人工智能的普遍性。图灵奖获奖计算机科学LeCun将GAN模型描述为“过去最有趣的想法机器学习十年 在更广泛的， 更多样化的数据集、更强大的算法和更强大的计算机硬件。Generat i e人工智能用于许多应用程序，包括图像和视频合成、语音合成和语言生成。它仍然是一个研究领域，有新的模型和应用程序不断发展。 2017年，变压器型号，6-自然语言领域的开创性方法processing - was proposed. Large language models (LLM) such as GPT3, RoBERT, Gopher,和BERT开始获得广泛的普及和采用。7LLM是一种神经性的由于其大小而被称为LLM的网络模型。语言模型通常由千亿个参数。由于模型的大小，它可以了解复杂的relat onships between words and phrases in the input text. For example, BERT had about 340百万个参数。OpenAI的GPT - 2（2019年推出）有15亿个参数，GPT - 3(2020年推出)有1750亿。这些模型的大小决定了它们的质量。A具有许多参数的模型允许完成以前无法完成的事情。8These大型模型在广泛的自然语言上实现了最先进的性能处理任务（图2）。自然语言处理任务包含发送的分析、寻求答案、文本摘要、文本分类、文本生成等等。自从LLM的初始开发以来，科技公司已经开发出了超级LLM。 2021年，OpenAI推出了DALL - E，这是