在 AWS 上用生成式人工智能改变您的业务 （ 汉 ）

T O R O N T O |J U N E 1 4 ， 2 0 2 3 I N O 1 0 5 - F M通过以下方式转变您的业务AWS 上的生成式 AIRitesh VajariyaGirish ArunagiriNashlie Sephus 博士首席 ML 专家Amazon Web Services首席 ML 专家Amazon Web Services主要 AI / ML 传教士Amazon Web Services© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 议程Introduction使生成 AI 变得简单易懂你今天怎么开始 ？Resources© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 问 ： 什么是生成人工智能 （ AI ） ？•创造新的内容和想法 ， 包括对话 ，故事、图像、视频和音乐•由大型模型提供动力 ， 这些模型在庞大的语料库上进行了预训练数据 ， 通常称为基础模型 (FMs)© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 生成 AI 是由基础模型对大量的非结构化数据包含大量的参数 ， 使他们能够学习复杂的概念可以在广泛的环境中应用使用域的数据自定义 FM具体任务© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 为什么是基础模型 （ FM ） ？任务任务............文本生成文本生成SummarizationSummarization已标记数据ML模型信息萃取无标签数据信息萃取FM............Q & AQ & AChatbotChatbot火车部署训练前Adapt© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 FMs 的类型InputFM输出文本到文本从简单的自然语言生成文本各种应用程序的提示“十每天千步是最佳的维护健康的心脏“总结文章对影响在心脏健康上行走 “文本到嵌入生成文本的数值表示适用于搜索和查找等应用程序文档之间的相似性数值表示“手肥皂笔芯“手肥皂 ”手动皂液器洗手液抗菌 “多式联运生成和编辑图像自然语言提示"宇航员的照片在 M 上骑马ars "© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 常见用例文本代Q & A文本总结文本萃取释义重新表述搜索代码代Image代Image分类音频代视频代© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 灵活性安全自定义最成本效益高基础设施为什么选择 AWS生成 AI?最简单的方法使用 FM 构建生成 AI -供电解决方案© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 灵活性从 a 中选择宽选择由AI21 实验室 ， 人类 ，稳定性 AI 和 Amazonto为您找到合适的型号用例。安全自定义最成本效益高基础设施为什么选择 AWS生成 AI?最简单的方法使用 FM 构建生成 AI -供电解决方案© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 灵活性安全自定义自定义 FM 为您的业务只有几个标签的例子。因为所有数据是加密的 ， 并且不要离开你的亚马逊虚拟私有云（ Amazon VPC ） ， 您可以信任那个您的数据将保留私人和机密.最成本效益高基础设施为什么选择 AWS生成 AI?最简单的方法使用 FM 构建生成 AI -供电解决方案© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 灵活性安全自定义最成本效益高基础设施为什么选择 AWS生成 AI?Get the最好的价格性能用于生成具有基础设施的 AI由 AWS 设计提供动力ML 芯片和 NVIDIA GPU.经济实惠的扩展培训和运行包含数百个的 FM数十亿个参数。最简单的方法使用 FM 构建生成 AI -供电解决方案© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 灵活性安全自定义最成本效益高基础设施为什么选择 AWS生成 AI?快速集成和部署将 FM 集成到您的应用程序中和运行的工作负载AWS使用熟悉的控件并与AWS 的深度和广度能力和服务喜欢Amazon SageMaker 和Amazon S3 。最简单的方法使用 FM 构建生成 AI -供电解决方案© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 灵活性安全自定义内置了生成 AI ，服务 ， 如亚马逊CodeWhisperer， 一种 AI 编码伴侣 ， 可以帮助你提高生产率。在此外 ， 你可以部署常见的生成 AI 使用呼叫汇总等情况和问题回答使用 AWS 示例解决方案结合 AWS AI 服务领先的 FM 。最成本效益高基础设施为什么选择 AWS生成 AI?最简单的方法使用 FM 构建生成 AI -供电解决方案© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 在 AWS 上使用生成式 AI 进行构建© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 NEW亚马逊基岩最简单的构建方法和规模生成 AI带 FM 的应用程序© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 亚马逊基岩的主要优势Accelerate发展创成式 AI从中选择 FMAI21 实验室 ， 人类 ，稳定性 AI ， 以及亚马逊找到了适合您的 FM用例私人定制FM 使用您的组织的数据增强您的数据保护使用全面的 AWS安全能力使用 AWS 工具和你的能力熟悉部署可扩展 ，可靠 ， 安全创成式 AI应用程序使用通过 API 的 FM ，没有管理基础设施应用程序© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 亚马逊基岩支持广泛的 FM来自亚马逊的 FM来自 AI21 实验室、人类和稳定性 AI 的 FM泰坦文本泰坦嵌入侏罗纪 - 2克劳德稳定扩散© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 亚马逊泰坦I N N O V A T E R E S P O N S I B L Y W I T H I G H - P E R F O R M I N GF M S F R O M A M A Z O N好处• 建立在 20 多年的亚马逊ML 经验• 自动化语言任务 ， 如摘要和文本生成Amazon Titan 文本 FM泰坦文本专注于NLP 任务泰坦嵌入对于企业任务如搜索和个性化• 提高搜索准确性和改进个性化推荐Amazon Titan 嵌入 FM• 通过减少 AI 来支持负责任的使用不适当或有害的内容© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 来自顶级 AI 初创公司的 FM侏罗纪 - 2克劳德稳定扩散的多语言 LLM西班牙语文本生成 ，法语 ， 德语 ， 葡萄牙语 ，意大利语和荷兰语LLM for 会话和文本处理任务独特的一代 ，逼真、高质量的图像 ，艺术、标志和设计© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 使用您的私人自定义 FM组织的数据微调PURPOSE最大限度地提高特定任务的准确性少量标记的示例需要数据© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 NEWAmazon EC2 Trn1n和 Amazon EC2 Inf2专门构建的 ML 加速器 ， 用于最好的性价比云中的训练和推理© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 用于生成 AI 的专用加速器AWS 推理AWS TrainiumAWS 推理 2每个推理的最低成本在云中运行深度学习 (DL) 模型成本效益高 ， 高绩效培训LLM 和扩散模型高性能每个推理的最低成本LLM 和扩散模型降低高达 70%每个推理的成本比可比节省高达 50%关于培训费用在可比高达 40% 更好价格表现比可比Amazon EC2 实例Amazon EC2 实例Amazon EC2 实例© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 NEWAmazon CodeWhisperer更快地构建应用程序安全地与 AI 编码伴侣© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 Amazon CodeWhisperer ： 现在一般对个人开发人员可用且免费难以扫描的代码 -查找漏洞类似的标志代码开源培训默认情况下数据或过滤器生成代码实时建议在预览期间 ， 亚马逊遇到了生产力挑战 ， 参与者使用亚马逊 CodeWhisperer 是27% 更有可能成功完成任务和这样做平均快了 57%比那些没有使用 CodeWhisperer 的人© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 与流行的实验通过亚马逊的 FMSageMaker JumpStart© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 SageMaker JumpStart 上提供的 FM用于自我管理的访问公开可用专有模型+模型模型Text2Image升级模型模型模型模型Flan T - 5 型号（ 8 种变体 ）AlexaTM20B凝聚generate - medLyra - Fr10B侏罗纪 - 2Grande 17BDistilGPT2, GPT2+ 5 其他任务任务任务任务布卢姆模型（ 3 种变体 ）任务机器翻译文本生成文本生成文本生成Generate照片逼真图片来自文本输入任务信息萃取关键词萃取长形式代问题回答机器翻译问题回答信息萃取Summarization释义聊天Summarization注释问题回答提高质量产生的图像Summarization问题回答Summarization注释数据生成信息萃取Summarization功能情绪分析数据生成功能问题回答微调SD 2.1 模型分类分类微调+ 仅用于研究 ； 不用于商业用途 （ 尚未 ）© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 将 FM 与 SageMaker JumpStart 结合使用的 3 种方法SageMaker StudioSageMaker笔记本AWS 管理控制台一步部署预览© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 使用 SageMaker JumpStart 的 FM ： 工作原理Amazon SageMaker浏览实验自定义部署JumpStart浏览公共和专有的 FM使用 FM 进行实验在选择之前部署模型自定义所选FM 与您自己的无数据集部署模型和运行推理为你的生成AI 用例访问和试用公共和专有的 FM ， 并自定义并将它们集成到您的生成式 AI 应用程序从零开始训练© 2023 ， Amazon Web Services, Inc. 或其附属公司。保留所有权利。 框架和自我管理机器学习© 2023 ， Amazon Web Services, In