亚马逊云科技（王启明）：拥抱生成式AI，把握新机遇

王启明 亚马逊云科技合作伙伴解决⽅案架构师 创新能够 企业在构建⽣成式AI应⽤旅程中会思考的问题 模型选择与部署？ 按原样使⽤模型、微调还是从头开始构建 业务 指标 对事实的回应、完整性和覆盖范围的准确性的衡量精确 速度测量到第⼀个字节的时间并完成结果 经济衡量托管和调⽤LLM的成本 反应中幻觉的测量以及引⽤和来源的准确性透明度 责任安全、隐私和治理的衡量和管理 A M A Z O N R D SF O RP O S T G R E S Q L A M A Z O NA U R O R AP O S T G R E S Q L A M A Z O NO P E N S E A R C HS E R V I C E 自动化的模型微调和分布式训练 灵活的模型部署方案 构建、训练并大规模部署机器学习模型 机器学习运维工具 面向负责任AI的内置功能 数据辅助战略？ 数据从何⽽来，数据如何处理 ⾯向⽣成式AI构建强⼤的数据“基座” 全⾯的 集成的 受治理的 ⽤于存储和查询结构化、⾮结构化与⽮量数据的服务 数据集成选项，包括ZeroETL，以便轻松连接到您的所有数据 ⾼质量合规数据的端到端数据治理功能 端到端数据基础 编目与治理| Amazon Glue Data Catalog，亚马逊云科技Lake Formation，Amazon DataZone 从POC到⽣产？ 快速构建负责任的AI 如何看待风险将帮助我们更负责任地构建 绝不使用任何客户数据来训练底座模型 所有数据在传输和存储时均进行了加密处理 Amazon保障数据安全和隐私 您的VPC不会泄露任何用于训练自定义模型的数据 支持GDPR和HIPAA等标准 ⽣成式AI时代开发者的能⼒要求 机器学习和深度学习神经⽹络和深度学习架构专家 持续学习和适应能⼒持续学习，随时了解最新研究成果，适应变化 创新和领域专家 AI数据⼯程 数据筛选、预处理和清洗，具备数据的提取，转换和加载（ETL）能⼒ 创造⼒和跳出框框思考的能⼒，为GAI⽣成创新的应⽤程序和⽤例 道德考虑因素和负责任的⼈⼯智能道德考虑、偏⻅缓解、隐私保护和负责任部署⽅⾯的技能 ⽣成式AI框架和⼯具 提示词⼯程和认证 改变领导⼒ 精通⽣成式AI框架和⼯具，能够进⾏模型开发，训练，调优和评估 领导团队的能⼒通过改变。联盟建设、持续传播和沟通 有能⼒编写⾼质量的提示词以保证⼤模型的输出正确性和稳定性 亚马逊云科技Marketplace 甄选的数字目录，帮助客户查找、订阅、部署和管理第三方软件、数据和服务 部署到31个地区 15000+可交易产品 4000+卖家300+数据提供商2000+渠道合作伙伴 70个类别（监控、安全、数据库等） 250万+活跃订阅 30万名活跃用户 立即行动，开启合作 亚马逊云科技Marketplace海外区 亚马逊云科技Marketplace中国区 https://awsmarketplace.amazonaws.cn/marketplace https://aws.amazon.com/marketplace THANKYOU