微软和OpenAI的关系及产品矩阵

Azure Open AI微软（中国）有限公司 确保通用人工智能（AGI）造福人类。全球每一个人每一个组织成就不凡GPT生成和理解文本Codex生成和理解代码DALL·E preview根据文本提示生成图像ChatGPTpreview生成对话响应 Comparing OpenAI.com and Azure OpenAI Service Azure OpenAI ServiceEarly Access to ModelsOpenAIResearch的最新模型，包括alpha和beta模型，将始终首先在OpenAI.com上提供。一旦模型在OpenAI.com上正式发布，微软将确定它们在Azure OpenAI服务上的时间和产品。Delivery Method作为基于SaaS 的AI API 交付作为第一方Azure 服务提供，用于客户的Azure 租户/订阅Hosting LocationsAzure United StatesAzure United States and Europe...and morePaymentPay OpenAIPay MicrosoftComplianceSOC2 Type 1, SOC Type 2 (pending), HIPAAFull suite of compliance offerings (see full Microsoft Compliance Offerings)ModelsGPT-3.5, Codex and DALL-EChatGPT API and Whisper API (coming soon)GPT-3.5, DALL-E and Codex (including Codex Fine-Tuning)ChatGPT API (coming soon)SolutionsChatGPT, DALL-E LabsGithub Copilot, Teams Premium and Viva Sales SupportSupport provided by OpenAISupport TeamSupport provided by the Azure Support TeamSLA99.5%Azure Service Level AgreementsSecurity and Networking单点登录（SSO）、第三方身份访问管理和基于角色的权利管理Azure Active Directory、基于角色的访问控制、客户管理的密钥、专用链接和网络安全 GPT迭代研发成果发布公开测试正式发布模型服务•ChatGPT•DALL-E2•Open AI Beta PlaygroundAzure认知服务•AOAI PG有计划两边能力完全平等•未来正式模型，两者间会同步发布•两边的gap不会完全消除•由于两边企业性质导致•客户用OpenAI作为early preview，然后再挪到Azure但是 AzureGPT迭代研发成果发布公开测试正式发布•API 文档•Fine-tuning•API发布/管控•Endpoint hostingAzure高安全高可用高集成独家授权•私有网络（vNet）•Private Endpoint/Link•Custom Domain•CMK•RBAC/IAM 权限管理•Azure AD集成•托管身份（Managed ID）•企业合规（SOC2，HIPAA，ISO，GDPR Data Privacy etc.）•企业伦理审查（RAI）•企业级有偿Support•多区域可用/容灾•保证SLA 99.9%•更高Rate Limit （TPM/QPM）•更高Token上限（Fine Tuning）•Endpoint部署管理和监控•基于Azure的API扩充：•Token监控•更好的Error & debug支持•集成现有Cognitive Service的服务架构•集成资源监控（Monitor / Log Analytics）•集成自动化（Automation Task，ARM部署）•集成Express Route•集成密匙管理（AKV）•集成数据加密（Azure Storage）商务价值认知服务 Generative AIPrompt: 为冰淇淋店写一个标语。Response: 我们用每一勺提供微笑！Prompt: Table customers, columns = [CustomerId, FirstName, LastName, Company, Address, City, State, Country, PostalCode]Create a SQL query for all customers in Texas named Jane query =Response: SELECT *FROM customersWHERE State = 'TX' AND FirstName = 'Jane'Prompt:一只白色的猫Response:GPT-3CodexDALL·EChatGPTWhat is the fastest animal on land?the cheetah (Acinonyx jubatus), which can reach speeds of up to 60 miles (97 kilometers) per hour.What makes them so fast?Cheetahs are built for speed and have several adaptations that make them the fastest land animal: lean body, long legs, flexible spine, large nostrils and claws that don’t retract. Azure OpenAI|Top 4 功能和用户案例呼叫中心、客服中心等客户对话日志的总结自然语言和SQL互换专业主题文档摘要(例如财务报告，分析师文章)转换自然语言以查询专有数据模型代码注释和文档搜索特定产品/服务的评论社交媒体趋势总结信息发现与知识挖掘呼叫中心分析端到端: 分类、情感、实体提取、摘要和电子邮件生成客户洞察360：实时总结客户查询和趋势、搜索和内容来生成个性化内容呼叫中心、客服中心等对客户的问题自动生成回复为网站生成个性化的UI业务流程自动化: 结构化和非结构化文档搜索、生成查询数据模型代码、生成内容 推理时间能力AdaCurieDavinciBabbageAzure OpenAI Service Models |型号系列Cushman-codexDavinci-codex能力CodexGPT-3•2048tokens•简单分类•解析文本和设置文本格式•2048tokens•语义搜索排名•中等复杂度分类•2048tokens•回答问题•复杂、细致入微的分类•4000 tokens•针对特定受众的摘要•生成创意内容 0 1 0 1 0 1 0 1 0 1 0 11 0 1 0 1 0 1 0 1 0 1 00 1 0 1 0 1 0 1 0 1 0 11 0 1 0 1 0 1 0 1 0 1 00 1 0 1 0 1 0 1 0 1 0 11 0 1 0 1 0 1 0 1 0 1 01 0 1 0 1 0 1 0 1 0 1 00 1 0 1 0 1 0 1 0 1 0 11 0 1 0 1 0 1 0 1 0 1 00 1 0 1 0 1 0 1 0 1 0 11 0 1 0 1 0 1 0 1 0 1 00 1 0 1 0 1 0 1 0 1 0 1Open AI 它是...GPT X生成文字Codex生成代码Embedding生成向量GPT架构地表最强自然语音类深度学习架构，用来理解文字并做出相应的输出Moderation (旧称Content Filter)学习内容(文字类素材)学习方法截止2021年6月text-davinci-003GPT模型具备一定的真实世界知识储备，基本常识和概念（世界观）训练得到派生派生预训练模型家族(俗称大模型) Open AI 它不是...GPT 3.5生成文字ChatGPT优化问题解答和对话形式输出DALL-E优化RGB三原色输出•Chat GPT 和DALL-E 是以GPT3.5为基础衍生出来的应用•目的用来展示GPT可以做到什么程度•它不是模型服务，不能直接售卖•我们会有对应服务推出，暂定2月28日名为Enterprise ChatGPT训练得到 OpenAI能做什么?1.生成文章(Completion)a.Conversational AI （客服Bot）b.疑难解答（QA）*c.翻译d.根据语言理解生成文字e.因果关系推理f.语句/语法/词汇改善2.归纳/总结(Summarization)3.分类(Classification)a.情緒分析(Sentiment Analysis)b.打标签/ 分类GPT X生成文字Codex生成代码Embedding生成向量1.文字转程序a.Auto testingb.Debuggingc.Coding Quality Checkd.代写代码*e.代码生成文档*(Reverse coding)1.文字转矢量a.语义匹配*(Vectorized Semantic Search)b.疑难解答(QA)*c.建立更强大的知识库(KB)* 表示可能需要多个能力组合实现 和Cognitive Service 怎样区别？分类视觉类语音类生成文字对话类语言分析归纳/总结NLP/ 语言类翻译泛应用领域(原子能力)•底层结构差异导致OpenAI各方面碾压传统AI•GPT本身丰富的语言理解能力和知识储备可实现零学习或Few-shot learning(举一反三)•未来Cognitive Services的底层会被GPT或其它Transfer架构取代(比如Florence)•OpenAI不具备的能力•商用成熟，包括定制化在内的业务支援丰富解決方案类(Pre-built)认知服务医学文档解析视频分析/打标签Pre-built OCR方案认知服务•发票/小票/收据识别•表单解析&识别•名片识別•客戶寻求的解決方案级別的应用(开箱即用)搜索•名片识別 不是对抗，而是联合！•Cog Service本身的多元性+ 配合GPT强大的语言能力= 提升现有能力或打造全新体验整理出发票的性质，每个条目的类别及合规检查Form Recognizer OCR发票，提取结构数据自动归纳会议主题，纪要，Action Points，重要时间线+moreSTT实时会议转写更智能的业务自动化处理更进阶的会议智能助手根据标签实施理解事件，生成情景描述游戏视频解析/打标生产自然语音搭配虚拟人做直播介绍全新的用户体验把RPA玩到新高度！语音标识一段需求（STT）理解需求，生成对应的代码部署到Power Automate上！ Azure OpenAI服务存储服务的提示和完成，监控