ChatGPT林惠文@真格基金daimajia.com 体验 ChatGPT 与 GPT-3 的对比 与 GPT-3 的对比 与 GPT-3 的对比 强烈建议体验https://mirror.xyz/0x6E12A28086548B11dfcc20c75440E0B3c10721f5/9O9CSqyKDj4BKUIil7NC1Sa1LJM-3hsPqaeW_QjfFBc ChatGPT 提升的核心点•敢于质疑不正确的前提 •主动承认错误和无法回答的问题 •大幅提升了对用户意图的理解 •大幅提升了结果的准确性提升人类意图的一致性连续多轮对话能力 提升的原因加入了基于人类的反馈系统丛问题库里抽取问题什么是香蕉？香蕉是一种水果，从香蕉树....标记者（Labeler）书写期待的回复被标记的数据用来调优 GPT-3.5什么是香蕉？香蕉是一种水果，从香蕉树.... 香蕉是芭蕉科、芭蕉属植物...香蕉为芭蕉科植物甘蕉的果实。原产亚洲东南部...香蕉，从属性来说，与草莓、葡萄、猕猴桃是亲...标记者（Labeler）排序所有标记着答案用排序答案训练 奖励模型采样问题，并列出所有模型和标记者的回答写个水獭的故事输入奖励模型得到分数和优化参数通过模型生成初步回答持续优化参数迭代很久很久以前...Reinforcement Learning from Human Feedback 往前捋捋GPT-1GPT-2GPT-3InstructGPTchatGPT20182019202020221500w 美金 1750 亿参数15 亿参数1.17 亿参数 再往前捋捋GPT-1GPT-2GPT-3InstructGPTchatGPTTransformerBERTRoBERTaXLMALBERTELECTRAT5BARTM2m-100BigBird2017DecoderEncoder《Attention is All You Need》 继续再往前捋捋GPT-1GPT-2TransformerBERTRoBERTaT5BART2017 开始CNN 卷积神经网络RNN 循环神经网络1990开始 - 2006突破 - 2015繁荣 继续再往前捋捋机器学习GPT-1TransformerBERTT52017 开始CNN 卷积神经网络RNN 循环神经网络1990 开始 - 2006 突破1980 开始基于规则1950 开始 发展趋势机器学习Transformer优化人脑学习过程 关注重点而非全部神经网络基于规则手写规则，简单粗暴 只能处理非常少量数据找到一些函数或参数 分类固定量数据像人脑一样学习 开始尝试大量数据提前标记一些数据 根据大量数据分类学习一个复杂的参数集合分类⻩豆和绿豆 发展趋势Transformer优化人脑学习过程 关注重点而非全部神经网络像人脑一样学习提前标记一些数据 根据大量数据分类学习一个复杂的参数集合GPT3投喂 海量的学习数据ChatGPT人对结果的反馈 成为学习过程的一部分1200 万美金无需分类数据 算法数据量+既要聪明，又要努力 算法数据量+ChatGPT： 每走一步都观察人类反馈 朝着人类期望的方向进发 脑洞思考GPT3海量的学习数据 漫⻓的学习过程ChatGPT人对结果的反馈 成为学习过程的一部分1500 万美金？更遥远的未来有没有算法能 突破人脑结构限制？基于人类反馈的训练方法 能否拓展到更多领域？比如情感？ 投资⻆度应用层面： 出现新的 AI+ 创业机会 1. 更好的客服机器人、机器翻译等 2. 更垂直的专业化 AI （用户反馈系统定向训练） 3. AI 基础设施 （模型运维，管理，训练等）需要考虑： 1. 大模型开始流行 （创业初始成本上升，团队融资能力） 2. 训练成本持续上升（团队商业能力） OpenAI 发展史 OpenAI 发展历史•2015 年 12 月：OpenAI 由一群包括 Elon Musk 和 Sam Altman 等个人和组织创建，旨在推进和促进人工智能领域的研究。 •2016 年：OpenAI 开发了第一个人工智能系统，击败了职业玩家在《Dota 2》游戏中。 •2017 年：OpenAI 发布了 GPT-1，这是一个能够生成人类文本的语言处理模型。 •2018 年：OpenAI 与 Microsoft 合作，推出了 Azure AI Platform，这是一个新的项目，旨在让开发人员更容易构建和部署 AI 应用程序。 •2019 年：OpenAI 发布了 GPT-2，这是一个比 GPT-1 功能更强大的语言处理模型。 •2020 年：OpenAI 发布了 DALL-E，这是一个能够根据文本描述生成原始图像的创意 AI 系统。 •2021 年：OpenAI 发布了 GPT-3，这是目前为止最大最强大的语言处理模型。 OpenAI 主要方向•语言处理：OpenAI 开发了几款高度先进的语言处理模型，其中包括 GPT-3，这是目前为止最大最强大的语言处理模型。这些模型能够生成人类文本，并在自然语言理解方面取得了显著的进展。 •计算机视觉：OpenAI 也在计算机视觉领域开展了大量研究，并开发了一些先进的 AI 系统，能够像人类一样识别和理解图像。 •深度强化学习：OpenAI 还在深度强化学习领域开展了大量研究，并开发了一些用于游戏和其他应用的 AI 系统。 OpenAI：“以上都是我总结的” •https://openai.com/blog/chatgpt/ •https://openai.com/blog/instruction-following •https://beta.openai.com/docs/model-index-for-researchers •https://mp.weixin.qq.com/s/haaL-2XjRG0oS24pQyqw1A •https://easyai.tech/ai-definition/nlp/ •https://www.exxactcorp.com/blog/Deep-Learning/deep-learning-in-natural-language-processing-history-and-achievements •https://dennybritz.com/posts/wildml/understanding-convolutional-neural-networks-for-nlp/ •https://github.com/sw-yx/ai-notes/blob/main/TEXT.md#jailbreaks •https://xiaosheng.run/2022/04/04/transformers-biography.html •https://zhuanlan.zhihu.com/p/43493999 •https://zhuanlan.zhihu.com/p/350017443 •https://easyai.tech/ai-definition/attention/ •https://medium.com/walmartglobaltech/the-journey-of-open-ai-gpt-models-32d95b7b7fb2