吴明辉《AI如何赋能职场人大模型落地企业方法论》

2 7 / 0 1 / 2 0 2 4明 略 科 技·吴 明 辉 第一部分：拿到大模型船票对于企业的必要性？ 拿到大模型船票：快一点vs慢一点 我的个人经历：充分拥抱新技术红利 我的个人经历：秒针系统，互联网大数据分析技术最早的服务商 Bloomberg，使用电脑最早的服务商 大模型是当下的最大机会 Gartner预测 •到2024年，40%企业将接入生成式AI应用•到2026年，生成式AI将赋能60%的网站及移动端应用实现自动化•到2027年，大模型应用软件将占比达整个市场的15% Gartner：使用生成式AI的冲击雷达来规划投资和战略 我的学习感受 从小朋友的作业、开源战略探索，到给同事选择礼物 数据说明：明略科技内部员工小明助理每日使用量小明极大的活跃了员工氛围 大模型培训课 大模型每周一题 我给小朋友分享的AI知识 人 工 智 能 机 器 学 习 的 核 心 工 作 就 是 找 到 一 个 函 数f(x): x->y 语音->识别结果图像->识别结果原文->译文Prompt->输出结果 我给小朋友分享的AI知识 已知如图，一次函数y=ax+b图象经过点（1，2）、点（-1，6）；求：这个一次函数的解析式。 OpenAI——大力出奇迹的机器学习 互联网上的公开知识：x和y的对应 第二部分：企业如何落地AI？ 首先，让团队理解大模型产生真正生产力的基本逻辑 并不是参数越多越好 模型不是越大越好 考虑效果vs成本，参数规模“够用即可”•效果：参数规模较小的模型也可达成好的效果•成本：训练和使用的成本也相对较低 Vicuna-13B（基于Llama训练的开源模型，参数规模仅有GPT3的1/100），在GPT-4的评估下，可超过相当于ChatGPT90%的效果 推理能力最为重要 推理 (Reasoning) •常识推理•逻辑推理•因果推理•数学推理•多模态推理•….. 大模型推理能力的测试 大模型推理能力的测试 更复杂的推理案例 ChatGPT-4 大模型产生理性生产力的基本原理 理 性 生 产 力 需 要 理 性 决 策理 性 决 策=强 大 的 模 型+准 确 的 信 息 大 模 型 就 是 一 个 函 数y=f(x) Agent能解决更多复杂问题，是模型和信息的组织者 Agent案例：GPTs范式 Agent案例：互联网外脑，联网搜索功能 第二次提问：联网搜索 Copilot：小明助理，企业级一站式大模型Copilot Let’sbe on the same page. •第一层，是让GPT与当前的我onthesamepage，一起共同解决问题•第二层，让我的团队成员与我onthesamepage，一起共同解决问题•第三层，这一层是组织需求，让我的团队成员与我onthesamepage，共享prompt的使用方法以及模板 陆奇博士：模型系统、信息系统 大模型产生真正生产力的基本逻辑，首先是服务业革命 适用于几乎所有行业，带来高质量、大规模、标准化的服务，将首先带来服务业革命。 大模型时代的IT从业者，AI时代的编程原理 混合动力生产力，大模型给我们所有程序员带来的礼物 第二部分：企业如何落地AI？ 其次，从信息到知识，大模型落地的核心是知识工程 机器学习vs人的学习 不论是人、还是大模型，有了通识知识，在“入职”企业之后，都还需要继续“OnJob Training”。 大模型Prompt和CoT的革命性意义 交互方式发生了革命性改变： •程序员：不需要通过大量的if else或其他控制语句来组合逻辑表达 •普通用户：通过自然语言描述意图，即可让大模型理解，并将其转化为代码 人工智能的世界出现了印刷术，人工智能的知识传播成为可能。 陈述性知识vs程序性知识 知识的分类 陈述性知识，解决“是什么”的问题。GPT不能做到的一些陈述性知识，最新的圈层人群，鞋服行业/熊猫圈 程序性知识，解决“怎么干”的问题。营销工作的一些方法论，利用这些内容写prompt会很不一样 小明Prompt助手——使用CRISPE五步法 大模型时代的企业知识管理 Azure Splitwise通过拆分prompt phase和token-generation phase提高GPU使用率 案例分享：知识库 最后，关注从生产力到生产关系的变革与匹配 从人工智障到人工智能 企业软件之间的衔接 IT系统功能与前台需求的智能匹配 DataAgent在组织中使用的价值和前提条件 第三部分：关于组织管理的一些思考自上而下vs自下而上 更大的闭环，智能时代的组织架构——人机协同 反思明略… 从EIP推广中获取的Learning：AI落地不能反人性 一个企业的长尾需求：解决非专业问题 机器与人的分工把最短的那块木板拉长 从自上而下到自下而上，使用好探索流 AI时代组织的思维方式,人类掌握评估标准的最终权力 人类永远比人工智能更加及时掌握自己和自己身边的信息 大模型时代的思维模式 第四部分：大模型对我们的影响对个人及孩子 北京德威学校的GPT使用要求 大模型对人才市场的影响 Transcriptionist/Typist速记人员Programmer程序员Data Scientist(data formatter)数据科学家（数据整形）PhotographerP图师Assistant(scheduling)助理（日常安排）Crowdworker(low skill)众包工作（低门槛）Writer内容写手 Software designer and tester软件设计测试师 Data Scientist(science)数据科学家（数据科学） Visual Prompter视觉提示工程师 Assistant(relationship management)助理（关系维护） Crowdworker(high skill)众包工作（高门槛） 大模型时代，每个人都是领导者 提升协同效率，解决企业系统中的same page问题 日常工作都是零散的。大模型能够真正地无代码赋能每一个一线员工，让大家每个人都有一个清华毕业的助理。 “小明助理“ ✓帮助大模型与团队解决same page的问题✓帮助团队之间解决same page的问题✓帮助企业和企业里面更多的员工拿到大模型的船票✓安全可靠，支持私有化部署，保护和持续积累企业的prompt资产 更新工作流程，介入阶段1及阶段2管理梯队当中 阶段1：员工到一线经理，需要完成“干活儿”到“分配下属干活，发挥1+1>2”职能转变；阶段2：一线经理到部门总监，需要依靠指导-表现评估-反馈循环（instruction-performance-feedback cycle），提升跨层级协作、产出能力。 “大模型成为工作流程中的一环“✓管理技能培训（担任coaching角色）✓辅助/取代一线经理开展工作（担任manager角色） 大语言模型，每个人的个人助理 THANKS 这 个 时 代 最 有 梦 想 的 人