百度AI营销中级认证 | 提示词的科学与艺术

2024百度AI营销认证中级公开课 致维科技杨琨Jul.2024 个人简介 杨琨 ✓14年互联网老兵✓亲身经历互联网营销领域的风起云涌潮起潮落✓拥有运营/平面设计/短视频/商务/研究院等多类型团队的管理经验✓百度认证营销专家/百度认证白金营销讲师 基础概念 基础概念说明 AIGC LLM Machine Learning 人工智能的分支领域,旨在使计算机系统能够从数据中学习和提高性能，机器学习通过从大量数据中自动学习模式、规律和知识，能够自主地做出预测、决策和推断 Large Language Model，大语言模型，指具有庞大参数和训练数据的语言模型，可用于自然语言处理，如文本生成、机器翻译、对话等，但生成式语言模型基于上下文的推理能力并未融合世界知识 AI Generated Content，人工智能分支，也称GenerativeAI，根据已学习内容生成新内容，AI通过对现有内容的学习（训练）创建统计模型，用户给出提示后，使用统计模型预测答案生成新内容 Deep Learning Pre-Trained Model Fine-tuning 一种机器学习方法，通过构建和训练多层神经网络来模拟和学习复杂的数据表达和特征。深度学习的优势在于它能够自动学习特征表示，并从大规模数据中发现复杂的模式和关系 预训练模型，先通过超大规模语料，采用无监督或弱监督的方式训练模型，然后在这个初步训练好的模型基础上，再继续训练或者进行微调，以适应广泛的下游任务 微调，是指在预训练模型的基础上，使用少量的新标记数据对模型进行进一步训练的过程。在微调过程中，预训练模型的权重会根据新数据进行调整，以适应新任务或新领域的特定需求 基础概念说明 提示工程 In artificial intelligence (AI),a prompt is input that's given to a提示词/“咒语”Prompt Prompt engineering is the process of using prompts to guidePrompt Engineering generative AI solutions to produce desired outputs. Becausegenerative AI tries to mimic humans, it needs detailedinstructions to create relevant and high-quality output. model to get a specific response.Prompts can be in many forms,including questions, keywords, instructions, code snippets, orcreative writing samples. 提示工程的必要性 有效的提示工程提供了诸多好处，可增强AI模型的能力及可用性 提高控制力 减少偏见及有害反应 增强用户体验 改进模型性能 精心设计的提示可提供清晰的说明和上下文，从而得到AI模型更准确、更相关和更丰富的输出 通过控制输入并引导AI的注意力，提示工程有助于减轻偏见（Bias）并降低生成不适当内容的风险 提示工程能够引导AI的行为方向，确保其响应可控、可预测，生成符合用户期望的结果 清晰简洁的提示词使用户更容易与AI模型进行有效交互，带来更直观、更令人满意的体验 大模型应用现状 PROMPT AI大模型能力及应用现状 脑筋急转弯测试 信息调用及理解测试 PROMPT AI大模型能力及应用现状 AI大模型能力及应用现状PROMPT 第三方资料搜索及分析总结能力测试 PROMPT AI大模型能力及应用现状 当下的AI大模型对初级使用者已经非常友好 迎合用户使用习惯，操作门槛下沉，使用更加简单便捷 既然如此为何还要 学习提示词撰写技巧？ 吴恩达的阐述了“指令优化”对大语言模型的重要性 ✓基础LLM已经过训练，模型基于文本训练数据预测下一个单词✓通常是在互联网和其他来源大量数据上训练✓受制于训练数据质量，可能输出有问题的文本 ✓指令调优LLM经过训练，可以遵循指令来进行预测✓首先从基础LLM开始，然后进一步训练，使用输入输出指令来进行微调（fine-tuning），然后使用人类反馈强化学习（RLHF）技术，从人类反馈中进一步改进，使系统能更好地遵循指令和提供帮助。✓指令调优LLM被训练成有用、诚实和无害的，因此不太可能输出有问题的毒害文本 基础大语言模型的三种优化方法—提示工程/RAG/微调 提示词优化（提示词工程）是最基础、也最容易上手的大语言模型调优方法。也是是用户与大语言模型进行交互，构建和理解大模型功能的重要技能！ 采用PromptEngineering时，LLM的工作流程从单纯的预测（predict）调整为预训练（pre-train）→提示（prompt）→预测（predict），帮助大模型缩小猜测范围，给出更准确结果 提示工程技术的逐步升级 少样本提示增加少量和推理任务相同的样例示例，引导模型获得更好的性能 CoTChain-of-Thought Prompt链式思考提示引导大模型学习人的思考路径，展示答案的思考过程，通过中间步骤实现复杂的推理能力；可组合为zero-shotCoT和few-shotCoT，以获得更好的结果 自我一致性 利用“自我一致性”解答鸽巢原理数学题 Self-Consistency 首先给出同一类型多个问题的推理路径和答案，利用生成结果选择全局最优的答案，有助于提高算术和常识推理任务中的性能。还可以与其他技术结合使用，如自我一致性思维链提示（CoT-SC） 最少到最多提示 让大模型自己找到解决当前问题的思维链；首先引导模型自上而下把问题拆分成若干子问题，再自下而上依次解决问题，逐一回答子问题，并把子问题的回答作为下一个子问题回答的上下文，循序渐进地解决问题，直到给出最终答案 思维树 ToTTree-of-Thoughts Prompt 让模型探索多个推理路径，把解决问题视作在一棵树上的搜索，树上的每个节点代表问题以及到目前为止的思考过程。通过考虑多种不同推理路径并进行评估，同时具备向前看跟向后回溯的能力以获得更佳决策选择 利用[自然语言]与大模型对话 理解模型能力挖掘模型潜力摸清模型局限 提示词撰写技巧 总体原则 心法 想象在给一个聪明博学但不了解具体任务内容的人下指令 ✓例如，如果你说“解释一下什么是百度智能体”，大模型会根据学习到的资料自由发挥；✓如果想得到更确定的结果，需要明确指出你希望文本更加关注在他的关键特征、适用场景、应用前景，还是其他方面；✓进一步，可以指定文本的风格，像科技媒体的报道，或是更像互联网大厂产品介绍的口吻；✓也可以设想一个特定身份，比如“一位互联网营销资深专家”，甚至给大模型投喂具体参考资料 针对大语言模型的提示词撰写技巧一览 策略一：设计清晰指令之”细节给足” BAD BETTER 策略一：设计清晰指令之”细节给足” BEST 策略一：设计清晰指令之”细节给足” 明确各项细节的提示词输入 输出结果有瑕疵但大体靠谱 策略一：设计清晰指令之”角色扮演” 无身份设定 身份设定+风格建议3 直接在任务提示词中为大模型设定好“角色扮演”或明确想要的“语言风格” 策略一：设计清晰指令之”角色扮演” 互联网风格 严肃媒体风格 除了直接在任务提示词中指明大模型的角色扮演，亦可在发起任务前，预先调好大模型的“人格设定” 策略一：设计清晰指令之”标点使用” 建议 不建议不加标点分割 规范使用常规标点 关于”””和XML标签使用 随着AI大模型能力进化，实测以上两种标点符号在中文大模型中不使用亦可 注意：段落区分也需要注意，善用Shift+Enter 策略一：设计清晰指令之”长度指定” 可以指定大模型⽣成特定答案的⻓度⽐如字数、句⼦数、段落数、要点数等等，输出有字数限制 注意：输入提示词也会受到字数限制！ 策略一：设计清晰指令之”格式指定” Markdown/HTML PPT/WORD大纲 Python/图片 策略一：设计清晰指令之”格式指定” 数学公式 除了文本和图片，AI大模型目前可支持多种格式输出还在不断进化中……也许未来可以期待音频/视频输出的支持！ 掌握基本规则熟悉模型功能特点了解自己[该]做什么 策略二：引导模型思考之”资料参考” 经典话术 我刚发送（x份）了（xxx）给你做参考，请按照参考资料/请仅根据所提供的参考资料回答问题/输出xxx。 回答时可引用参考资料内的段落。如果资料内不包含回答此问题所需的信息，则只需写：“信息不足”。如果提供了问题的答案，必须附有引文注释。 策略二：引导模型思考之”资料参考” 设置陷阱问题 3.8万字的论文，文心一言4.0 turbo阅读理解时间≤3分钟并能准确根据参考资料抓取关键信息正确回答问题 成功避开陷阱 策略二：引导模型思考之”资料参考” 笼统空洞 策略二：引导模型思考之”资料参考” 流程基本理解叠加靠谱修正 流程图/示意图也可提供 AI的理解程度很大程度上取决于所提供图片的清晰易懂程度 策略二：引导模型思考之”资料参考” × × 遇到不够流程化、不够逻辑清晰的图片时，模型解读能力有限 策略二：引导模型思考之”资料参考” 叠加参考文档后，AI对于原图片中结构图的理解突飞猛进，虽有瑕疵但质量显著提升参考资料对AI的增益明显 策略二：引导模型思考之”任务拆解” 空洞的大纲 泛泛而谈缺乏可操作性 策略二：引导模型思考之”任务拆解” 细节精准性尚有不足但“指导”雏形已现 策略二：引导模型思考之”任务拆解” 化整为零而非贪多求全 如任务较复杂，可按模块将大任务拆解为各子任务，便于AI大模型针对各子任务一一进行输出质量的打磨； 通过一条笼统而粗略的提示词就得到一份高质量、合乎要求的内容输出实属极小概率事件 LtMLeast-to-Most Prompt 策略二：引导模型思考之”循序渐进” 步骤指导 AI很多时候无法“一蹴而就”，需要一步步来 给提示后迎刃而解 出现“幻觉” 策略二：引导模型思考之”监督反馈” 粗心大意 恍然大悟 策略二：引导模型思考之”监督反馈” 做监督大模型思维过程的“导师” 很多时候需要先令模型对问题进行自己的详细推理适当干预模型思考步骤/方式，纠正其错误 策略二：引导模型思考之”多轮改进” 卖点不突出 平庸风格不搭1 策略二：引导模型思考之”多轮改进” 顺应季节性 更自然的 卖点融合 策略二：引导模型思考之”多轮改进” 精简字数 大家好，今天我给大家带来的是这款超级给力的“度度保温杯”！ 你们知道吗，这款保温杯的最大亮点就是大容量设计，无论是上班、上学还是户外运动，一次能装足够多的水量，再也不用频繁给杯子补水啦！而且，它的保温性能简直好到爆炸，无论是冷饮还是热饮，它都能长时间保持理想的温度，让你的饮品始终保持最佳口感。 还有啊，这款保温杯的便携性也是一流的，携带方便，密封性好，不用担心会漏水。无论你是放在包里，还是挂在自行车上，它都能稳稳地陪伴你左右。 亲们，想一想，在寒冷的冬天，能随时喝到热水；在炎热的夏天，又能随时享受到冰爽的冷饮，这是多么惬意的事情啊！而且，有了这个大容量、保温又便携的度度保温杯，你走到哪里都能轻松享受到这种惬意。 家人们，别再犹豫了，快来把这个实用又贴心的度度保温杯带回家吧！它绝对是你日常生活中的好伙伴，让你随时随地都能喝到温度刚刚好的饮品。赶紧下单，给自己的生活添点小确幸吧！ 终版输出 引导大模型输出内容逐轮优化 做一个循循善诱的导师，每轮次解决1-2个重点问题 摒弃“懒汉思维”人