提示工程

信息技术 2025-08-24 李·布恩斯特拉 Google @·*&&

提示工程是设计高质量提示的过程，以引导大型语言模型（LLM）生成准确输出。这个过程涉及调整提示长度，并评估提示的写作风格和结构与任务的相关性。
LLM 输出配置包括输出长度、抽样控制（温度、Top-K 和 Top-P）等设置，这些设置会影响 LLM 的输出风格和内容。
提示技术包括一般提示/零样本提示、一次性与少量样本、系统、上下文和角色提示等，每种技术都适用于不同的任务和场景。
最佳实践包括提供示例、设计简约、使用说明而非限制、控制最大令牌长度、在提示中使用变量、尝试不同的输入格式和写作风格、适应模型更新、尝试不同的输出格式等，这些实践可以帮助提高提示的有效性。
自动提示工程可以减轻对人类输入的需求，并增强模型在各项任务中的表现。
代码提示可以帮助 LLM 编写代码、解释代码和翻译代码。
调试和代码审查提示可以帮助 LLM 发现代码中的错误并提供改进建议。
多模态提示使用多种输入格式来引导 LLM，例如文本、图像、音频、代码等。
记录各种提示尝试对于 CoT 提示、设置温度为 0、CoT 最佳实践、记录各种提示尝试等非常重要，这可以帮助我们了解哪些提示有效，哪些提示无效，并不断改进提示的质量。

温度控制了代币选择的随机程度。较低的温度适合期望更确定性响应的提示，而较高的温度可能导致更多样化或意外的结果。
Top-K 和 Top-P是限制预测的下一个标记只能来自具有最高预测概率的标记的采样设置，它们控制了生成文本的随机性和多样性。
**思维链（CoT）**提示通过生成提示信息来提升 LLM 的推理能力，中间推理步骤有助于 LLM 生成更准确的答案。
自我一致性结合采样和多数投票来生成多样化的推理路径并选择最一致的答案，它提高了由 LLM 生成的响应的准确性和连贯性。
**思维树（ToT）**概括了 CoT 提示的概念，它允许 LLM 同时探索多个不同的推理路径，并选择最常见的答案。
ReAct通过将推理和行动结合成一个思维-行动循环来执行工作，LLM 首先对问题进行推理并生成行动计划，然后，LLM 执行计划中的行动并观察结果，LLM 随后利用观察结果来更新其推理并生成新的行动计划。