盘古大模型最佳实践案例列表
本文档汇总了盘古大模型服务的常见应用场景，并为每个场景提供详细的方案描述和操作指南，以帮助用户在ModelArts Studio大模型开发平台中轻松搭建业务。
提示词写作实践
提示词是与大模型进行交互的输入，通过设计和优化提示词可以引导大模型生成目标结果。提示词写作的常用方法论包括：
- 打基础：先制定一个能够明确表达主题的提示词，再逐步增加细节和说明。
- 补说明：对任务进行补充说明，如补充任务要求、规范输出的格式等。
- 搭结构：提示词的结构需要尽可能直观，适当的换行将提示词的内容结构拆分体现出来。
- 排顺序：在提示词中内容的顺序也很重要，将关键信息放在结尾处，模型输出效果更好。
- 补预设：当任务存在多个情境时，编写提示词时需要考虑全面，需要做好各种情境的预设，告知模型对应策略。
提示词写作的进阶技巧包括：
- 设置背景及人设：结合领域专业知识，增加人设可以让生成的内容更符合该领域需求。
- 理解底层任务：站在模型的角度理解相关任务的真实底层任务，并清晰描述任务要求。
- CoT思维链：对于复杂推理问题，通过给大模型示例或鼓励大模型解释推理过程，可以引导大模型生成准确率更高的结果。
- 考察模型逻辑：通过反问模型答案生成的逻辑或提问模型是否理解任务要求，考察模型生成的逻辑，提升模型思维过程的可解释性。
提示词应用示例包括：
- 应用提示词实现智能客服系统的意图匹配
- 应用提示词生成面试题目
构建数据集实践
构建数据集是模型训练的基础，本文档介绍了构建NLP大模型增量预训练数据集和微调数据集的实践方法，包括：
- 获取源数据：介绍了常用数据来源，如网页、对话、书籍、代码、学术论文、开源数据集等，以及数据获取方法，如公开API、爬虫技术、购买/授权数据等。
- 预处理数据：介绍了数据预处理操作步骤，如将文本处理为JSONL格式等。
- 导入数据：介绍了在ModelArts Studio大模型开发平台导入数据的步骤。
- 加工数据集：介绍了数据加工功能，包括数据加工、数据合成和数据标注关键操作，以及数据配比的方法。
- 评估数据集：介绍了数据评估的方法，包括质量评估和代表性评估。
- 配比并发布数据集：介绍了不同数据源与大语言模型某些特定能力的学习具有紧密的联系，根据来源不同，预训练数据主要分为两种类型：通用文本数据和行业文本数据，以及数据配比和发布数据集的步骤。
模型训练实践
本文档介绍了盘古NLP大模型增量预训练实践、微调训练实践、模型蒸馏实践和盘古科学计算大模型微调训练实践的实践方法，包括：
- 增量预训练场景介绍：介绍了增量预训练的作用和场景，以及增量预训练的步骤，包括构建增量预训练数据集、构建增量预训练任务、构建部署任务、构建模型评测任务、分析评测结果并优化模型、增量预训练典型问题等。
- 微调场景介绍：介绍了微调的作用和场景，以及微调的步骤，包括构建微调训练任务数据集、构建微调训练任务、构建部署任务、构建模型评测任务、分析评测结果并优化模型、微调典型问题等。
- 模型蒸馏实践：介绍了模型蒸馏的作用和场景，以及模型蒸馏的步骤，包括构建模型蒸馏数据集、构建模型蒸馏训练任务、构建部署任务、构建模型评测任务、分析评测结果并优化模型、模型蒸馏典型问题等。
- 科学计算大模型微调训练实践：介绍了科学计算大模型微调训练的步骤，包括构建微调训练任务数据集、构建微调训练任务、构建部署任务、构建模型评测任务、微调典型问题等。
模型调优实践
模型调优是提升模型效果的重要手段，本文档介绍了盘古NLP大模型调优实践和盘古科学计算大模型调优实践的实践方法，包括：
- 模型调优方法介绍：介绍了模型调优的步骤，包括训练数据的优化、训练超参数优化、提示词优化以及推理参数优化。
- 优化训练数据的质量：介绍了数据加工和数据增强的方法，以及调整数据配比的方法。
- 优化训练超参数：介绍了学习率参数的调优策略。
- 优化提示词：介绍了提示词优化的方法和技巧，以及提示词优化实例。
- 优化推理超参数：介绍了推理参数的调优方法和技巧。
- 调优典型问题：介绍了模型调优过程中常见的典型问题，如模型回答重复、出现乱码、异常中断、只能回答在训练样本中学过的问题、评估结果很好，但实际场景表现却很差、多轮问答场景效果不好、数据量满足要求，为什么微调后的效果不好等。
Agent应用实践
本文档介绍了零代码构建AI研读研究助手和低代码构建智能助教工作流的实践方法，包括：
- 方案设计：介绍了方案的设计背景、节点设计、效果展示等。
- 构建流程：介绍了构建流程的准备工作、操作流程、创建应用、编写提示词、添加技能、设置开场白、调试应用等。
- 典型问题：介绍了构建和运行Agent应用时可能遇到的典型问题，如引用类型的参数值显示为空、试运行报错等。
