大模型如何解决质量域问题
大模型具备赋能软件研发全流程的能力,包括需求文档、环境搭建、软件开发、质量测试等环节。在质量域下,大模型可应用于测试用例生成、测试断言生成、测试输入生成、质量知识查询、问答、故障定位/修复、线上问题总结分析等场景。大模型能够解决质量测试领域的问题,如测试覆盖率要求高、自动化难度大、人工成本高、全面准确地发现各种特殊情况与边界问题、经验密度大、业务特异性高等。质量测试领域呼唤质量大模型,通过LLMs作为知识中心、执行中心和服务中心,整合质量知识、业务经验、语言理解和质量工具调度,提升质量测试效率。
质量大模型的构建路径
质量大模型的构建路径包括数据构建、模型训练和部署应用三个阶段。数据构建阶段涉及非结构化数据和质量知识的清洗与增强;模型训练阶段包括继续预训练、指令微调和专业知识注入,以提升语言模型的多任务能力;部署应用阶段则通过端到端对话、检索增强问答和工具调用与执行等方式,实现大模型在实际场景中的应用。构建过程中需关注问题归因、数据飞轮、训练任务选取、指令构建、微调注意事项等关键点。
质量大模型在接口测试中的实践
接口测试的特点包括专业性、场景化和复杂性,对专家知识和经验要求高,人工成本和时间成本较高。质量大模型在接口测试中的应用包括校验点生成、业务知识问答和工具执行。校验点生成通过Prompt组装输入信息、推理步骤规范要求、任务所需的必要信息、接口名称、入参出参等,实现自动化校验点生成;业务知识问答通过知识文档知识分片爬取+切片嵌入模型工具向量库,实现知识增强问答;工具执行则通过对话形式调用工具,实现工作流开发工具集合的工具调度。
未来展望
未来,质量大模型将围绕“质量+大模型”的提效工作,开发垂类解决方案,构建大模型行业赋能框架。技术趋势包括浩如烟海的质量知识与业务经验、多样的质量任务、前置的问题发现、代码能力与问答能力的兼顾等。
质量大模型及其在接口测试场景下的实践
李庆泉蚂蚁集团
1.大模型如何解决质量域问题2.质量大模型的构建路径3.质量大模型在接口测试中的实践4.未来展望
目录CONTENTS
大模型如何解决质量域问题PART 01
大模型具有赋能软件研发全流程的能力
大模型在质量域下的应用场景
大模型能够解决质量测试领域的哪些问题?
质量测试领域呼唤质量大模型
端到端任务执行端到端任务执行
外部知识增强问答外部知识增强问答
质量大模型的构建路径PART 02
继续预训练——知识注入
训练材料:知识构建
指令微调——技能培训
关键问题:质量域中的许多任务都是以结构化数据为基础,如何用基于非结构化对话形式的大模型完成结构化数据任务?——解法在于如何针对特定任务设计指令并进行微调
应用方式——作为端到端Bot
以端到端对话形式执行质量任务
应用方式——作为工作流组件
大模型作为质量工作流当中的组件,为质量工具提供了丰富的泛化性和强大的生成能力,提升了质量工具的能力上限。以一个测试账号查询工作流为例:
大模型通过接受用户输入与数据表(表名、字段名称、字段描述、取值范围等)信息既可实现NL2SQL,节省了小模型训练的成本
质量大模型在接口测试中的实践PART 03
接口测试的特点与难题
质量大模型应用——校验点生成
输出
输入
质量大模型应用——校验点生成
质量大模型应用——业务知识问答
质量大模型应用——工具执行
未来展望PART 04
11
垂类解决方案垂类解决方案
22
大模型行业赋能框架大模型行业赋能框架
质量大模型技术趋势
➢浩如烟海的质量知识与业务经验
➢多样的质量任务
➢前置的问题发现
➢代码能力与问答能力的兼顾
THANKS