个性化大模型技术实践

个性化大模型研报总结

01 个性化大模型简介

• 核心观点：大模型个性化是必然趋势，个性化大模型应具备知识、个性、情感和记忆四位一体的类人对话智能体特征。
• 应用案例：天猫精灵上的“鸟鸟分鸟”个性化大模型体验超预期，AIoT行业有望迎来“寒武纪大爆发”。
• 能力展示：Modelscope创空间提供角色扮演和泛多任务化能力体验。

02 知识与个性化大模型

• 核心挑战：知识幻觉是个性化大模型应用的核心问题，表现为与事实不一致、无从考证等。
• 原因分析：数据重复、Bias、时效性；训练中的不完美表征学习、参数知识偏差；解码机制中的sampling问题。
• 解决方案：
  • 数据与模型：高质量数据和大规模模型。
  • 检索增强：互联网搜索引擎和私域知识检索增强，包括更优的搜索query生成、FAQ知识检索排序、多路召回机制，以及更丰富的指导信号（如Fusion-in-Decoder、多粒度GroundingEvidence预测）。
  • 训练数据：更大规模、更高质量、更多样的训练数据（如Books/Wiki/QA等高知识密度预训练数据、大规模高质量对话数据）。
  • 多任务学习：数据统一、模型统一的多任务学习。
  • 对话链路：可干预可运营的对话链路。

03 个性化大模型中的个性

• 核心观点：提升人设一致性的关键在于更强的基座模型、针对性数据增强、自动判别和反馈增强。
• 人格定义：
  • 粗粒度定义：BigFive和MBTI16分类法，因心理学理论性高，不适合数据标注和效果评估。
  • 细粒度定义：638 Personality Traits，更适用于数据标注和效果评估。
• 实验方案：
  • 目标：通过自然语言形式的人格组合描述控制对话风格，评估人格约束对基础对话体验的影响。
  • 评测指标：风格显著度、知识问答Acc/人设问答Acc/多轮顺畅性得分，采用人工pairwise标注。
• 实验结果：
  • 加入人格约束的影响：风格显著度提升（>10pt），多轮顺畅性略有损失（2～4pt），特定人格（如活泼可爱、诙谐风趣）表现均衡。
  • 不同人格表现：悲观沮丧、幼稚、强势又善变等人格在知识问答和多轮连贯性上表现不佳。
  • 提升风格显著度的要点：风格多样的预训练数据、细粒度人格分类及组合、复杂指令遵循能力的提升。

04 总结与展望

• 核心要点：
  • 个性化大模型需具备知识、个性、情感、记忆四位一体特征。
  • 提升数据质量、规模、模型大小、检索增强可减少知识幻觉。
  • 人格可控生成需支持细粒度人格定义及组合，但知识范围可控仍是挑战。
  • 人设幻觉问题需针对性数据增强和反馈增强。
  • 更逼真的角色复刻依赖更细节的自然语言指令遵循能力。
• 开源项目：ChatPLUG项目开源。
• AI治理：AI毒师计划招募垂直领域专家，构建AI治理中文数据集。