基于知识图谱的商品营销文案自动生成实践 - 李浩然 京东

京东科技商品营销文案自动生成实践总结

导言

• 京东科技商品营销文案自动生成全景：通过输入品牌、商品要素（如频率、类型、颜色）、商品知识图谱、商详页文本、商品标题、商品图片等信息，利用文本编码器、图片编码器、解码器及预训练语言模型等技术，输出包含卖点与要素的商品营销短文。
• 落地应用：应用于京东APP发现好货、社交APP京粉搭配购、导购机器人等场景，实现单商品和多商品文案自动生成，以及直播机器人应用。
• 可控文本生成：介绍可控文本生成技术，通过增删/修改输入文本、词表控制、模型初始化、辅助任务等方式实现可控文本生成。
• 面临的挑战：基础挑战包括重要性、非冗余性、可读性；进阶挑战包括多样性、忠实性、内容丰富性。解决方案包括基于商品要素和多模态的多样性控制、基于商品知识图谱的忠实性控制、基于通用知识图谱的内容丰富性控制、基于领域知识预训练的拟人化控制。

基于商品要素的多模态商品文案生成

• 多样性与单调性：对比多模态与纯文本模型在描述商品外观和功能上的效果。
• 多模态商品文案生成：多模态模型Aspect-Aware Multimodal Summarization for Chinese E-Commerce Products优于纯文本模型，提升外观描述效果。
• 商品要素：通过模型改进，描述重要商品要素（如能效、产品类型），避免冗余信息，实现流畅的商品要素表达。

基于电商知识图谱的商品文案生成

• 知识图谱指针：通过On the Faithfulness for E-commerce Product Summarization研究，利用知识图谱指针更准确描述商品属性，改进复制机制。
• 解决商品知识图谱缺失问题：多模态商品知识图谱补齐Multimodal Joint Attribute Prediction and Value Extraction for E-commerce Product研究，通过多层次利用视觉信息增强文本语义理解，提升属性类别识别和属性值抽取效果。
• 通过复制机制提高商品文案忠实度：改进复制机制，提高商品文案对商品属性的忠实度。

基于通用知识图谱的商品文案生成

• 商品知识图谱与通用知识图谱的互联：通过通用知识图谱编码，为文本生成模型引入更多知识。
• 通用知识图谱：使用通用知识图谱的模型输出更丰富，提升商品描述的准确性。
• Token类别向量：通过区分输入信息类型，使文本生成模型更精确描述商品类别。

基于领域知识的预训练语言模型

• 大模型参数的「新摩尔定律」：大型语言模型规模每年以10倍速度增长，从Transformer到GPT-3等模型。
• 从通用模型到面向知识的模型：通用语言模型预训练，领域知识增强的语言模型预训练，通用知识增强的语言模型预训练。
• K-PLUG模型框架：定义领域知识（商品知识图谱、商品要素知识、商品类别知识、商品卖点知识），围绕领域知识的预训练任务包括知识掩码语言模型任务、知识掩码文本生成任务、商品要素边界检测任务、商品类别分类任务、商品卖点短语/句生成任务。
• K-PLUG模型的优势：相比非预训练模型和通用预训练模型，K-PLUG模型生成的商品文案在ROUGE得分、长度、审核通过率方面均表现更优，拟人化更好，描述更丰富，可信度更高。