金融工程专题报告：基于知识蒸馏的AI选股模型优化

核心观点

• 借鉴大语言模型蒸馏思想，将知识蒸馏技术应用于量化选股领域，实现选股模型优化升级。
• 选择成熟综合选股模型作为Teacher，用其预测值作为蒸馏标签，引导Student模型学习成熟模型中的收益预测信息，同时保留各自数据集的差异化增量。

蒸馏信号验证

• 模型蒸馏能够弱化低信噪比数据集的训练难度。
• 在30分钟K线数据集上，原始信号因子多头超额25.4%、5日IC均值9.3%，蒸馏信号因子多头超额提升至34.2%、5日IC均值提升至11.7%。
• 在日频量价特征数据集上，原始信号多头超额25.9%、5日IC均值10.4%，蒸馏信号多头超额提升至32.1%、5日IC均值提升至11.1%。
• 蒸馏信号相比原始信号在多头与IC两个维度均有明显提升。

模型构建

• 基于时序LSTM+截面图注意力基础架构构建Student模型。
• 分钟K线数据先经ResNet降维后进入时序网络。
• 基本面信息在时序网络之后、截面网络之前与隐藏层拼接。
• 以已验证有效的成熟综合选股模型作为Teacher，为蒸馏过程提供高质量监督信号。

蒸馏因子集成

• 基于5类数据集、按是否融合基本面信息各训练2次，共得到10组因子。
• 因子集合之间平均相关性约80%。
• 进一步采用LightGBM、Xgboost、CatBoost三类GBDT模型加权，三类预测结果平均相关性约90%。
• 蒸馏综合因子与基于原始标签训练的基准综合因子相关性约76%，增量信息显著；与Teacher因子值相关性约87%，较好地继承了成熟模型的特征表达。

综合因子绩效

• 基于蒸馏框架重构的AI综合因子，2021年以来5日IC均值13.0%，多头组合年化超额收益50.0%。
• 分域来看，因子在沪深300、中证500、中证1000成分股中的5日IC分别为8.5%、7.7%、10.3%，多头超额收益分别为27.0%、21.0%、27.7%。

指增策略

• 以综合蒸馏因子作为alpha打分，通过组合优化构建三大宽基指增组合。
• 2021年以来，沪深300指数增强组合年化超额收益12.8%，信息比2.88。
• 中证500指数增强组合年化超额收益15.8%，信息比2.99。
• 中证1000指数增强组合年化超额收益20.1%，信息比3.72。