国投证券固收AI投研探索低成本本地记忆构建实践

一、核心要点

• 国投证券固收团队探索AI投研低成本本地记忆构建实践，针对AI智能工具应用痛点（多轮对话输入繁琐、长对话易丢失细节、历史对话无法复用）开展解决方案探索。
• 国内开源AI记忆机制多依赖大厂云服务，成本过高（如阿里记忆服务个人规模难以承受）。
• 探索两类解决方案：基于阿里、腾讯、华为开源项目构建定制化本地记忆机制；开发Deepseek Honeys插件实现不同AI工具历史记录互通与同步。
• 本地记忆数据库采用类似Honey机制，具备自然语言搜索能力，支持语义标签、对话摘要层，可定位具体内容片段。

二、工具效果对比

• Deepseek Honey AI Agent需导入本地对话数据，35分钟检索近7天工作内容，但存在数据依赖作弊嫌疑。
• 自主构建的Scale机制从三个数据源召回内容，2分钟（含工具调用5分钟）完成近7天工作检索，召回616个干货无冗余对话片段，细节更丰富，还能接管本地其他AI工具对话数据。

三、研究结论

• 自主构建的Scale机制透明化可复用，计划开源并以插件形式加入Deepseek Honey，为个人定制AI记忆工具提供思路，实现电脑本地运行、自动整理记忆、按需检索。
• 本地记忆机制适合5GB以内个人小体量数据，效果优于通用向量检索，成本极低（1年对话本地入库成本不到10元）。
• 初期开发出现缓存命中率低等问题，已通过优化缓存机制、利用夜间计算、选择适配模型等方式解决，VS Code自带记忆机制效果较好，后续将整合。

四、风险与关注

• 当前AI智能工具应用存在多轮对话输入繁琐、长对话丢细节、工具切换后历史对话无法复用的痛点。
• 国内开源AI记忆机制依赖大厂云服务，个人规模下成本过高。
• Deepseek Honey AI Agent存在数据依赖作弊嫌疑，可靠性需进一步验证。
• 从底层构建场景定制化AI工具虽效果良好，但初期token消耗大，需关注成本控制。

五、后续关注点

• 继续优化本地记忆机制，整合VS Code自带记忆机制，提升性能与效果。
• 推进Scale机制开源工作，以插件形式加入Deepseek Honey。
• 跟踪Deepseek Hunt相关插件的开发与上线进度，关注实际应用效果。
• 关注本地记忆机制的实际使用反馈，优化成本控制与功能适配。