下一代RAG引擎的技术挑战与实现

下一代RAG引擎

• RAG架构模式：当前RAG面临向量召回不足、文档结构复杂导致数据质量差、问题与答案文档关联性低三大挑战。
• 下一代RAG架构：提出Infinity + RAGFlow = Infiniflow的解决方案。

数据抽取模型

• 调整抽取模型的RAGFlow对比：通过优化数据抽取模型提升RAG效果。
• 表格识别模型：需解决单元格边界判定、表头信息判定、单元格合并判定、表格跨页判定等问题。
• 文档“大”模型：探讨“雕花”模型与多模态LLM的选择。

混合搜索

• Indexing Database：对比不同RAG数据库的选型。
• Benchmark：进行RAG数据库性能基准测试。
• 几路召回：讨论召回策略的选择。
• 排序模型：分析ColBERT排序模型的收益，探讨ColBERT ranker与reranker的应用。
• 延迟交互是RAG的未来：强调延迟交互在RAG中的重要性。
• answerai-colbert-small-v1：基于JaColBERT的33M参数模型，性能超过BGE 110M模型，每个Token 96维，Binary量化后每个Token 12 byte。

高级RAG

• Agentic RAG——复杂问答：利用Agentic RAG解决复杂问答问题。
• 知识图谱：结合知识图谱提升RAG能力。

下一代RAG平台

• 展望下一代RAG平台的发展方向。