DeepRAG：中科院、中科大、腾讯联手打造AI新框架

“`markdown

DeepRAG：中科院、中科大与腾讯微信AI部联合推出，革新检索增强生成框架

北京讯 – 在人工智能领域，检索增强生成（RAG）框架正日益成为提升大型语言模型（LLMs）性能的关键技术。近日，由中国科学院、中国科学技术大学以及腾讯微信AI部联合研发的DeepRAG框架正式发布，为RAG技术带来了全新的突破。该框架通过引入“检索叙事”和“原子决策”等关键组件，实现了结构化和自适应的检索流程，显著提升了LLMs在推理和检索任务中的表现。

DeepRAG：动态决策与结构化检索的融合

DeepRAG的核心在于其动态决策机制。与传统的RAG方法不同，DeepRAG能够根据当前状态动态决定是否需要检索外部知识，或者仅依赖模型自身的参数知识进行推理。这种动态决策避免了不必要的检索操作，提高了检索效率，并有效减少了噪声和推理延迟。

此外，DeepRAG还引入了“检索叙事”（Retrieval Narrative）的概念，确保检索过程的结构化和自适应性。模型会根据之前检索到的信息生成新的子查询，逐步推进推理过程，从而更好地处理复杂查询。

技术原理：马尔可夫决策过程与二叉树搜索

DeepRAG的技术原理基于马尔可夫决策过程（MDP）建模。该框架将检索增强推理过程建模为MDP，状态包括输入问题和到目前为止的子查询及其中间答案。模型需要做出两个关键的子决策：

• 终止决策（Termination Decision）： 决定是否继续生成下一个子查询，或者直接生成最终答案。
• 原子决策（Atomic Decision）： 决定是否检索外部知识，或者仅依赖模型的参数知识。

DeepRAG还采用了二叉树搜索方法，为每个子查询构建推理路径。对于每个子查询，模型生成两个分支：一个分支基于参数知识直接生成答案，另一个分支通过检索外部知识生成答案。通过这种方式，模型探索不同的检索策略，生成从初始问题到最终答案的完整推理路径。

知识边界校准：提高答案准确性和可靠性

DeepRAG还引入了“校准链”（Chain of Calibration）方法，帮助模型更准确地识别自身知识的边界。模型能更好地判断何时需要检索外部知识，何时可以依赖自身的知识进行推理，从而提高答案的准确性和可靠性。

性能卓越：开放域问答数据集上的显著提升

实验结果表明，DeepRAG在多个开放域问答数据集上显著提高了答案的准确性，平均提升幅度高达21.99%，同时减少了检索次数，优化了检索效率。此外，DeepRAG在时间敏感和分布外的问答任务中也表现出良好的泛化能力和鲁棒性。

应用场景广泛：从智能客服到医疗健康咨询

DeepRAG的应用场景十分广泛，包括：

• 开放域问答： 处理复杂的多跳问答任务，通过逐步分解问题并动态检索相关信息，生成准确的答案。
• 知识库问答： 结合外部知识库（如维基百科）和模型自身的知识，提供更准确的答案。
• 智能客服与虚拟助手： 应用于智能客服系统，通过动态检索和推理，提供更准确、更及时的客户支持。
• 教育与学习辅助： 帮助学生和教师获取更准确的知识和信息，根据学生的学习进度和需求，动态生成学习材料和练习题。
• 医疗健康咨询： 用于医疗健康咨询，通过检索最新的医学研究和临床指南，提供准确的健康建议。

项目地址与技术论文

感兴趣的读者可以通过以下链接获取更多关于DeepRAG的信息：

• arXiv技术论文： https://arxiv.org/pdf/2502.01142

结语

DeepRAG的发布标志着RAG技术发展的一个重要里程碑。其动态决策、结构化检索和知识边界校准等特性，为提升LLMs在复杂推理和检索任务中的性能提供了新的思路。随着人工智能技术的不断发展，DeepRAG有望在更多领域发挥重要作用，为人们的生活和工作带来便利。

参考文献

• DeepRAG: Retrieval-Augmented Generation with Deep Reinforcement Learning. (2024). arXiv preprint arXiv:2502.01142.
  “`

>>> Read more <<<

Views: 5