当前位置：首页 > news >正文

多模态RAG技术总结及知识图谱构建分割+抽取+验证三阶段思路

news 2026/6/30 11:38:37

文章介绍了组合式多模态RAG技术演进与知识图谱构建方法。多模态RAG涵盖预检索、检索、增强和生成四个阶段，包含多种模态组合与实现策略；OntoMetric框架通过结构感知分割、本体引导抽取和两阶段验证，将ESG政策文档转化为结构化知识图谱，解决实体不一致与关系幻觉问题。

继续看技术进展，看RAG进展，看一个组合式多模态RAG总结性梳理，看看这块有哪些思路。

另一个是知识图谱构建进展，看看一个分割+抽取+验证做知识图谱构建思路-OntoMetric

多总结，多归纳，**多从底层实现分析逻辑，**会有收获。

一、组合式多模态RAG总结性梳理

RAG作为一种范式，可以灵活扩展，可以来个暴力组合，写综述。变成从文本RAG到多模态输入-文本输出，再到多模态输入-多模态输出的一个演进。

这块，看一个技术总结，如《A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and Output》，https://doi.org/10.36227/techrxiv.176341513.38473003/v2，https://github.com/INTREBID/Awesome-MM-RAG，所有可能使用的模态组合作为输入和输出，包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。一共54个。

看几个点。

1、看不同输入输出组合的代表方案

2、看核心流程

如下所示，看看几个核心流程：

预检索阶段，关键操作是知识库准备（4种组织方式：单模态嵌入、成对存储、统一嵌入、图构建）和查询准备（5种优化技术：扩展、改写、转换、dropout、多查询）；

检索阶段，关键操作是检索器选择（稀疏、密集、其他3类）、策略制定（混合、分层等）和时机控制（单次、迭代、自适应3种），常用方法包括BM25、CLIP、混合检索；

增强阶段，关键操作是上下文处理（重排序、选择、压缩）和优化（噪声注入、融合），常用方法有FiE（编码器内融合）、FiD（解码器内融合）；

生成阶段，关键操作是生成器构建（5大组件）和增强（提示工程、MLLM微调），常用方法包括StableDiffusion（图像生成）、LoRA微调。

3、看训练策略

训练策略分为两类。

一类是参数冻结策略：直接复用现成模块，无参数更新，适用场景为快速部署、数据标注不足或低计算资源环境，代表研究有PICa、VideoRAG，优势是训练成本低、组件复用性强，劣势是任务适配性有限；

一类是参数可训练策略：包含模块化训练（独立优化各组件，适用场景为需针对性提升特定组件性能的场景，代表研究有VisRAG、RACC，优势是灵活度高、易维护，劣势是组件协同性不足）和端到端训练（联合优化检索器与生成器，适用场景为追求最优系统性能的场景，代表研究有RA-VQA、ReVeaL，优势是性能最优，劣势是计算成本高、部署灵活度差）。

二、分割+抽取+验证做知识图谱构建思路-OntoMetric

继续看一个知识图谱构建的思路，背景是SASB、TCFD、IFRSS2等框架要求企业报告大量ESG指标，相关规则嵌入长文本、非结构化PDF，包含定义、公式、单位等复杂信息，但是人工提取耗时、易错、难以应对框架更新。传统自动化关键词匹配/手工规则缺乏语义覆盖，无法处理复杂依赖。

无约束LLM提取容易出现实体不一致、关系幻觉、缺失溯源，验证失败率高，现有ESG本体又仅含形式化schema，缺乏自然语言描述。

所以，可以细分下实现，拆成多步。

具体的看这个工作《OntoMetric: An Ontology-Guided Framework for Automated ESG Knowledge Graph Construction》(https://arxiv.org/pdf/2512.01289)，搞了一套“自动把ESG政策文档变成规整可用的知识图谱”的流程，核心是用“先拆分、再提取、后校验”的思路解决“文档乱、提取不准、没法审计”的问题。

1、结构感知分割，基于目录（TOC）边界划分文档

ESG政策文档（比如SASB、TCFD）都是几百页的PDF，直接扔给AI提取容易乱。

所以先按文档自带的“目录”拆分，比如“绿色气体排放”“数据安全”这些章节，each章节作为一个“小块”。每个小块都记着自己来自文档的哪几页、原来的标题，方便后续追溯来源。

具体实现上，步骤为：step1.识别目录页面与标题，确定自然分割边界；->step2.合并跨页表格，清理布局冗余；->step3.保留片段标题、页面范围、sectionID等元数据；->step4.确保片段为完整概念单元（如指标定义、公式）

2、本体引导LLM提取

抽取上，如下：

先告诉AI要提取5类信息（实体）：行业（比如银行业）、披露框架（比如SASB）、分类（比如环境类指标）、具体指标（比如碳排放强度）、计算模型（比如碳排放怎么算）；也就是一个是ESGMKGschema，包括5类实体（Industry、ReportingFramework、Category、Metric、Model）、5类关系谓词、7条结构规则；再定好这些信息之间的关系（比如“银行业”用“SASB框架”，“SASB框架”包含“环境类指标”）；

给一个固定模板，让它把提取的信息填成结构化的JSON（比如指标名称、单位、描述都按固定字段填），一个是提示词设计，含系统上下文、本体连接图、实体定义等9个组件；

提取时记着每个信息来自哪个小块、哪一页，避免后续找不到源头。

最后把所有小块的提取结果合并，去掉重复的信息，解析JSON、添加溯源元数据、跨片段整合（ID解析+实体/关系去重）。

3、两阶段验证

为了解决实体不一致、关系幻觉、缺失溯源、验证失败率高的问题，缓解思路是语义验证+规则化schema验证来实现。

两阶段验证层：先通过LLM校验实体类型匹配度，再用6条规则检查结构合规性，剔除幻觉内容；同时全程保留片段/页面级溯源，解决溯源缺失问题。

拆开来看这个验证问题：

两阶段验证分为语义验证（Phase1）和schema验证（Phase2），两阶段结合使验证后的知识图谱同时满足语义正确性与结构有效性。

一个是语义验证，由LLM执行，核心作用是校验每个实体的标签和描述是否与其分配的ESGMKG类型匹配，直接剔除类型错误的实体及依赖关系，解决“实体类型幻觉”问题，减少后续无效校验，例如确认提取的“碳排放强度”确实是ESG指标，而不是财务指标（比如净利润），防止类型认错；

一个是schema验证，基于6条预定义规则执行，核心作用是保障结构合规性，具体包括：

1）实体验证，实体ID必须全局唯一；

2）实体验证，实体需包含类型特定的必填字段；