aashiqmuhamed/RefusalBench-GaRAGe

RefusalBench-GaRAGe是一个多文档诊断基准，用于评估检索增强生成（RAG）中的选择性拒绝能力：即基于基础的语言模型在检索到的段落支持可靠答案时回答，否则以正确理由拒绝。该基准是论文《RefusalBench: Generative Evaluation of Selective Refusal in Grounded Language Models》中发布的两个基准之一。每个实例对已验证可回答的GaRAGe问题应用了176种语言扰动杠杆（6个不确定性类别 × 3种强度），其上下文被标准化为10个段落（信号+噪声），然后通过一个要求一致同意的4模型生成-验证管道进行过滤。数据集包含1,506个实例（单个测试分割），基于91个源GaRAGe问题，涵盖5个领域。任务要求模型根据查询和10个基础段落输出答案（引用段落）或单个拒绝代码，地面真实标签为expected_rag_behavior。拒绝代码包括REFUSE_AMBIGUOUS_QUERY等，扰动类别包括P-Ambiguity等。数据分布自然不平衡，反映了每种扰动类型通过一致验证的频率。

RefusalBench-GaRAGe is a multi-document diagnostic benchmark for evaluating the selective refusal capability of retrieval-augmented generation (RAG): i.e., grounded language models will answer when retrieved passages support a reliable answer, and refuse to answer with correct justifications otherwise. This benchmark is one of the two benchmarks released in the paper *RefusalBench: Generative Evaluation of Selective Refusal in Grounded Language Models*. Each instance applies 176 language perturbation levers (6 uncertainty categories × 3 intensity levels) to a verified answerable GaRAGe question, whose context is standardized to 10 passages (signal + noise), before being filtered via a 4-model generation-verification pipeline that mandates unanimous agreement. The dataset comprises 1,506 instances (single test split), built upon 91 source GaRAGe questions across 5 domains. The task requires models to output either an answer (with cited passages) or a single refusal code based on the given query and 10 grounding passages, with the ground-truth label being "expected_rag_behavior". Refusal codes include REFUSE_AMBIGUOUS_QUERY and other similar codes, while perturbation categories include P-Ambiguity and other similar categories. The data distribution is naturally imbalanced, which reflects the frequency with which each perturbation type passes the unanimous verification.

搜集汇总

数据集介绍

构建方式

RefusalBench-GaRAGe是一个针对检索增强生成（RAG）中模型选择性拒答能力进行诊断的多文档基准数据集。其构建基于从GaRAGe数据集中精心筛选的91个经人工验证的可答问题，覆盖健康、法律、科学、商业及金融五大领域。每个问题的上下文被标准化为10个段落（包含信号与噪声）。随后，研究团队应用了176种语言扰动杠杆，涵盖6种不确定性类型（如歧义、矛盾、信息缺失等）及3种扰动强度，生成大量候选实例。这些实例经由四模型（Claude-4-Sonnet、DeepSeek-R1、GPT-4o、Nova-Pro）生成器与验证器构成的流水线进行严格筛选，仅保留获得全体一致通过的样本，最终形成1506个高质量的测试实例，确保了数据的可靠性与诊断价值。

特点

该数据集的核心特点在于其精心设计的自然不平衡分布与多维度的标签体系。每个实例均标注了扰动类型、强度及预期的RAG行为（如正确回答或特定类型的拒答代码），为模型的选择性拒答能力提供了细粒度的评估维度。数据集中包含了丰富的元信息字段，如源问题标识、扰动杠杆、模型生成理由及验证者投票等，便于研究者进行深入的分析与消融实验。此外，来自180个样本的专家人工验证达到了88.3%的通过率，彰显了其构建过程的严谨性与数据质量。

使用方法

RefusalBench-GaRAGe的使用简洁明了，主要通过Hugging Face的datasets库加载。研究者可直接调用`load_dataset`函数获取测试集，每一行数据提供了模型输入所需的`query`字段和含10个段落的`grounding`字段，以及用于评估的`expected_rag_behavior`地面真值。评估时，对于可答实例采用GaRAGe的RAF（相关性感知事实性）得分，而对于需要拒答的实例，则通过匹配预测的拒答代码与真实类别进行评分。值得注意的是，数据中的`implementation_reasoning`字段揭示了预期行为，仅供分析透明度使用，不应在测试时输入给模型。

背景与挑战

背景概述

RefusalBench-GaRAGe是由Aashiq Muhamed及其合作者于2026年EACL会议提出的多文档诊断基准，旨在评估检索增强生成（RAG）系统中语言模型的选择性拒绝能力。该数据集由亚马逊AWS AI研究团队主导构建，核心研究问题聚焦于当检索段落无法支撑可靠答案时，模型能否以正确理由进行拒绝，而非盲目回答。作为RefusalBench系列的重要组成部分，它基于GaRAGe数据集，通过176种语言扰动杠杆在六个不确定性类别上生成测试实例，并经过四模型一致验证确保质量。其发布为RAG系统的可靠性评估提供了标准化工具，对推动可信赖人工智能的发展具有显著影响力。

当前挑战

该数据集所解决的领域核心挑战在于RAG模型在信息不完整或矛盾时难以正确拒绝回答，导致生成不可靠输出。具体而言，模型需区分六种不确定性类型（如矛盾上下文、缺失信息、虚假前提等），并精准匹配对应的拒绝代码，这对当前语言模型的细粒度语义理解构成严峻考验。在构建过程中，挑战主要体现在：从100个GaRAGe问题中通过四模型一致验证筛选出1506个实例，需确保扰动生成质量与标注一致性；同时，数据分布天然不平衡，反映了不同扰动类型通过验证的难度差异，这为模型评估带来了统计偏差的控制难题。

常用场景

经典使用场景

在检索增强生成（RAG）系统的评估中，RefusalBench-GaRAGe被视为诊断选择性拒绝能力的标杆性基准。该数据集为每个查询提供了经过精细扰动处理的十篇检索文档，要求模型在充分理解上下文的基础上判断是否具备可靠答案，并在缺乏充分证据时以精确的拒绝理由做出回应。经典使用场景聚焦于评估大规模语言模型在涉及多重信息源、语义歧义、矛盾信息等复杂情境下的拒绝推理能力，所涵盖的176种语言扰动杠杆从模棱两可的查询到虚假前提、粒度错配及认知失调等六类不确定性因素均做了系统覆盖。这种设计让研究者能够以量化方式测试模型不仅能否正确作答，更关键的是能否在无法给出可信答案时理性地选择拒绝，并注明具体否定成因。

衍生相关工作

RefusalBench-GaRAGe的诞生催生了一系列围绕选择性拒绝与不确定性感知的前沿研究脉络。核心论文本身提出的基准框架后续拓展到单文档情景下的姐妹数据集RefusalBench-NQ，二者共同构成了多层次的评估体系。伴随该基准的发布，众多研究者将目光投向如何设计更精细的拒绝推理策略，例如基于置信度校准的拒绝决策模型、利用细粒度拒绝类别指导的指令微调方法，以及针对不同扰动类型分层优化的RAG管线设计。同时，其采用的176种语言扰动杠杆成为后续工作中构造多样化测试样例的模板，促成了对模型在模糊查询、矛盾证据及虚假前提等场景下鲁棒性的系统性剖析。此外，征集自GaRAGe源问题的多领域覆盖策略，也启发了其他基准在构建多文档诊断数据集时对域间差异性的重视，推动了可信RAG评估知识的持续积累与迭代。

数据集最近研究

最新研究方向

在检索增强生成（RAG）领域，大语言模型面对多文档检索时，常因信息冲突或缺失而产生事实性幻觉。RefusalBench-GaRAGe作为首个聚焦选择性拒答能力的多文档诊断基准，开创性地将176种语言学扰动杠杆与六类不确定性场景相融合，通过四级模型全票筛选构建了1506个细粒度测试实例。该基准不仅揭示了模型在矛盾、虚假前提等复杂语境下的拒答边界，更开创性地将拒答行为与正确归因结合，为构建可信赖的接地语言模型提供了系统性评估框架，推动了负责任AI在知识密集型任务中的前沿探索。