lmqg/qag_squad

这是一个基于SQuAD的问题与答案生成数据集，主要用于训练模型进行问题与答案的生成。数据集包含段落、问题、答案以及问题和答案的组合字段。所有数据分割（训练、验证、测试）的结构一致。数据集支持英语，并用于评估模型在生成问题与答案时的性能，通常通过BLEU4、METEOR、ROUGE-L、BERTScore和MoverScore等指标来衡量。

This is a question and answer generation dataset based on SQuAD, primarily used for training models to generate questions and answers. The dataset contains fields including paragraphs, questions, answers, and combined question-answer pairs. All data splits (training, validation, and test) share consistent structures. This dataset supports English and is designed to evaluate models' performance in question and answer generation, which is typically measured using metrics such as BLEU4, METEOR, ROUGE-L, BERTScore, and MoverScore.

原始信息汇总

数据集概述

基本信息

• 许可证: cc-by-sa-4.0
• 数据集名称: SQuAD for question generation
• 语言: 英语 (en)
• 多语言性: 单语种
• 数据集大小: 1k<n<10K
• 来源数据集: lmqg/qg_squad

任务与标签

• 任务类别: 文本生成
• 任务ID: 语言建模
• 标签: 问题生成

数据集描述

• 数据集摘要: 基于SQuAD的问题与答案生成数据集。
• 支持的任务与评测指标:
  • 任务: 问题答案生成
  • 评测指标: BLEU4/METEOR/ROUGE-L/BERTScore/MoverScore

数据集结构

• 数据字段:
  • questions: 字符串列表
  • answers: 字符串列表
  • paragraph: 字符串
  • questions_answers: 字符串

数据分割

分割	样本数
train	16462
validation	2067
test	2429

引用信息

@inproceedings{ushio-etal-2022-generative, title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration", author = "Ushio, Asahi and Alva-Manchego, Fernando and Camacho-Collados, Jose", booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing", month = dec, year = "2022", address = "Abu Dhabi, U.A.E.", publisher = "Association for Computational Linguistics", }

搜集汇总

数据集介绍

构建方式

该数据集基于SQuAD语料库构建，专注于问答生成任务。其构建方式是从源数据集lmqg/qg_squad中提取段落文本，并为每个段落标注一组对应的问答对。数据以字典形式组织，包含段落文本、问题列表、答案列表以及拼接后的问答字符串，便于模型进行段落级别的问答生成训练。训练集包含16462个样本，验证集和测试集分别有2067和2429个样本，确保了数据划分的合理性与任务评估的可靠性。

特点

数据集的核心特点在于其面向段落级问答生成任务，而非传统的单一句子级问答。每个样本包含一个完整的英文段落，以及多个与之相关的问题和答案，覆盖了从事实提取到语义理解的广泛难度。此外，数据集中提供了‘questions_answers’字段，将问答对以管道符分隔的格式拼接，直接适配生成式语言模型的输入输出格式，降低了预处理门槛。这种设计使得模型能够学习在给定段落上下文中同时生成问题和答案的复杂能力。

使用方法

该数据集主要用于训练和评估问题与答案生成模型。使用时，可将段落作为输入，以‘questions_answers’字段为目标输出，进行序列到序列的建模。评估指标涵盖BLEU、METEOR、ROUGE-L、BERTScore和MoverScore等多维度评分，全面衡量生成质量。研究者可直接从HuggingFace数据集库加载数据，或参照GitHub仓库中的示例代码进行模型训练与调优，适用于基于Transformer的生成式语言模型。

背景与挑战

背景概述

在自然语言处理领域，自动问答生成（Question & Answer Generation）是一项兼具理论深度与应用价值的研究任务，旨在从非结构化文本中自动提取信息并构建问答对，以服务于智能教育、信息检索及对话系统等场景。SQuAD（Stanford Question Answering Dataset）作为阅读理解领域的标杆数据集，自2016年发布以来便成为评估机器文本理解能力的核心基准。然而，传统SQuAD数据集聚焦于给定段落与问题的答案抽取，缺乏对生成式问答任务的直接支持。为填补这一空白，Asahi Ushio及其合作者于2022年基于SQuAD构建了lmqg/qag_squad数据集，其研究发表于EMNLP 2022。该数据集以段落为单位，提供了人工标注的问答对，专为段落级问题与答案生成任务设计，显著推动了生成式语言模型在结构化知识提取方向的发展，并为后续研究提供了标准化训练与评估资源。

当前挑战

lmqg/qag_squad数据集所面对的挑战首先体现在领域问题的复杂性上：与传统的单答案抽取不同，段落级问答生成需要模型同时理解上下文语义、识别多实体关系并生成语法正确且信息完整的自然语言问题与答案，这对模型的语义推理与语言生成能力提出了更高要求。其次，在数据集构建过程中，研究者面临标注一致性与覆盖度的平衡难题——如何确保每个段落生成的问答对既全面覆盖关键信息，又避免冗余或歧义。此外，原始SQuAD的段落长度与主题分布不均，导致数据集中某些领域（如体育或科技）的样本密度远高于其他领域，可能引入偏差。这些问题共同构成了当前问答生成任务在模型泛化性与鲁棒性上的关键瓶颈。

常用场景

经典使用场景

lmqg/qag_squad数据集以斯坦福问答数据集SQuAD为基础，经过精心重构，专门服务于段落级问答对生成任务。在自然语言处理领域，该数据集被广泛用于训练和评估能够从给定文本段落中自动提取并生成相关问题及其对应答案的生成式模型。其经典使用场景聚焦于序列到序列的文本生成框架，模型需理解段落语义，并输出结构化的问答对序列，从而推动机器阅读理解与文本生成能力的深度融合。

解决学术问题

该数据集有效解决了学术研究中如何从非结构化文本中系统性地生成高质量问答对的难题。传统方法多依赖人工构建或规则抽取，效率与泛化能力受限。lmqg/qag_squad为研究者提供了大规模、标准化的训练与评测基准，使得探索基于预训练语言模型的端到端问答生成成为可能。其意义在于推动了段落级信息抽取与生成任务的统一建模，为后续研究如多跳推理、开放域问答等奠定了坚实的数据基础。

衍生相关工作

基于lmqg/qag_squad数据集，衍生了一系列具有影响力的经典工作。其中，Generative Language Models for Paragraph-Level Question Generation提出了专门的生成式框架，并系统评估了多种预训练模型在该任务上的表现。后续研究进一步探索了基于强化学习的问答对质量优化、融合外部知识的多模态问答生成，以及面向低资源语言的跨语言迁移方法。这些工作不仅丰富了问答生成的理论体系，也推动了评测指标如BLEU、ROUGE-L与BERTScore在生成任务中的标准化应用。