projecte-aina/xquad-ca

XQuAD-Ca数据集是XQuAD数据集的专业加泰罗尼亚语翻译版本，用于评估跨语言问答性能。数据集包含来自SQuAD v1.1开发集的240个段落和1190个问答对，并翻译成包括加泰罗尼亚语在内的13种语言。数据集的结构包括一个JSON文件，包含1189个示例，每个示例包含上下文、问题和答案。数据集的主要用途是支持加泰罗尼亚语的语言模型开发，并允许跨语言比较。

The XQuAD-Ca dataset is a professional Catalan translation of the XQuAD dataset, designed for evaluating cross-lingual question answering performance. It contains 240 passages and 1,190 question-answer pairs sourced from the SQuAD v1.1 development set, which have been translated into 13 languages including Catalan. The dataset is structured as a single JSON file with 1,189 examples, each including a context, a question, and an answer. Its primary applications are to support the development of Catalan language models and enable cross-lingual comparisons.

原始信息汇总

数据集概述

数据集名称

• 名称: XQuAD-Ca
• 语言: 加泰罗尼亚语 (ca-ES)
• 许可证: CC-by-sa-4.0

数据集内容

• 任务类型: 问答（Extractive-QA）
• 数据集大小: 未知
• 数据实例数量: 1189个
• 数据结构: 一个JSON文件，包含context, qas, answers, id, question, text, answer_start等字段

数据集创建

• 创建理由: 为了促进加泰罗尼亚语（一种低资源语言）的语言模型发展，并与其他语言的类似数据集兼容，以便进行跨语言比较
• 源数据: 专业翻译自XQuAD数据集
• 注释者: 专业翻译公司

使用考虑

• 社会影响: 有助于加泰罗尼亚语语言模型的发展
• 偏见讨论: 未提供
• 其他已知限制: 未提供

附加信息

• 数据集管理者: 巴塞罗那超级计算中心（BSC）的文本挖掘单元（TeMU）
• 许可证信息: 此工作根据CC-by-sa许可证授权
• 引用信息: 提供了一个引用格式，包括作者、标题、出版信息等

数据集结构

数据实例

• 格式: JSON
• 数量: 1189个实例
• 示例结构: json { "context": "...", "qas": [ { "answers": [ { "text": "...", "answer_start": ... } ], "id": "...", "question": "..." }, ... ] }

数据字段

• id: 字符串，唯一标识符
• title: 字符串，文章标题
• context: 字符串，段落文本
• question: 字符串，问题
• answers: 列表，每个答案包含text和answer_start

数据分割

• 测试集: 1189个实例

数据集创建

源数据

• 来源: XQuAD数据集的专业翻译
• 收集和标准化: 由BSC TeMU在Projecte AINA框架内委托进行

注释

• 注释过程: 由专业翻译公司完成
• 注释者: 专业翻译公司

个人和敏感信息

• 包含情况: 不包含个人或敏感信息

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，跨语言问答系统的性能评估依赖于高质量的多语言基准数据集。XQuAD-Ca数据集正是基于这一需求构建而成，它是对原始XQuAD数据集的专业加泰罗尼亚语翻译版本。原始XQuAD源自SQuAD v1.1开发集，包含240个段落和1190个问答对，已由专业译者翻译为多种语言。本项目委托专业翻译公司，将XQuAD语料精准翻译为加泰罗尼亚语，保留了原始数据结构的完整性，包括上下文、问题、答案及其起始位置等字段。最终数据集包含1189个测试样本，以标准JSON格式存储，为加泰罗尼亚语的抽取式问答研究提供了可靠基准。

特点

该数据集具有鲜明的多维度特点。作为跨语言问答基准的加泰罗尼亚语版本，它填补了该语言在抽取式问答领域的评估空白，有助于推动低资源语言的模型研究。数据集采用专家翻译的高质量标注，确保了语言表达的准确性和自然度。其数据结构严格遵循SQuAD v1.1规范，包含标题、上下文、问题、唯一标识符及答案列表等字段，便于与现有工具和模型无缝对接。此外，数据集采用CC-by-sa许可协议发布，支持学术研究与商业应用的广泛传播，为加泰罗尼亚语自然语言处理社区提供了宝贵的标准化资源。

使用方法

使用XQuAD-Ca数据集进行模型评估时，研究者可直接加载JSON格式的测试文件，其中包含1189个样本。该数据集适用于抽取式问答任务，即模型需从给定的上下文中定位并提取出回答问题的连续文本片段。在实践应用中，可将其作为跨语言迁移学习的评测基准，评估多语言模型在加泰罗尼亚语上的表现。数据集字段设计清晰，答案的起始位置和文本内容已预先标注，便于计算精确匹配和F1分数等标准指标。建议结合HuggingFace的datasets库或SQuAD评估脚本进行加载与评测，以实现高效的模型性能验证。

背景与挑战

背景概述

在自然语言处理领域，跨语言问答系统的发展长期受限于高质量标注资源的稀缺，尤其是对于中低资源语言而言。为应对这一挑战，巴塞罗那超级计算中心（BSC）下属的文本挖掘单元（TeMU）在加泰罗尼亚政府“AINA项目”的资助下，于2021年推出了XQuAD-Ca数据集。该数据集由专业翻译人员将XQuAD基准中的1189个问答对从英语精准翻译为加泰罗尼亚语，保留了原始SQuAD v1.1的篇章结构和答案标注格式。作为首个面向加泰罗尼亚语的抽取式问答基准，XQuAD-Ca不仅填补了该语言在跨语言评测中的空白，也为评估多语言模型在中等资源语言上的迁移能力提供了关键参照，其相关研究发表于ACL-IJCNLP 2021会议，对低资源语言NLP发展具有里程碑意义。

当前挑战

XQuAD-Ca数据集所面临的核心挑战源于加泰罗尼亚语作为中等资源语言的独特地位。领域层面，现有跨语言问答系统多聚焦于英语或高资源语言，加泰罗尼亚语缺乏大规模、高质量的训练语料，导致模型在该语言上的抽取精度与鲁棒性远低于主流语言。构建过程中，专业翻译的准确性和一致性成为关键难题：翻译团队需在保留原始问答对的语义等价性同时，确保加泰罗尼亚语语法与语用习惯的忠实还原，尤其对涉及文化专有名词或句式复杂的长篇章，稍有不慎便会引入偏差。此外，数据规模仅1189例，远小于英语SQuAD的数十万样本，这限制了模型对语言多样性的学习能力，也使得过拟合风险显著增高。

常用场景

经典使用场景

XQuAD-Ca作为跨语言抽取式问答的标杆性数据集，其经典使用场景聚焦于评估和比较多语言预训练模型在加泰罗尼亚语上的抽取式问答能力。研究者通常将该数据集作为测试集，在零样本或少样本跨语言迁移学习框架下，衡量模型从给定上下文中精准定位答案片段的表现。这一场景不仅验证了模型对加泰罗尼亚语语义和句法结构的理解深度，还为多语言模型的泛化能力提供了可量化的基准，尤其在资源匮乏语言场景中具有重要方法论意义。

实际应用

在实际应用层面，XQuAD-Ca支撑了加泰罗尼亚语智能问答系统的开发与迭代，广泛应用于数字图书馆的信息检索、政务服务的自动化咨询、以及教育领域的智能辅导等场景。企业级应用可利用该数据集训练能够理解加泰罗尼亚语用户查询并精准提取答案的对话系统，从而提升本地化服务的用户体验。此外，该数据集还助力于多语言客服平台的建设，使机器能够跨越语言障碍，为加泰罗尼亚语使用者提供高效、准确的信息获取途径。

衍生相关工作

XQuAD-Ca的发布催生了一系列关于加泰罗尼亚语自然语言处理的经典研究工作。例如，Armengol-Estapé等人（2021）基于该数据集系统评估了多语言与单语言模型在加泰罗尼亚语上的表现，提出了针对中等资源语言的模型选择建议。后续工作进一步将其与XQuAD其他语言版本结合，构建了跨语言迁移学习的统一评估框架，并衍生出针对加泰罗尼亚语的领域自适应问答模型。此外，该数据集还被用于验证数据增强策略和翻译后对齐方法在低资源问答任务中的有效性，成为加泰罗尼亚语NLP研究不可或缺的基石资源。