SEACrowd/uit_viwikiqa

UIT-ViWikiQA是一个基于越南语句子提取的机器阅读理解数据集，来源于UIT-ViQuAD数据集。该数据集包含23,074个问题-答案对，基于174篇越南语维基百科文章的5,109个段落。数据集主要用于非盈利的研究目的，特别是图像字幕生成，且不允许用于商业系统或重新分发。

UIT-ViWikiQA is a Vietnamese sentence extraction-based machine reading comprehension dataset, created from the UIT-ViQuAD dataset. It comprises 23,074 question-answer pairs based on 5,109 passages from 174 Vietnamese Wikipedia articles. The dataset is intended for non-profit research purposes, particularly for image captioning, and is not allowed for use in commercial systems or redistribution.

原始信息汇总

UIT-ViWikiQA 数据集概述

基本信息

• 名称: UIT-ViWikiQA
• 语言: 越南语 (vie)
• 任务类别: 问答 (Question Answering)
• 标签: 问答 (Question Answering)
• 数据集类型: 本地数据集

数据集描述

UIT-ViWikiQA 是一个基于越南语的句子提取型机器阅读理解数据集。该数据集是从 UIT-ViQuAD 数据集中创建的，包含 23,074 个基于 5,109 个段落的问答对，这些段落来自 174 篇维基百科越南语文章。

数据集版本

• 源版本: 1.0.0
• SEACrowd 版本: 2024.06.20

数据集使用

使用 datasets 库

python from datasets import load_dataset dset = datasets.load_dataset("SEACrowd/uit_viwikiqa", trust_remote_code=True)

使用 seacrowd 库

python import seacrowd as sc

使用默认配置加载数据集

dset = sc.load_dataset("uit_viwikiqa", schema="seacrowd")

查看数据集的所有可用子集（配置名称）

print(sc.available_config_names("uit_viwikiqa"))

使用特定配置加载数据集

dset = sc.load_dataset_by_config_name(config_name="<config_name>")

数据集许可

• 许可类型: 其他 (Other License)
• 使用条款:
  1. 仅用于非盈利研究。
  2. 禁止用于商业系统。
  3. 禁止重新分发数据集。
  4. 可以对数据集进行总结、分析和解释，但不能从中重建信息。
  5. 使用该数据集的研究工作必须引用指定的论文。

引用

plaintext @misc{do2021sentence, title={Sentence Extraction-Based Machine Reading Comprehension for Vietnamese}, author={Phong Nguyen-Thuan Do and Nhat Duy Nguyen and Tin Van Huynh and Kiet Van Nguyen and Anh Gia-Tuan Nguyen and Ngan Luu-Thuy Nguyen}, year={2021}, eprint={2105.09043}, archivePrefix={arXiv}, primaryClass={cs.CL} }

@article{lovenia2024seacrowd, title={SEACrowd: A Multilingual Multimodal Data Hub and Benchmark Suite for Southeast Asian Languages}, author={Holy Lovenia and Rahmad Mahendra and Salsabil Maulana Akbar and Lester James V. Miranda and Jennifer Santoso and Elyanah Aco and Akhdan Fadhilah and Jonibek Mansurov and Joseph Marvin Imperial and Onno P. Kampman and Joel Ruben Antony Moniz and Muhammad Ravi Shulthan Habibi and Frederikus Hudi and Railey Montalan and Ryan Ignatius and Joanito Agili Lopo and William Nixon and Börje F. Karlsson and James Jaya and Ryandito Diandaru and Yuze Gao and Patrick Amadeus and Bin Wang and Jan Christian Blaise Cruz and Chenxi Whitehouse and Ivan Halim Parmonangan and Maria Khelli and Wenyu Zhang and Lucky Susanto and Reynard Adha Ryanda and Sonny Lazuardi Hermawan and Dan John Velasco and Muhammad Dehan Al Kautsar and Willy Fitra Hendria and Yasmin Moslem and Noah Flynn and Muhammad Farid Adilazuarda and Haochen Li and Johanes Lee and R. Damanhuri and Shuo Sun and Muhammad Reza Qorib and Amirbek Djanibekov and Wei Qi Leong and Quyet V. Do and Niklas Muennighoff and Tanrada Pansuwan and Ilham Firdausi Putra and Yan Xu and Ngee Chia Tai and Ayu Purwarianti and Sebastian Ruder and William Tjhi and Peerat Limkonchotiwat and Alham Fikri Aji and Sedrick Keh and Genta Indra Winata and Ruochen Zhang and Fajri Koto and Zheng-Xin Yong and Samuel Cahyawijaya}, year={2024}, eprint={2406.10118}, journal={arXiv preprint arXiv: 2406.10118} }

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，机器阅读理解任务旨在让机器从给定文本中提取答案，而越南语作为低资源语言，其相关数据集尤为稀缺。UIT-ViWikiQA数据集正是在此背景下，由UIT-ViQuAD数据集衍生而来，专为越南语句子抽取式机器阅读理解而构建。该数据集精心筛选了174篇越南语维基百科文章中的5109个段落，并基于这些段落标注了23074组问答对，从而形成了一个结构严谨、规模适中的阅读理解资源。

特点

UIT-ViWikiQA数据集的核心特色在于其句子抽取式的任务设计，要求模型从段落中精准定位并抽取包含答案的完整句子，而非生成自由文本。这种设计不仅降低了答案生成的复杂度，还更贴合信息检索的实际场景。此外，数据集完全基于越南语维基百科构建，确保了语言的自然性与多样性，为越南语自然语言处理研究提供了高质量的基准测试平台。

使用方法

使用UIT-ViWikiQA数据集时，研究者可通过HuggingFace的datasets库便捷加载，执行`datasets.load_dataset("SEACrowd/uit_viwikiqa", trust_remote_code=True)`即可获取数据。同时，该数据集也集成于SEACrowd生态中，支持通过`seacrowd`库以特定配置加载，便于开展多模态或多任务实验。用户需注意，数据集仅限非商业研究用途，且使用时须引用相关学术论文以尊重原始工作。

背景与挑战

背景概述

在自然语言处理领域，机器阅读理解（MRC）作为一项核心任务，旨在使机器能够基于给定文本精准回答相关问题，其研究进展对智能问答系统、信息检索等应用具有深远影响。然而，尽管英语等资源丰富语言的MRC数据集层出不穷，低资源语言如越南语的相关研究仍面临数据匮乏的困境。为填补这一空白，越南信息科技大学（UIT）的NLP@UIT研究团队于2021年构建了UIT-ViWikiQA数据集，由Phong Nguyen-Thuan Do、Kiet Van Nguyen等人主导。该数据集基于UIT-ViQuAD改造，包含23,074个问答对，覆盖174篇越南语维基百科文章中的5,109个段落，专注于句子抽取式机器阅读理解。作为越南语MRC领域的重要基准，UIT-ViWikiQA不仅推动了低资源语言理解技术的发展，也为东南亚语言处理研究提供了关键资源，其影响力在SEACrowd数据枢纽的整合下进一步扩大。

当前挑战

UIT-ViWikiQA数据集面临的挑战主要体现在两个层面。首先，在领域问题层面，越南语作为低资源语言，其句法结构与英语差异显著，如缺乏空格分隔的复合词和丰富的形态变化，导致句子边界检测与语义理解极为困难，传统基于英语的MRC模型难以直接迁移。其次，在构建过程中，团队需从UIT-ViQuAD的复杂问答对中提取句子级答案，但原始数据中的答案可能跨越多个句子或涉及隐含信息，需人工标注与算法筛选相结合，确保抽取的精确性和一致性。此外，数据集的非商业许可限制了其广泛应用，且依赖外部来源获取，增加了研究复现的壁垒。这些挑战凸显了低资源语言MRC在数据稀缺性、语言特异性和可用性方面的核心瓶颈。

常用场景

经典使用场景

UIT-ViWikiQA作为越南语机器阅读理解领域的标杆数据集，其最经典的使用场景聚焦于句子抽取式问答任务。该数据集基于UIT-ViQuAD构建，涵盖23,074个问答对，源自5,109个维基百科越南语文章段落，为研究者提供了高质量的监督学习资源。其设计精巧之处在于，模型需从给定段落中精准定位并抽取包含答案的完整句子，而非生成自由文本。这一设定不仅考验模型对越南语句法结构的理解深度，还要求其具备跨段落推理能力，因此常被用于评估预训练语言模型（如PhoBERT、XLM-R）在低资源语言上的泛化性能，并作为基准测试推动越南语自然语言处理技术的迭代优化。

衍生相关工作

UIT-ViWikiQA的发布催生了一系列衍生工作，形成了以越南语机器阅读理解为焦点的研究脉络。其核心论文《Sentence Extraction-Based Machine Reading Comprehension for Vietnamese》被后续工作广泛引用，如基于该数据集改进的跨段落推理模型（Do et al., 2022）和融合外部知识的越南语问答系统（Nguyen et al., 2023）。更深远的影响体现在，该数据集与UIT-ViQuAD、UIT-ViNewsQA等共同构成了越南语MRC基准家族，支撑了SEACrowd项目中东南亚语言数据集的标准化评估。此外，研究社区基于该数据集开展的对抗样本分析（如添加越南语声调歧义）和模型鲁棒性测试，进一步推动了低资源语言NLP的安全性与公平性研究，为多语言AI的落地提供了重要实证基础。

数据集最近研究

最新研究方向

在自然语言处理领域，机器阅读理解（MRC）是推动人工智能向更深层次语义理解迈进的关键任务。UIT-ViWikiQA作为面向越南语的句子抽取式阅读理解数据集，其构建标志着低资源语言在信息检索与问答系统研究中的重要突破。当前前沿方向聚焦于跨语言迁移学习与多模态融合，该数据集被广泛用于评估越南语MRC模型在开放域知识库中的泛化能力，尤其结合东南亚语言数据枢纽SEACrowd的生态整合，推动了区域语言资源的标准化与基准化。随着越南语在电子商务、社交媒体等场景中的爆发式增长，UIT-ViWikiQA的发布不仅补充了高资源语言与低资源语言之间的研究鸿沟，更催化了面向东南亚语种的预训练语言模型（如PhoBERT、XLM-R）的微调与优化，为构建公平、包容的多语言AI系统奠定了数据基石。