PNLPhub/FarsTail

波斯语（Farsi）是一种多中心语言，主要在伊朗、阿富汗和塔吉克斯坦等国家使用，约有1.1亿人使用。这里，我们介绍了第一个相对大规模的波斯语自然语言推理（NLI）任务数据集，名为FarsTail。该数据集共包含10,367个样本，这些样本是从3,539个多项选择题中生成的。训练集、验证集和测试集分别包含7,266、1,537和1,564个实例。

原始信息汇总

数据集概述

基本信息

• 许可证: Apache-2.0
• 任务类别: 文本分类
• 语言: 波斯语（Farsi）
• 数据集大小: 1K<n<10K

数据集详情

• 数据集名称: FarsTail
• 数据集描述: FarsTail 是首个相对大规模的波斯语自然语言推理（NLI）数据集，包含10,367个样本，这些样本源自3,539个多选题。数据集分为训练集（7,266个实例）、验证集（1,537个实例）和测试集（1,564个实例）。

数据集来源

• 仓库链接: FarsTail GitHub仓库
• 相关论文: FarsTail 论文

引用信息

@article{amirkhani2020farstail, title={FarsTail: A Persian Natural Language Inference Dataset}, author={Hossein Amirkhani, Mohammad Azari Jafari, Azadeh Amirak, Zohreh Pourjafari, Soroush Faridan Jahromi, and Zeinab Kouhkan}, journal={arXiv preprint arXiv:2009.08820}, year={2020} }

搜集汇总

数据集介绍

构建方式

在自然语言推理（NLI）任务中，高质量数据集是推动模型理解语义蕴含关系的关键。FarsTail数据集专为波斯语设计，其构建过程严谨而系统。研究团队从3,539道多项选择题中提取出10,367个样本，通过精心设计的转换策略，将选择题的题干与选项转化为前提与假设对，并标注其逻辑关系（蕴含、矛盾或中立）。数据集被划分为训练集（7,266例）、验证集（1,537例）和测试集（1,564例），确保了数据分布的均衡性与任务评估的可靠性。

特点

FarsTail作为首个大规模波斯语NLI数据集，具有鲜明的语言和文化特色。它覆盖了波斯语中丰富的语法结构、习语表达和语义歧义现象，为多语言NLI研究提供了独特的资源。数据集的规模适中（1K-10K），但样本多样性高，涵盖了教育、科学、日常对话等多个领域。其标注一致性通过多轮人工审核得到保障，确保了标签质量，从而能够有效训练和评估模型在波斯语语境下的推理能力。

使用方法

使用FarsTail数据集时，可将其直接用于文本分类任务，通过HuggingFace的datasets库轻松加载。用户需将前提与假设拼接为输入序列，并利用预训练语言模型（如ParsBERT）进行微调。数据集提供了清晰的训练、验证和测试划分，便于进行标准化的模型评估。推荐采用交叉熵损失函数，并监控验证集上的准确率与F1分数以优化超参数。此外，该数据集还可作为跨语言NLI研究的基准，推动波斯语自然语言处理技术的发展。

背景与挑战

背景概述

自然语言推理（NLI）作为自然语言理解领域的核心任务，旨在判断前提与假设之间的蕴含、矛盾或中立关系。尽管全球范围内已有大量NLI数据集涌现，但低资源语言的研究长期处于匮乏状态。波斯语作为一种拥有约1.1亿使用者的多中心语言，其NLI研究基础尤为薄弱。在此背景下，伊朗库姆大学的研究团队于2020年提出了FarsTail数据集，由Hossein Amirkhani等人主导构建，并于2023年正式发表于《Soft Computing》期刊。该数据集从3539道多项选择题中衍生出10367个样本，涵盖训练集（7266例）、验证集（1537例）和测试集（1564例），成为首个大规模波斯语NLI基准。其发布不仅填补了波斯语自然语言推理的数据空白，也为低资源语言NLI研究提供了可复现的范式，推动了多语言语义理解技术的均衡发展。

当前挑战

FarsTail数据集面临的核心挑战源于波斯语本身的复杂语言特性与资源稀缺性。首先，在领域问题层面，波斯语具有丰富的形态变化、灵活的词序以及大量借词，导致前提与假设之间的逻辑关系难以通过简单的词汇匹配或句法分析捕捉，尤其是对蕴含与中立边界的区分构成显著困难。其次，在数据集构建过程中，研究团队需克服标注资源匮乏的瓶颈：原始数据源自考试题目，需将多项选择题转换为NLI格式，这一转换过程涉及对问题语义的精确重构，易引入标注歧义。此外，数据规模虽相对可观，但相较于英语NLI数据集仍显不足，可能影响模型对复杂推理模式的泛化能力。最后，波斯语缺乏统一的语料预处理标准，分词、词性标注等基础工具的不完善进一步增加了基线模型的适配难度。

常用场景

经典使用场景

FarsTail数据集作为波斯语自然语言推理（NLI）领域的开创性资源，其经典使用场景聚焦于评估和提升模型在波斯语文本蕴含关系上的理解能力。研究者利用该数据集构建分类模型，以判断前提与假设之间的蕴含、矛盾或中立关系，从而推动波斯语语义推理任务的标准化发展。

实际应用

在实际应用中，FarsTail可赋能波斯语智能问答系统、对话机器人与信息检索工具，通过精确识别文本间的逻辑关系提升交互准确性。例如，在波斯语法律文档审核或医疗咨询场景中，该数据集训练的模型能自动验证陈述一致性，辅助人工决策，显著降低信息误判风险。

衍生相关工作

基于FarsTail，衍生出多项经典工作，包括针对波斯语NLI的预训练语言模型微调策略研究，以及跨语言知识蒸馏方法在低资源场景下的适配性分析。此外，该数据集被用于对比评估多语言模型（如mBERT、XLM-R）在波斯语上的表现，推动了针对波斯语特有语言现象的模型优化与评估体系构建。