five

CATIE-AQ/orange_sum_fr_prompt_text_generation_from_an_article

收藏
Hugging Face2025-02-10 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/CATIE-AQ/orange_sum_fr_prompt_text_generation_from_an_article
下载链接
链接失效反馈
官方服务:
资源简介:
orange_sum_fr_prompt_text_generation_from_an_article是一个包含539,400行数据的文本生成任务数据集,它是Dataset of French Prompts (DFP)的一个子集。数据集使用24个提示,以指示性语气、tu和vous形式构建,用于从原始数据集orange_sum中提取文本和目标,形成与xP3数据集相同的格式。数据集分为训练集、验证集和测试集,分别包含472,944、33,096和33,360个样本。

orange_sum_fr_prompt_text_generation_from_an_article是一个包含539,400行数据的文本生成任务数据集,它是Dataset of French Prompts (DFP)的一个子集。数据集使用24个提示,以指示性语气、tu和vous形式构建,用于从原始数据集orange_sum中提取文本和目标,形成与xP3数据集相同的格式。数据集分为训练集、验证集和测试集,分别包含472,944、33,096和33,360个样本。
提供机构:
CATIE-AQ
原始信息汇总

orange_sum_fr_prompt_text_generation_from_an_article

概述

orange_sum_fr_prompt_text_generation_from_an_articleDataset of French Prompts (DFP) 的一个子集。
该数据集包含 539,400 行,可用于文本生成任务。
原始数据(无提示)来自 Eddine 等人的数据集 orange_sum
通过应用一系列提示(见下文),构建了输入和目标列,从而获得了与 Muennighoff 等人的 xP3 数据集相同的格式。

使用的提示

列表

该数据集创建了 24 个提示。提示的逻辑包括使用直陈式、使用“你”和“您”的形式。

"+document+" Continuer le texte sur 1000 caractères maximum :,
"+document+" Continue le texte sur 1000 caractères maximum :,
"+document+" Continuez le texte sur 1000 caractères maximum :,
"+document+" Poursuivre le texte sur 1000 caractères maximum :,
"+document+" Poursuis le texte sur 1000 caractères maximum :,
"+document+" Poursuivez le texte sur 1000 caractères maximum :,
"+document+" Prolonger le texte sur 1000 caractères maximum :,
"+document+" Prolonge le texte sur 1000 caractères maximum :,
"+document+" Prolongez le texte sur 1000 caractères maximum :,
"+document+" Rédiger la suite du texte : ,
"+document+" Rédige la suite du texte : ,
"+document+" Rédigez la suite du texte : ,
"+document+" Imaginer la suite du texte : ,
"+document+" Imagine la suite du texte : ,
"+document+" Imaginez la suite du texte : ,
"+document+" Ecrire la suite du texte : ,
"+document+" Ecris la suite du texte : ,
"+document+" Ecriver la suite du texte : ,
"+document+" Développer la suite du texte : ,
"+document+" Développe la suite du texte : ,
"+document+" Développez la suite du texte : ,
"+document+" Générer la suite du texte : ,
"+document+" Génère la suite du texte : ,
"+document+" Générez la suite du texte : ,

提示中使用的特征

在上述提示列表中,texttargets 是从以下代码构造的:

orange_sum = load_dataset(orange_sum,abstract) if len(orange_sum[train][i][text]) > 1000: document = orange_sum[train][i][text][:1000] targets = orange_sum[train][i][summary][1000:]

分割

  • train 包含 472,944 个样本
  • valid 包含 33,096 个样本
  • test 包含 33,360 个样本

如何使用?

from datasets import load_dataset dataset = load_dataset("CATIE-AQ/orange_sum_fr_prompt_text_generation_from_an_article")

引用

原始数据

@article{eddine2020barthez, title={BARThez: a Skilled Pretrained French Sequence-to-Sequence Model}, author={Eddine, Moussa Kamal and Tixier, Antoine J-P and Vazirgiannis, Michalis}, journal={arXiv preprint arXiv:2010.12321}, year={2020} }

该数据集

@misc {centre_aquitain_des_technologies_de_linformation_et_electroniques_2023,
author = { {Centre Aquitain des Technologies de lInformation et Electroniques} },
title = { DFP (Revision 1d24c09) },
year = 2023,
url = { https://huggingface.co/datasets/CATIE-AQ/DFP },
doi = { 10.57967/hf/1200 },
publisher = { Hugging Face }
}

许可证

CC-BY-SA-4.0

搜集汇总
数据集介绍
main_image_url
构建方式
该数据集源自法语提示词数据集DFP,其原始文本来源于orange_sum数据集,由Eddine等人构建。为适配文本生成任务,研究者设计了24个法语提示词,涵盖直陈式、单数及复数敬语形式,如“Continuer le texte sur 1000 caractères maximum”等。构建时,从orange_sum的抽象子集中选取长度超过1000字符的文本,截取前1000字符作为输入文档,并将剩余摘要部分作为目标输出,最终形成539,400条样本,划分为训练集(472,944条)、验证集(33,096条)和测试集(33,360条)。
特点
该数据集专为法语文本生成任务设计,具有鲜明的多提示词特性。通过引入24种不同语态和语气的提示词,覆盖了命令式、祈使式及敬语与非敬语形式,显著增强了模型对多样化指令的适应能力。数据规模庞大,超过50万条样本,且原始文本源于专业摘要数据集,确保了内容的高质量与领域多样性。此外,数据集遵循CC-BY-SA-4.0许可协议,结构上与xP3格式对齐,便于迁移学习与多任务微调。
使用方法
使用该数据集时,可通过HuggingFace的datasets库直接加载:调用`load_dataset("CATIE-AQ/orange_sum_fr_prompt_text_generation_from_an_article")`即可获取。数据集已预置输入列(包含文档与提示词)和目标列(续写文本),用户无需额外预处理。适用于微调法语语言模型,如BARThez等序列到序列架构,以提升模型在给定片段后自动生成连贯文本的能力。建议在训练时利用其内置的验证集进行超参数调优,并通过测试集评估生成质量。
背景与挑战
背景概述
在自然语言处理领域,文本生成任务一直是研究的热点与难点,尤其是针对法语这类资源相对稀缺的语言,高质量数据集的构建显得尤为关键。orange_sum_fr_prompt_text_generation_from_an_article数据集由法国阿基坦信息技术与电子中心(CATIE)于2023年创建,旨在为法语文本生成任务提供标准化、多样化的训练数据。该数据集基于Eddine等人提出的orange_sum摘要数据集,通过应用24种精心设计的提示模板(涵盖直陈式、第二人称单数及复数敬语形式),将原始摘要数据转化为适用于文本生成任务的输入-目标格式。作为法语提示数据集(DFP)的子集,该数据集包含超过53万条样本,其构建逻辑借鉴了xP3数据集的多任务格式,显著提升了法语生成模型的泛化能力与指令遵循能力。该数据集的出现填补了法语文本生成领域大规模、高质量提示数据的空白,对推动法语自然语言生成研究具有里程碑意义。
当前挑战
该数据集所解决的领域问题主要聚焦于法语文本生成中指令理解与长文本连贯性生成的挑战。在构建过程中,首先需要克服原始orange_sum摘要数据与生成任务之间的格式鸿沟,通过设计24种不同风格的法语提示(如“继续文本”、“想象后续”等),确保模型能够适应多样化的指令表达方式。其次,数据预处理中需处理文本长度限制问题,对超过1000字符的输入进行截断,同时保留摘要部分作为生成目标,这一过程要求精确平衡输入信息的完整性与生成任务的可学习性。此外,数据集的构建还面临法语语言特异性挑战,包括动词变位、敬语形式(tu/vous)的准确区分,以及提示语在语法和语义上的自然性,这些细节直接影响模型对法语指令的泛化能力。最终,数据划分需确保训练、验证与测试集的比例合理(约14:1:1),以支撑可靠的模型评估与跨任务迁移学习。
常用场景
经典使用场景
在自然语言处理领域,文本续写任务一直是检验生成式模型语言连贯性与创造力的重要基准。orange_sum_fr_prompt_text_generation_from_an_article数据集专为法语文本生成设计,基于Orange Sum摘要数据集构建,通过精心设计的24种不同语气与指令形式的提示模板,将原始文章的前1000字符作为输入,要求模型生成后续内容。这一设定使其成为训练和评估法语大语言模型在开放式文本延续能力上的经典资源,尤其适用于探究模型在保持主题一致性与风格连贯性方面的表现。
衍生相关工作
该数据集衍生出多项经典研究工作,其中最引人注目的是其作为法国提示数据集(DFP)子集的定位,与xP3等大规模多语言提示数据集形成互补。研究者基于此数据开展了法语大语言模型的指令微调实验,比较了不同提示模板对生成质量的影响,并探索了跨任务迁移学习的可能性。此外,Orange Sum原始数据与BARThez模型的结合催生了针对法语摘要与生成任务的系列基准,而orange_sum_fr的提示增强版本进一步为研究提示格式标准化、模型偏见分析及法语文本生成的可控性提供了实证基础。
数据集最近研究
最新研究方向
在自然语言处理领域,面向低资源语言的文本生成任务正日益成为研究焦点,尤其是法语等非英语语种的指令微调与提示学习。orange_sum_fr_prompt_text_generation_from_an_article 数据集应运而生,它基于 orange_sum 摘要语料,通过精心设计的24条法语提示(涵盖直陈式、敬语与日常语体)构建了超过53万条文本续写样本,旨在模拟多样化的用户指令场景。该数据集紧密关联当前大语言模型的多语言对齐与指令跟随能力优化前沿,其采用与 xP3 数据集一致的格式,便于研究者直接用于微调法语生成模型。这一资源的推出,不仅填补了法语提示数据集的空白,更为推动法语自然语言生成在新闻摘要、创意写作等实际应用中的鲁棒性与可控性提供了关键支撑,对探索跨语言指令泛化与低资源语种模型性能提升具有重要价值。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务