TypicaAI/pii-masking-60k_fr
收藏Hugging Face2024-05-01 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/TypicaAI/pii-masking-60k_fr
下载链接
链接失效反馈官方服务:
资源简介:
这个PII法语数据集基于世界上最大的开源隐私数据集:ai4privacy/pii-masking-200k。原始数据集ai4privacy/pii-masking-200k通过基于BERT的语言分类器进行过滤,仅保留法语行。该数据集仅用于教育目的。
这个PII法语数据集基于世界上最大的开源隐私数据集:ai4privacy/pii-masking-200k。原始数据集ai4privacy/pii-masking-200k通过基于BERT的语言分类器进行过滤,仅保留法语行。该数据集仅用于教育目的。
提供机构:
TypicaAI原始信息汇总
PII French dataset
数据集信息
特征
- masked_text: 类型为字符串
- unmasked_text: 类型为字符串
- privacy_mask: 类型为字符串
- span_labels: 类型为字符串
- bio_labels: 序列类型为字符串
- tokenised_text: 序列类型为字符串
分割
- train: 字节数为105030283,样本数为61918
大小
- 下载大小: 31820221字节
- 数据集大小: 105030283字节
配置
- default: 数据文件路径为
data/train-*
任务类别
- token-classification
语言
- fr
标签
- PII
- Privacy
- NER
名称
- typica.ai French PII dataset
大小类别
- 10K<n<100K
搜集汇总
数据集介绍

构建方式
该数据集源自全球最大的开源隐私数据集ai4privacy/pii-masking-200k,通过基于BERT的语言分类器进行精细筛选,仅保留法语语料行。构建过程聚焦于个人可识别信息的掩码与标注,每条样本包含掩码文本、原始文本、隐私掩码、跨度标签、BIO标签及分词文本六个字段,形成结构化的隐私保护数据资源。最终筛选出约6.2万条训练样本,数据集规模介于1万至10万之间,专为法语环境下的隐私保护任务设计。
特点
数据集以法语个人可识别信息为核心,涵盖掩码与未掩码的文本对,并附带多层次标注信息,包括隐私掩码、跨度标签和BIO标签,支持细粒度的命名实体识别与隐私检测。其标签系统兼具宏观隐私分类与微观序列标注能力,适用于掩码语言建模和隐私实体抽取等任务。数据以分词文本形式存储,兼顾自然语言处理下游任务的灵活性与可用性,体现了隐私保护与数据实用性的平衡。
使用方法
数据集适用于法语隐私保护领域的模型训练与评估,可直接用于序列标注任务,如训练基于Transformer的隐私检测器。用户可通过HuggingFace数据集库加载默认配置下的训练分片,利用masked_text和unmasked_text字段进行掩码预测,或借助span_labels和bio_labels开展监督学习。建议结合法语分词工具对tokenised_text字段进行预处理,以适配不同模型架构的输入要求,并严格遵守教育使用目的,避免商业应用。
背景与挑战
背景概述
在自然语言处理领域,个人可识别信息(PII)的检测与保护是数据隐私治理的关键环节,尤其随着欧盟《通用数据保护条例》(GDPR)的深入实施,法语文本中的PII识别需求日益迫切。TypicaAI/pii-masking-60k_fr数据集应运而生,它源自全球最大的开源隐私数据集ai4privacy/pii-masking-200k,由TypicaAI团队于近期通过基于BERT的语言分类器筛选出法语语料构建而成。该数据集包含约6万条样本,专注于法语PII的标注与掩码任务,旨在为法语环境下的隐私保护研究提供高质量的基准资源。其核心研究问题聚焦于如何精准识别并掩码法语文本中的敏感信息,如姓名、地址、电话号码等,从而推动命名实体识别(NER)技术在隐私合规场景中的应用,对法语自然语言处理与数据安全交叉领域具有重要影响。
当前挑战
该数据集所应对的领域挑战主要在于法语PII识别中的语言特异性,例如法语中复杂的姓名结构、地址格式以及数字表达习惯,使得通用PII检测模型难以直接适配,且法语语料中高频出现的人名、地名等实体类型需要精细化的标注策略。在构建过程中,挑战尤为显著:首先,从原始大规模多语种数据集中筛选法语样本时,需依赖语言分类器的准确性,但分类器可能因数据噪声或语言混淆导致误判,引入非法语或混合语言样本;其次,原始数据集中的PII标注可能存在不一致性,如掩码策略或实体边界定义差异,筛选后需重新校验以保证法语子集的质量;此外,法语中特有的拼写变体、缩写及缩合形式(如“l’adresse”)增加了token化与标签对齐的复杂度,对数据预处理流程提出了更高要求。
常用场景
经典使用场景
在自然语言处理与隐私保护的交汇领域,TypicaAI/pii-masking-60k_fr数据集作为法语环境下个人身份信息(PII)检测与脱敏的经典资源,其最核心的应用场景集中于基于序列标注的命名实体识别(NER)任务。研究人员利用该数据集中精心标注的掩码文本、原始文本及BIOS标签,训练模型精准识别法语语料中的姓名、地址、电话号码等敏感实体,并实现自动化掩码处理。这一过程不仅为法语NLP系统提供了高质量的隐私合规训练数据,更推动了跨语言隐私保护技术的标准化发展。
衍生相关工作
基于TypicaAI/pii-masking-60k_fr,学界涌现了多项衍生工作。研究者常将其与原始英文数据集ai4privacy/pii-masking-200k联合使用,构建跨语言对比实验,分析不同语言中PII实体的分布差异对模型性能的影响。部分工作进一步引入数据增强技术,如对抗训练或伪标签生成,以提升模型在低资源法语方言上的泛化能力。此外,该数据集也催生了面向隐私保护的预训练语言模型微调框架,推动了法语领域隐私感知NLP系统的标准化评估流程。
数据集最近研究
最新研究方向
在自然语言处理与隐私保护交叉领域,个人身份信息(PII)的自动识别与掩码处理已成为数据安全治理的前沿热点。TypicaAI/pii-masking-60k_fr数据集基于全球最大开源隐私数据集ai4privacy/pii-masking-200k,通过BERT语言分类器精准筛选法语语料,构建了60k规模的高质量法语PII标注资源。该数据集聚焦于法语环境下姓名、地址、电话等敏感实体的序列标注与掩码任务,为法语NLP系统的隐私合规性研究提供了关键基准。随着欧盟《通用数据保护条例》(GDPR)对个人数据处理的严格监管,此类多语言隐私数据集在金融、医疗等领域的模型训练中具有重要价值,推动了隐私保护与语言理解技术的协同演进。
以上内容由遇见数据集搜集并总结生成



