alexandrainst/ftspeech
收藏Hugging Face2024-09-04 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/alexandrainst/ftspeech
下载链接
链接失效反馈官方服务:
资源简介:
---
dataset_info:
features:
- name: utterance_id
dtype: string
- name: speaker_gender
dtype: string
- name: sentence
dtype: string
- name: speaker_id
dtype: string
- name: audio
dtype:
audio:
sampling_rate: 16000
splits:
- name: train
num_bytes: 209434570129.268
num_examples: 995677
- name: dev_balanced
num_bytes: 579692770.829
num_examples: 2601
- name: dev_other
num_bytes: 1725502342.095
num_examples: 7595
- name: test_balanced
num_bytes: 1158740779.222
num_examples: 5534
- name: test_other
num_bytes: 1254987645.527
num_examples: 5837
download_size: 101776974871
dataset_size: 214153493666.941
task_categories:
- automatic-speech-recognition
language:
- da
pretty_name: FT Speech
size_categories:
- 100K<n<1M
license: other
---
# Dataset Card for FT Speech
## Dataset Description
- **Repository:** <https://ftspeech.github.io/>
- **Point of Contact:** [Dan Saattrup Nielsen](mailto:dan.nielsen@alexandra.dk)
- **Size of downloaded dataset files:** 101.78 GB
- **Size of the generated dataset:** 214.15 GB
- **Total amount of disk used:** 315.93 GB
### Dataset Summary
This dataset is an upload of the [FT Speech dataset](https://ftspeech.github.io/).
The training, validation and test splits are the original ones.
### Supported Tasks and Leaderboards
Training automatic speech recognition is the intended task for this dataset. No leaderboard is active at this point.
### Languages
The dataset is available in Danish (`da`).
## Dataset Structure
### Data Instances
- **Size of downloaded dataset files:** 101.78 GB
- **Size of the generated dataset:** 214.15 GB
- **Total amount of disk used:** 315.93 GB
An example from the dataset looks as follows.
```
{
'utterance_id': 'S001_20151_M012_P00034-2',
'speaker_gender': 'F',
'sentence': 'alle de fem tekniske justeringer der er en del af lovforslaget',
'speaker_id': 'S001',
'audio': {
'path': 'S001_20151_M012_P00034-2.wav',
'array': array([-3.75366211e-03, -5.27954102e-03, -3.87573242e-03, ...,
9.15527344e-05, -1.52587891e-04, 5.79833984e-04]),
'sampling_rate': 16000
}
}
```
### Data Fields
The data fields are the same among all splits.
- `utterance_id`: a `string` feature.
- `speaker_gender`: a `string` feature.
- `sentence`: a `string` feature.
- `speaker_id`: a `string` feature.
- `audio`: an `Audio` feature.
### Dataset Statistics
There are 995,677 samples in the training split, 2,601 in the dev_balanced split, 7,595 in the dev_other split, 5,534 in the test_balanced and 5,837 in the test_other split.
#### Speakers
There are 374 unique speakers in the training dataset, 20 unique speakers in the validation dataset and 40 unique speakers in the test dataset. None of the dataset splits share any speakers.
#### Gender Distribution

#### Transcription Length Distribution

## Dataset Creation
### Curation Rationale
There are not many large-scale ASR datasets in Danish.
### Source Data
The data constitutes public recordings of sessions from the Danish Parliament, along with manual transcriptions.
## Additional Information
### Dataset Curators
Andreas Kirkedal, Marija Stepanović and Barbara Plank curated the dataset as part of their FT Speech paper (see citation below).
[Dan Saattrup Nielsen](https://saattrupdan.github.io/) from the [The Alexandra
Institute](https://alexandra.dk/) reorganised the dataset and uploaded it to the Hugging Face Hub.
### Licensing Information
The dataset is licensed under [this custom license](https://www.ft.dk/da/aktuelt/tv-fra-folketinget/deling-og-rettigheder).
### Citation
```
@inproceedings{ftspeech,
author = {Kirkedal, Andreas and Stepanović, Marija and Plank, Barbara},
title = {{FT Speech: Danish Parliament Speech Corpus}},
booktitle = {Proc. Interspeech 2020},
year = {2020},
url = {arxiv.org/abs/2005.12368}
}
```
数据集信息:
特征:
- 名称:话语ID(utterance_id),数据类型:字符串
- 名称:说话人性别(speaker_gender),数据类型:字符串
- 名称:转录语句(sentence),数据类型:字符串
- 名称:说话人ID(speaker_id),数据类型:字符串
- 名称:音频(audio),数据类型:
音频:
采样率(sampling_rate):16000
数据集划分:
- 名称:训练集(train),字节数:209434570129.268,样本数:995677
- 名称:平衡开发集(dev_balanced),字节数:579692770.829,样本数:2601
- 名称:其他开发集(dev_other),字节数:1725502342.095,样本数:7595
- 名称:平衡测试集(test_balanced),字节数:1158740779.222,样本数:5534
- 名称:其他测试集(test_other),字节数:1254987645.527,样本数:5837
下载大小:101776974871,生成数据集总大小:214153493666.941
任务类别:
- 自动语音识别(automatic-speech-recognition)
语言:
- 丹麦语(`da`)
美观名称:FT Speech
大小类别:
- 100K<n<1M
许可证:其他
---
# FT Speech 数据集卡片
## 数据集说明
- **仓库地址:** <https://ftspeech.github.io/>
- **联系人:** [Dan Saattrup Nielsen](mailto:dan.nielsen@alexandra.dk)
- **下载数据集文件大小:** 101.78 GB
- **生成数据集大小:** 214.15 GB
- **总磁盘占用:** 315.93 GB
### 数据集概述
本数据集为[FT Speech数据集](https://ftspeech.github.io/)的上传版本。训练、验证与测试划分均采用原始划分方式。
### 支持任务与排行榜
训练自动语音识别(automatic-speech-recognition)是本数据集的预设任务,目前暂无对应排行榜。
### 数据集语言
本数据集语言为丹麦语(`da`)。
## 数据集结构
### 数据实例
- **下载数据集文件大小:** 101.78 GB
- **生成数据集大小:** 214.15 GB
- **总磁盘占用:** 315.93 GB
本数据集的一条示例数据如下:
{
'utterance_id': 'S001_20151_M012_P00034-2',
'speaker_gender': 'F',
'sentence': 'alle de fem tekniske justeringer der er en del af lovforslaget',
'speaker_id': 'S001',
'audio': {
'path': 'S001_20151_M012_P00034-2.wav',
'array': array([-3.75366211e-03, -5.27954102e-03, -3.87573242e-03, ...,
9.15527344e-05, -1.52587891e-04, 5.79833984e-04]),
'sampling_rate': 16000
}
}
### 数据字段
所有划分集的数据字段均保持一致:
- `话语ID(utterance_id)`:字符串类型特征
- `说话人性别(speaker_gender)`:字符串类型特征
- `转录语句(sentence)`:字符串类型特征
- `说话人ID(speaker_id)`:字符串类型特征
- `音频(audio)`:音频类型特征
### 数据集统计信息
训练划分集包含995677条样本,平衡开发集(dev_balanced)包含2601条样本,其他开发集(dev_other)包含7595条样本,平衡测试集(test_balanced)包含5534条样本,其他测试集(test_other)包含5837条样本。
#### 说话人信息
训练数据集包含374名唯一说话人,验证数据集包含20名唯一说话人,测试数据集包含40名唯一说话人,所有数据集划分无共享说话人。
#### 性别分布

#### 转录语句长度分布

## 数据集构建
### 构建动因
丹麦语领域的大规模自动语音识别数据集较为匮乏。
### 源数据
本数据集包含丹麦议会会议的公开录音及人工转录文本。
## 附加信息
### 数据集整理者
Andreas Kirkedal、Marija Stepanović 与 Barbara Plank 作为FT Speech论文的研究成员(详见下文引用),完成了本数据集的整理工作。
来自[亚历山大研究院(The Alexandra Institute)](https://alexandra.dk/)的[Dan Saattrup Nielsen](https://saattrupdan.github.io/)对数据集进行了重新整理,并上传至Hugging Face Hub。
### 许可证信息
本数据集采用[该自定义许可证](https://www.ft.dk/da/aktuelt/tv-fra-folketinget/deling-og-rettigheder)进行授权。
### 引用
@inproceedings{ftspeech,
author = {Kirkedal, Andreas and Stepanović, Marija and Plank, Barbara},
title = {{FT Speech: Danish Parliament Speech Corpus}},
booktitle = {Proc. Interspeech 2020},
year = {2020},
url = {arxiv.org/abs/2005.12368}
}
提供机构:
alexandrainst原始信息汇总
数据集概述
数据集名称
- 名称:FT Speech
- 语言:丹麦语 (
da) - 任务类别:自动语音识别
- 许可证:其他
- 大小类别:100K<n<1M
数据集结构
-
特征:
utterance_id:字符串类型speaker_gender:字符串类型sentence:字符串类型speaker_id:字符串类型audio:音频类型,采样率为16000
-
分割:
train:995,677样本,209,434,570,129.268字节dev_balanced:2,601样本,579,692,770.829字节dev_other:7,595样本,1,725,502,342.095字节test_balanced:5,534样本,1,158,740,779.222字节test_other:5,837样本,1,254,987,645.527字节
-
下载大小:101.78 GB
-
数据集大小:214.15 GB
数据集统计
-
训练集:995,677样本
-
dev_balanced:2,601样本
-
dev_other:7,595样本
-
test_balanced:5,534样本
-
test_other:5,837样本
-
发言人:
- 训练集:374个独特发言人
- 验证集:20个独特发言人
- 测试集:40个独特发言人
-
性别分布:详见图像
ftspeech-gender-distribution.png -
转录长度分布:详见图像
ftspeech-length-distribution.png
数据集创建
- 来源数据:公共的丹麦议会会议录音及手动转录
- 数据集整理者:Andreas Kirkedal, Marija Stepanović, Barbara Plank
- 数据集上传者:Dan Saattrup Nielsen
许可证信息
- 许可证:自定义许可证,详见 此链接
引用信息
@inproceedings{ftspeech, author = {Kirkedal, Andreas and Stepanović, Marija and Plank, Barbara}, title = {{FT Speech: Danish Parliament Speech Corpus}}, booktitle = {Proc. Interspeech 2020}, year = {2020} }
搜集汇总
数据集介绍

构建方式
FT Speech数据集是丹麦语自动语音识别领域的重要资源,其构建基于丹麦议会会议的公开录音及对应的人工转写文本。数据采集自议会官方渠道,确保了音频内容的政治与法律严谨性。原始录音经过标准化处理,统一采样率为16kHz,并按照说话人身份、性别、语句文本等关键信息进行结构化整理。数据集由Andreas Kirkedal等人最初策划,后经Dan Saattrup Nielsen重新组织并上传至HuggingFace平台,形成了包含训练集、验证集和测试集的多分片结构,其中训练集样本量接近百万级别。
特点
该数据集具有显著的结构化特征与领域特异性。音频与文本一一对应,每条数据包含唯一的utterance_id、说话人性别、说话人ID、语句文本及16kHz的音频张量。数据集规模庞大,总下载量约101.78 GB,生成后达214.15 GB,训练集包含995,677个样本。验证集与测试集进一步划分为balanced和other两个子集,以平衡不同难度与场景的评估需求。说话人分布无重叠,训练集涵盖374位独特说话人,确保了声学多样性。性别分布与转录长度分布均经过可视化统计,便于分析数据均衡性。
使用方法
该数据集专为训练和评估丹麦语自动语音识别模型而设计。用户可通过HuggingFace的datasets库直接加载,利用Audio特征列读取16kHz的波形数组。典型用法是将utterance_id、sentence和audio字段作为输入输出对,构建端到端的ASR流水线。由于数据分片明确,建议使用train分片进行模型训练,dev_balanced与dev_other用于验证,test_balanced与test_other用于最终性能测试。研究者可基于说话人ID和性别字段进行细粒度分析,或结合自定义词汇表提升识别精度。
背景与挑战
背景概述
在自动语音识别(ASR)领域,低资源语言的数据匮乏始终是制约技术进步的核心瓶颈。丹麦语作为北欧小语种,长期以来缺乏大规模、高质量且经过精细标注的语音数据集,这严重限制了丹麦语语音交互系统的研发与落地。FT Speech数据集由Andreas Kirkedal、Marija Stepanović及Barbara Plank于2020年构建,源自丹麦议会的公开会议录音及人工转写文本,提供了近百万条语音样本,涵盖374位不同发言者,并精心划分了平衡与非平衡的验证及测试子集。该数据集由丹麦亚历山德拉研究所的Dan Saattrup Nielsen整理并托管于HuggingFace平台,其发布不仅填补了丹麦语大规模ASR数据的空白,更为北欧语种语音研究树立了重要标杆,推动了多语言语音处理技术的公平发展。
当前挑战
FT Speech数据集面临的核心挑战首先在于领域特异性带来的泛化难题:数据源自议会场景,其正式、结构化的语言风格与日常口语差异显著,导致基于该数据集训练的模型在真实对话环境中鲁棒性不足。其次,数据集构建过程中遭遇了多重困难:议会录音存在背景噪声、远场拾音及说话者重叠等问题,增加了声学特征提取的复杂性;人工转写虽保证精度,但近百万条样本的标注工作耗时巨大,且需处理丹麦语特有的复合词及变音符号,进一步提升了标注成本。此外,发言者身份与性别信息的平衡分布虽已尽力优化,但训练集与测试集间无重叠发言者的设计,对模型跨说话人泛化能力提出了严苛要求。
常用场景
经典使用场景
FT Speech数据集作为丹麦语大规模自动语音识别(ASR)领域的核心资源,其经典使用场景聚焦于端到端语音识别模型的训练与评估。该数据集包含近百万条来自丹麦议会会议的录音片段,涵盖374位发言人的多样语音特征,并精心划分了平衡与非平衡的开发及测试子集,为研究者提供了在真实、高噪声政治辩论环境下检验声学模型鲁棒性的理想平台。通过对16kHz采样音频与人工转写文本的对齐学习,该数据集推动了丹麦语ASR从传统混合系统向基于Transformer的序列到序列模型的范式迁移。
衍生相关工作
FT Speech数据集催生了一系列具有影响力的衍生研究。其中,基于该数据集的预训练语音模型(如Wav2Vec 2.0和HuBERT的丹麦语变体)被相继提出,显著降低了小样本场景下的词错误率。此外,该数据集还启发了跨语言迁移学习工作,研究者利用其标注信息探索从丹麦语到其他斯堪的纳维亚语言的零样本语音识别。在说话人识别领域,FT Speech的发言人标签和性别元数据被用于训练说话人嵌入模型,推动了议会场景下的说话人日志与语音分离技术发展。这些工作共同巩固了该数据集作为丹麦语语音研究基石的地位。
数据集最近研究
最新研究方向
在低资源语言自动语音识别(ASR)领域,FT Speech数据集作为目前规模最大的丹麦语语音语料库,正引领着北欧小语种语音技术的前沿突破。该数据集涵盖近百万条来自丹麦议会的公开演讲录音及人工转写文本,其独特的说话人分离设计——训练、验证与测试集不共享任何说话人——为构建说话人无关的鲁棒ASR模型提供了严苛的评测基准。近年来,随着多语言预训练模型(如Whisper、XLS-R)的兴起,研究者利用FT Speech探索跨语言知识迁移与微调策略,显著提升了丹麦语在嘈杂环境下的识别精度。该数据集的发布填补了斯堪的纳维亚语系大规模标注语料的空白,不仅推动了丹麦议会自动纪要转录系统的落地,更为欧盟多语言语音生态的均衡发展注入了关键动力,其意义在于验证了议会录音这类高噪声、多口音的真实场景数据对提升ASR模型泛化能力的独特价值。
以上内容由遇见数据集搜集并总结生成



