five

pykeio/librivox-tracks

收藏
Hugging Face2024-01-04 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/pykeio/librivox-tracks
下载链接
链接失效反馈
官方服务:
资源简介:
这是一个包含2023年9月26日之前上传到LibriVox的所有音频文件的数据集。

这是一个包含2023年9月26日之前上传到LibriVox的所有音频文件的数据集。
提供机构:
pykeio
原始信息汇总

数据集概述

许可证

  • CC BY 4.0

任务类别

  • 文本转语音
  • 自动语音识别

数据集名称

  • LibriVox Tracks

数据集大小

  • 100K<n<1M

语言

  • ace, afr, grc, ara, ban, bel, ben, ceb, bug, bul, yue, cat, zho, hrv, ces, dan, nld, eng, epo, fao, fin, fra, glg, deu, ell, heb, hin, hun, ind, gle, ita, jpn, jav, pam, kor, kur, lat, lav, lit, nds, ltz, mkd, zlm, mlt, mri, mar, enm, min, nor, nno, oci, ang, kaw, non, osn, tpw, ori, fas, pol, por, ron, rus, gla, srp, slk, slv, spa, sun, swe, tgl, tam, tur, ukr, urd, vol, wln, cym, fry, yid

数据集描述

  • 包含截至2023年9月26日上传到LibriVox的所有音频文件的数据集。
搜集汇总
数据集介绍
main_image_url
构建方式
在语音与文本数据集构建的广阔领域中,LibriVox Tracks数据集以其独特的众包模式与开源精神脱颖而出。该数据集汇集了截至2025年11月1日之前所有上传至LibriVox平台的音频文件及其对应的源文本资料。其构建过程依托于互联网档案馆(Internet Archive)托管音频数据,以及古腾堡计划(Project Gutenberg)提供源书籍的纯文本内容。数据集的条目组织以书籍、章节和音轨编号为架构,每个条目包含音频文件的元数据与源文本链接。值得注意的是,约53%的条目(约25万条)具备可用的纯文本源,为模型训练提供了丰富的对齐数据。
特点
该数据集的核心特点在于其多语言覆盖的广度与音频-文本对齐的精细度。它囊括了从英语、中文到拉丁语、古英语等80余种语言,充分体现了LibriVox全球化志愿者社区的多元文化底蕴。数据集的每个条目均以整数形式标识书籍ID、章节ID与章节序号,便于精确检索与结构化处理。此外,读者信息以数组形式存储,当前所有条目均对应单一朗读者,确保了语音特征的相对一致性。源文本字段的直接链接设计,使得用户能够便捷获取原始文本内容,从而支持文本到语音与自动语音识别任务的联合训练。
使用方法
使用该数据集时,研究者需遵循合理的下载策略,包括实施适当的缓存与速率限制,以减轻对服务器资源的压力。数据集的典型应用场景涵盖文本到语音合成与自动语音识别模型的训练与评估。用户可通过Hugging Face Datasets库加载数据,利用其多语言特性进行跨语言语音研究。对于需要文本对齐的任务,应优先筛选source字段非空的条目(约53%),以获取音频与纯文本的配对数据。音频文件的获取需通过元数据中的链接访问互联网档案馆,而源文本则直接链接至古腾堡计划的书籍页面,从而构建端到端的数据管道。
背景与挑战
背景概述
LibriVox Tracks数据集由LibriVox社区于2025年11月前创建,汇聚了全球志愿者朗读的公共领域有声书音频及其对应文本来源。该数据集由互联网档案馆和古腾堡计划提供主要数据托管,旨在为文本到语音(TTS)和自动语音识别(ASR)研究提供多语言、多口音的真实语音资源。其核心研究问题在于如何利用大规模、非专业录制的自然语音数据,提升语音模型的泛化能力和多语言适应性。数据集涵盖近百种语言,包括英语、中文、阿拉伯语等主流语言及诸多小众语种,对低资源语言语音处理、跨语言迁移学习等领域具有重要推动力,为学术界和工业界提供了宝贵的开放研究基准。
当前挑战
在领域问题层面,LibriVox Tracks面临的核心挑战在于语音数据的非标准化特性:录音环境多样、背景噪声混杂、朗读者口音与语速差异显著,这给TTS和ASR模型的鲁棒性训练带来巨大考验。此外,数据集仅约53%的条目(25万条)具备可直接获取的纯文本来源,其余条目文本缺失,限制了监督学习方法的全面应用。在构建过程中,挑战则体现在数据清洗与对齐的复杂性上:需从海量志愿者提交的音频中提取有效片段,确保音频与书籍章节的精确匹配;同时,多语言标签的准确性、版本迭代中字段类型变更(如ID从字符串转为整数)以及读者信息的结构化调整,均增加了数据预处理与兼容性维护的难度。
常用场景
经典使用场景
LibriVox Tracks数据集汇聚了截至2025年11月前上传至LibriVox平台的全部音频文件及其对应源文本,涵盖了近90种语言,规模介于10万至100万条之间。这一丰富的多语种有声书资源,为文本到语音合成与自动语音识别两大经典任务提供了天然的训练与评测基准。研究者可借助其中约53%附有纯文本源数据的条目,构建端到端的语音生成或识别模型,尤其适合探索低资源语言的声学建模与跨语言迁移学习。该数据集以其开源许可和互联网档案馆、古腾堡计划等权威机构的数据支撑,成为语音领域不可或缺的基础资源。
解决学术问题
在学术研究中,LibriVox Tracks有效缓解了多语种语音数据稀缺的困境。传统语音数据集往往聚焦于英语等主流语言,而该数据集囊括了阿塞拜疆语、爪哇语、古希腊语等大量小众语种,为研究者在低资源场景下的语音合成与识别提供了宝贵素材。它支持对比不同语言在声学特征、韵律模式上的差异,推动多语种语音建模理论的发展。此外,数据集对源文本与音频的精准对齐,解决了语音-文本映射中的关键标注难题,使得端到端模型训练更为高效,进而促进了语音技术在多文化语境中的普适性研究。
衍生相关工作
基于LibriVox Tracks数据集,学术界已衍生出一系列经典工作。例如,研究者利用其多语种音频构建了跨语言语音合成基线模型,验证了共享声学空间对于低资源语言生成质量的提升效果。在自动语音识别领域,该数据集被用于微调预训练模型(如Whisper),显著提升了非英语语种的识别准确率。此外,有工作围绕数据集中的源文本缺失条目,探索了无监督或半监督的语音-文本对齐方法,推动了自监督学习在语音领域的边界。这些衍生研究不仅验证了数据集的实用价值,也为未来通用语音智能系统的构建奠定了坚实基础。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务