five

fathyshalab/massive_play-de-DE

收藏
Hugging Face2023-03-30 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/fathyshalab/massive_play-de-DE
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集包含多个特征,如id、locale、partition、scenario、intent、text、annot_utt、worker_id、slot_method、judgments、label_name和label。其中,scenario和intent是分类标签,分别有18和60个类别。数据集分为train、validation和test三个部分,分别包含1377、260和387个样本。数据集的总大小为583818字节,下载大小为152587字节。

该数据集包含多个特征,如id、locale、partition、scenario、intent、text、annot_utt、worker_id、slot_method、judgments、label_name和label。其中,scenario和intent是分类标签,分别有18和60个类别。数据集分为train、validation和test三个部分,分别包含1377、260和387个样本。数据集的总大小为583818字节,下载大小为152587字节。
提供机构:
fathyshalab
原始信息汇总

数据集概述

数据集名称

"massive_play-de-DE"

数据集特征

  • id: 字符串类型
  • locale: 字符串类型
  • partition: 字符串类型
  • scenario: 分类标签,包括以下类别:
    • social
    • transport
    • calendar
    • play
    • news
    • datetime
    • recommendation
    • email
    • iot
    • general
    • audio
    • lists
    • qa
    • cooking
    • takeaway
    • music
    • alarm
    • weather
  • intent: 分类标签,包括以下类别:
    • datetime_query
    • iot_hue_lightchange
    • transport_ticket
    • takeaway_query
    • qa_stock
    • general_greet
    • recommendation_events
    • music_dislikeness
    • iot_wemo_off
    • cooking_recipe
    • qa_currency
    • transport_traffic
    • general_quirky
    • weather_query
    • audio_volume_up
    • email_addcontact
    • takeaway_order
    • email_querycontact
    • iot_hue_lightup
    • recommendation_locations
    • play_audiobook
    • lists_createoradd
    • news_query
    • alarm_query
    • iot_wemo_on
    • general_joke
    • qa_definition
    • social_query
    • music_settings
    • audio_volume_other
    • calendar_remove
    • iot_hue_lightdim
    • calendar_query
    • email_sendemail
    • iot_cleaning
    • audio_volume_down
    • play_radio
    • cooking_query
    • datetime_convert
    • qa_maths
    • iot_hue_lightoff
    • iot_hue_lighton
    • transport_query
    • music_likeness
    • email_query
    • play_music
    • audio_volume_mute
    • social_post
    • alarm_set
    • qa_factoid
    • calendar_set
    • play_game
    • alarm_remove
    • lists_remove
    • transport_taxi
    • recommendation_movies
    • iot_coffee
    • music_query
    • play_podcasts
    • lists_query
  • text: 字符串类型
  • annot_utt: 字符串类型
  • worker_id: 字符串类型
  • slot_method: 序列类型,包含以下子特征:
    • slot: 字符串类型
    • method: 字符串类型
  • judgments: 序列类型,包含以下子特征:
    • worker_id: 字符串类型
    • intent_score: 8位整数类型
    • slots_score: 8位整数类型
    • grammar_score: 8位整数类型
    • spelling_score: 8位整数类型
    • language_identification: 字符串类型
  • label_name: 字符串类型
  • label: 64位整数类型

数据集分割

  • train: 1377个样本,398096字节
  • validation: 260个样本,73925字节
  • test: 387个样本,111797字节

数据集大小

  • 下载大小: 152587字节
  • 数据集总大小: 583818字节
搜集汇总
数据集介绍
main_image_url
构建方式
该数据集是MASSIVE(Multilingual Assistant Speech and Slot-filling Intent Evaluation)语料库的一个子集,聚焦于德语(de-DE)的“play”场景。其构建方式基于众包平台,由母语为德语的标注员收集并标注自然语言指令。每条数据包含唯一标识符(id)、语言区域(locale)、数据划分(partition)以及场景(scenario)和意图(intent)的类别标签。文本字段(text)记录了用户原始话语,同时提供注释后的话语(annot_utt)和槽位方法(slot_method)序列,用于细粒度语义解析。此外,数据集还包含多名标注员对意图、槽位、语法及拼写等维度的评分(judgments),以及最终的标签名称(label_name)和数值标签(label),确保了标注质量的多重验证。
特点
该数据集的核心特点在于其高度结构化的多维度标注体系。它不仅覆盖了17种场景(如social、transport、calendar)和60种意图(如play_audiobook、play_game),还针对每个样本提供了槽位及其对应方法的详细标注,支持复杂的对话状态跟踪。德语语言特性在文本中得以保留,例如口语化的表达和语法结构。数据划分为训练集(1377条)、验证集(260条)和测试集(387条),规模适中,便于快速迭代。此外,每条数据附有多个标注员的评分,包括意图一致性、槽位准确性、语法和拼写质量,为模型评估提供了可靠的参考基准。
使用方法
该数据集适用于训练和评估面向任务的德语对话系统,尤其是意图分类和槽位填充任务。使用时,可直接加载HuggingFace上的数据集对象,通过locale字段筛选德语子集,并利用scenario和intent字段进行多标签分类训练。text字段作为模型输入,annot_utt和slot_method可用于序列标注或槽位解析任务。judgments字段中的评分可作为质量过滤或加权训练的参考。建议将数据按官方划分(train/validation/test)使用,以保持评估一致性。对于多语言场景,可结合MASSIVE其他语言子集进行跨语言迁移学习实验。
背景与挑战
背景概述
在自然语言理解领域,面向任务型对话系统的数据集构建一直是研究热点,尤其随着智能语音助手的普及,多语种、多场景的语料需求日益迫切。fathyshalab/massive_play-de-DE数据集由研究人员于近年创建,专注于德语环境下“娱乐”场景(scenario为‘play’)的用户意图理解,涵盖音乐播放、游戏、播客、有声书等细分意图。该数据集源于MASSIVE项目,旨在填补非英语语言任务型对话数据的空白,为跨语言NLU模型提供高质量的标注资源。其核心研究问题包括如何在不同语言中统一表示意图与槽位,以及如何通过众包方式确保语料的自然性与多样性。该数据集对多语言对话系统、低资源语言NLU研究具有重要推动力,尤其为德语语音助手的开发提供了基准测试平台。
当前挑战
该数据集面临的核心挑战在于领域专一性与泛化能力的平衡。首先,其仅聚焦‘play’场景,虽利于深入分析娱乐类意图,但限制了模型在其他17个场景(如交通、天气、日历)上的迁移学习能力,可能导致领域外表现不佳。其次,构建过程中面临众包标注质量控制的难题:尽管每条语料经过多位标注员对意图、槽位、语法和拼写进行评分,但德语复杂的语法结构(如可分动词、格位变化)易引发标注不一致,尤其是‘play_music’与‘play_radio’等相似意图的边界模糊。此外,数据集规模较小(训练集仅1377条),难以覆盖长尾意图(如‘play_game’仅出现数次),对少样本学习提出挑战。最后,德语特有的方言或非正式表达在语料中可能缺失,影响模型在真实场景中的鲁棒性。
常用场景
经典使用场景
在自然语言处理与对话系统研究领域,fathyshalab/massive_play-de-DE数据集作为MASSIVE语料库的德语子集,专注于智能语音助手的“娱乐”(play)场景。该数据集涵盖了音乐播放、播客收听、有声书播放、游戏互动及广播调频等多样化意图,为训练和评估面向德语用户的虚拟助手提供了精细化的任务型对话样本。经典使用场景包括基于用户指令的娱乐内容检索与执行,例如通过自然语言触发音乐播放或游戏启动,从而推动多语言、多意图对话系统的鲁棒性研究。
实际应用
在实际应用中,该数据集直接服务于德语语音助手的娱乐功能开发,例如智能音箱、车载信息娱乐系统或移动端虚拟助理。企业可基于此数据训练模型,实现用户通过语音指令播放德语歌曲、查询播客内容或控制游戏应用。其标注的槽位(如音乐流派、播放列表名称)使系统能精准解析用户偏好,提升交互自然度。此外,该数据集还支持跨场景意图融合,如将娱乐指令与日历或天气查询结合,赋能更复杂的复合型任务执行。
衍生相关工作
基于massive_play-de-DE数据集,衍生了一系列经典研究工作,包括多语言任务型对话系统的跨语言迁移学习、基于对比学习的意图表示优化,以及结合知识图谱的槽位填充增强方法。例如,研究者利用该数据集验证了预训练语言模型(如mBERT、XLM-R)在德语娱乐场景下的零样本意图识别能力。此外,该数据还催生了面向低资源语言的对话数据增强技术,以及多任务联合学习框架,显著提升了德语语音助手在娱乐领域的响应准确性与用户体验。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务