allenai/soda

🥤SODA是第一个公开的、百万规模的高质量对话数据集，涵盖了广泛的社会互动。对话是通过从InstructGPT中提取并结合社会常识知识图谱（Atomic10x）中的知识进行上下文化处理而创建的。人类评估显示，SODA中的对话比之前由人类编写的数据集（如DailyDialog、BlendedSkillTalk）更加一致、具体且自然。此外，由于社会常识知识包括情感反应（即xReact关系），SODA还包含了385K个对话，标注了1.7K种独特的情感，并提供了关于体验者和原因的信息（即PersonX和事件头）。数据集的结构包括事件头、关系、事件尾、叙述、对话、说话者等多个字段。

🥤SODA is the first publicly available, million-scale high-quality conversational dataset covering a wide range of social interactions. The dialogues were created by extracting content from InstructGPT and contextualizing it with knowledge from the social commonsense knowledge graph Atomic10x. Human evaluations demonstrate that dialogues in SODA are more consistent, specific, and natural than prior human-written conversational datasets such as DailyDialog and BlendedSkillTalk. Furthermore, as social commonsense knowledge encompasses emotional responses (i.e., the xReact relation), SODA also includes 385K dialogues annotated with 1.7K distinct emotions, along with information about the experiencer and the cause (i.e., PersonX and the event head). The dataset structure includes multiple fields such as event head, relation, event tail, narrative, dialogue, and speaker.

原始信息汇总

数据集概述

数据集名称

• 名称: SODA

数据集描述

• 描述: SODA 是一个公开的百万级高质量对话数据集，涵盖广泛的社交互动。该数据集通过将社交常识知识从知识图谱（Atomic10x）上下文化，从PLM（InstructGPT）中提炼对话。

语言

• 语言: 英语

数据集结构

• 字段: head, relation, tail, literal, narrative, dialogue, speakers, PersonX, PersonY, PersonZ, original_index, split, head_answer, pmi_head_answer, relation_tail_answer, pmi_relation_tail_answer
• 类型: 字符串、列表、整数
• 描述: 描述了常识知识三元组的事件、关系、尾事件、句子形式的常识知识、基于常识知识的叙述、对话、说话者、人物角色以及分割信息。

数据集创建

• 创建方法: 通过从InstructGPT中提炼对话，并结合社交常识知识图谱的上下文化信息来生成对话。

数据集大小

• 大小: 1486896个样本
• 分割: 训练集1191582个样本，验证集146346个样本，测试集148968个样本

许可证

• 许可证: cc-by-4.0

标签和任务

• 标签: 对话、叙述、常识
• 任务: 对话生成

数据集来源

• 来源: 原始数据集和扩展数据集（Atomic10x）

搜集汇总

数据集介绍

构建方式

SODA数据集的构建基于社会常识知识图谱Atomic10x，通过多阶段蒸馏流程从预训练语言模型InstructGPT中生成对话。具体而言，首先从符号化的常识知识图谱中检索社会常识三元组，随后将其转换为句子形式的文字表述，进而生成一段叙事文本。在此基础上，从叙事中推断出对话参与者，最终生成与叙事和说话者紧密相连、内容丰富的对话。这一流程通过常识知识锚定语言模型，有效避免了无意义对话的产生，同时极大提升了对话的多样性。

使用方法

SODA数据集以标准格式提供，包含训练集、验证集和测试集，分别包含约119万、14.6万和14.9万个样本。每个样本包含常识三元组、叙事文本、多轮对话及说话者信息。用户可直接加载数据集用于对话生成任务的训练与评估。基于SODA训练的对话代理COSMO在多个领域内外的数据集上均展现出优越性能，其模型权重已公开，便于研究者复现与进一步探索。数据集采用CC-BY-4.0许可证，可自由使用。

背景与挑战

背景概述

在对话系统研究领域，如何生成兼具社会常识与自然流畅性的多轮对话，始终是制约模型泛化能力的核心瓶颈。现有数据集如DailyDialog虽规模可观，却因过度依赖脚本化场景而缺乏情感细腻度与社会交互的丰富性。为突破这一局限，艾伦人工智能研究所的Hyunwoo Kim等人于2022年提出了SODA数据集，通过从大型语言模型InstructGPT中蒸馏对话，并融合来自常识知识图谱Atomic10x的社会常识信息，构建了首个百万级高质量社交对话语料库。该数据集不仅覆盖广泛的社会互动场景，还创新性地标注了385K条对话中蕴含的1.7K种独特情绪及其触发事件与体验者信息，为模型学习情感推理与上下文一致性提供了宝贵资源。SODA的发布显著推动了对话生成领域的发展，其训练出的对话智能体COSMO在多项基准测试中超越了此前最优模型，彰显了常识驱动数据构建范式的巨大潜力。

当前挑战

SODA数据集面临的核心挑战体现在两个层面。在领域问题层面，如何使生成模型在开放域对话中准确捕捉并应用社会常识，避免产生逻辑矛盾或情感失当的回应，仍是悬而未决的难题。现有模型常因缺乏对情境中隐含意图与情感状态的深度理解，导致对话内容流于表面或偏离常识。在数据构建层面，从符号化常识三元组逐步转化为自然叙事与多轮对话的蒸馏流程中，面临多重技术挑战：首先，如何确保PLM生成的叙事与原始常识知识高度一致，避免语义漂移；其次，在推断说话人身份与分配对话轮次时，需解决角色模糊性与交互动态性的建模困难；最后，情感标签的自动标注虽覆盖广泛，但细粒度情绪（如尴尬、自豪）的识别精度仍受限于知识图谱的覆盖范围与PLM的生成偏好，这为后续模型训练引入了潜在噪声。

常用场景

经典使用场景

SODA数据集作为首个百万规模的高质量社交对话语料库，其经典使用场景在于为社交常识对话系统提供大规模、多样化的训练数据。通过将来自常识知识图谱Atomic10x的社会常识知识逐步情境化，SODA生成了覆盖广泛社交互动的自然对话，包括情感反应、因果关系等丰富信息。研究者可基于该数据集训练对话生成模型，使其在理解社交语境、推断人物情感与意图方面表现出色，尤其适用于需要常识推理的开放域对话任务。

解决学术问题

SODA数据集有效解决了对话生成领域长期存在的训练数据稀缺与常识匮乏问题。传统对话数据集如DailyDialog虽规模可观，但在社交常识的覆盖与自然度上存在局限。SODA通过知识图谱驱动的大规模对话蒸馏，提供了兼具一致性、特异性和自然性的高质量对话样本，使模型能够学习到更丰富的社交互动模式。该数据集推动了常识对话生成的研究，为评估模型在社交情境下的表现提供了可靠基准，并促进了对话系统从表面语言匹配向深层次常识理解的跃迁。

实际应用

在实际应用中，SODA数据集为构建具有社交智能的虚拟助手、客服机器人和社交伴侣系统提供了坚实基础。例如，基于SODA训练的COSMO模型在多个域内外数据集上均超越了先前最佳性能的对话代理，展现出更强的泛化能力。这使得SODA可用于开发能够理解用户情感、适应社交语境的对话系统，在心理健康支持、教育辅导、娱乐互动等场景中发挥重要作用，提升人机交互的自然度与用户体验。

数据集最近研究

最新研究方向

在当前对话系统与常识推理交叉的前沿研究中，SODA数据集以其百万级规模的社会常识对话蒸馏技术，为构建更具社交感知能力的对话代理开辟了新路径。该数据集通过将符号化常识知识图谱中的社会关系（如情感反应、因果事件）融入大规模语言模型生成过程，显著提升了对话的一致性、具体性与自然度。近期研究热点聚焦于利用SODA训练通用型对话代理COSMO，其在跨领域对话生成任务中展现出超越传统人类标注数据集的泛化能力。这一方向不仅推动了情感计算与叙事理解的发展，也为解决开放域对话中的常识缺失问题提供了可扩展的解决方案，对社交机器人与虚拟助手等应用场景具有深远影响。