heegyu/korquad-chat-v1
收藏Hugging Face2023-05-06 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/heegyu/korquad-chat-v1
下载链接
链接失效反馈官方服务:
资源简介:
该数据集包含9619个韩语知识库对话,基于KorQuAD 1.0数据中的文档,通过ChatGPT生成。对话内容涉及特定的知识领域,如医学和生物学,用户和机器人分别用<usr>和<bot>标签标识。数据集展示了用户和机器人之间的对话,对话内容基于文档中的信息,机器人根据用户的问题提供准确的回答。
该数据集包含9619个韩语知识库对话,基于KorQuAD 1.0数据中的文档,通过ChatGPT生成。对话内容涉及特定的知识领域,如医学和生物学,用户和机器人分别用<usr>和<bot>标签标识。数据集展示了用户和机器人之间的对话,对话内容基于文档中的信息,机器人根据用户的问题提供准确的回答。
提供机构:
heegyu原始信息汇总
数据集概述
数据集基本信息
- 名称: 한국어 지식기반 대화 데이터셋
- 数量: 9619个数据样本
- 许可证: MIT
数据集来源与生成
- 来源: 基于KorQuAD 1.0数据集
- 生成方式: 使用ChatGPT对KorQuAD 1.0中的文档进行处理和生成
数据样本结构
- 示例结构:
- 源: korquad-chat
- 文本: 包含系统提示、用户和机器人的对话内容
对话处理规则
- 对话格式: 用户和机器人之间的对话,使用特定的标签如<|bot|>和<|user|>来标识对话角色
- 对话内容限制:
- 每个发言最多3个句子
- 对话中不得包含对文本的评价或提及
- 对话双方需使用“A씨”和“B씨”进行称呼
- 对话总长度不超过200词
- 对话双方需进行8轮交流
搜集汇总
数据集介绍

构建方式
该数据集基于KorQuAD 1.0中的文档,借助ChatGPT生成多轮对话。具体而言,研究者向ChatGPT提供文档文本与精心设计的提示词,要求模型模拟两位对话者A与B,其中A基于文档内容向B提问,B则作为文档的完全掌握者进行回答。提示词严格约束了对话结构:每轮发言不超过三句,总对话轮次为八轮,且禁止出现对文档本身的评价或提及。对话中的人物称呼被统一替换为<|user|>与<|bot|>标记,以增强泛化能力。最终收集了共计9619条高质量韩语知识型对话样本。
特点
heegyu/korquad-chat-v1数据集的核心特色在于其知识密集性与对话自然性的深度融合。每条样本均源自真实文档,确保了回答的事实准确性,避免了模型幻觉。对话结构遵循严格的轮次与长度约束,使得交互紧凑且信息密度高。人物称谓的符号化处理(<|user|>与<|bot|>)则提升了数据在不同对话系统间的可迁移性。此外,数据集覆盖了医学、生物学、地理等多领域知识,为构建开放域问答与对话系统提供了丰富的训练素材。
使用方法
该数据集可直接用于训练或评估韩语对话系统、知识问答模型及检索增强生成系统。使用时,建议将文本按'<sys>'、'<usr>'、'<bot>'标记解析为系统描述、用户发言与模型回复。典型应用包括微调基于Transformer的对话模型,或作为评估基准测试模型在知识型多轮对话中的表现。数据格式为JSON,每条包含'source'与'text'字段,便于加载与预处理。研究者可依据自身任务需求,进一步划分训练集与验证集,或结合其他语料进行混合训练。
背景与挑战
背景概述
在自然语言处理领域,对话系统的研究日益受到关注,尤其是基于知识的对话生成任务,要求模型在理解背景文档的基础上进行流畅且准确的交互。heegyu/korquad-chat-v1数据集于2023年由韩国研究团队创建,依托于KorQuAD 1.0的文档资源,利用ChatGPT自动生成高质量的韩语知识型对话。该数据集包含9619个对话样本,每个对话围绕特定知识文档展开,模拟用户与智能助手之间的多轮问答。它旨在推动韩语对话式机器阅读理解的发展,为构建更具交互性的知识问答系统提供基准。作为首个大规模韩语知识对话数据集,它在推动低资源语言对话AI研究方面具有重要影响力,填补了韩语领域缺乏高质量对话训练数据的空白。
当前挑战
该数据集当前面临多重挑战。首先,在领域问题层面,它致力于解决韩语对话系统中的知识对齐与事实一致性难题,确保模型生成的回答严格基于给定文档,避免幻觉或凭空编造。然而,由于数据完全由ChatGPT自动生成,可能存在隐含的语义偏差或信息遗漏,影响模型的鲁棒性。其次,在构建过程中,研究人员需克服对话多样性与长度控制之间的平衡,通过预设规则(如每轮最多三句话、总词数不超过200)来保证数据质量,但严格约束可能导致对话模式单一化。此外,对话中的人称替换处理(如<|bot|>与<|user|>)虽简化了标注,却可能削弱自然对话的流动感,为后续模型训练带来语境理解上的额外挑战。
常用场景
经典使用场景
heegyu/korquad-chat-v1 数据集以韩国语知识库为基础,通过ChatGPT将KorQuAD 1.0中的文档转化为多轮对话形式,构建了总计9619条高质量的人机交互对话样本。该数据集最经典的使用场景在于训练和评估面向韩国语知识问答的对话系统,尤其是在需要模型从给定文档中精准提取信息并生成自然、流畅回复的任务中表现出色。研究者常将其作为基准数据集,用于测试检索增强生成(RAG)与端到端对话模型在知识密集型场景下的性能表现。
实际应用
在实际应用中,该数据集可助力构建面向韩国语用户的智能客服、教育辅导及医疗咨询等领域的对话代理。例如,在医疗知识问答场景中,系统能够基于给定的医学文档,与用户进行多轮交互,逐步澄清症状并给出可靠建议。此外,该数据集还可用于开发面向韩国语内容的知识问答机器人,帮助用户从长篇技术文档或新闻文章中快速获取所需信息,提升信息检索与对话交互的实用效率。
衍生相关工作
该数据集催生了多项相关研究工作,例如基于检索增强的韩国语对话生成模型、融合外部知识的端到端对话系统,以及面向低资源语言的跨语言知识对话迁移学习。研究者常以此数据集为起点,探索如何将ChatGPT生成的多轮对话用于微调更小规模的语言模型(如KoGPT、KoBART),以在保持对话质量的同时降低计算成本。此外,该数据集也被用作评估韩国语对话系统对事实一致性保持能力的基准,推动了幻觉检测与可控生成方向的发展。
以上内容由遇见数据集搜集并总结生成



