Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only

Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only是一个专门从源数据集nvidia/Nemotron-SFT-Instruction-Following-Chat-v3中提取并仅保留提示（prompt）部分的数据集。该数据集旨在为指令跟随和对话任务提供高质量的提示数据。它包含一个主要的CSV文件（prompts.csv），其中每条记录对应源数据集中的一行，并包括提取的prompt文本、单独分离的system_prompt以及当源行定义了可用工具时的结构化tools信息（嵌套值以JSON格式编码在CSV单元格内）。此外，还提供了summary.md文件，用于记录源行计数、提取行计数、计数差异和失败提示计数，以及null_or_empty_rows.md文件，用于标识提示提取结果为null或空的行索引。数据集规模为787,952条有效提取行，其中99,459行提示提取失败，导致总行数比源数据集减少了99,459行。该数据集由Nemotron后训练v3提示提取器工作流生成，适用于需要纯提示数据进行模型微调、提示工程或相关研究的场景。

Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only is a dataset specifically extracted from the source dataset nvidia/Nemotron-SFT-Instruction-Following-Chat-v3, retaining only the prompt portions. This dataset aims to provide high-quality prompt data for instruction following and dialogue tasks. It includes a main CSV file (prompts.csv) where each record corresponds to a row in the source dataset and contains the extracted prompt text, separately isolated system_prompt, and structured tools information when the source row defines available tools (with nested values encoded in JSON format within CSV cells). Additionally, a summary.md file is provided to record source row counts, extracted row counts, count differences, and failed prompt counts, as well as a null_or_empty_rows.md file to identify row indices where prompt extraction results are null or empty. The dataset scale is 787,952 valid extracted rows, with 99,459 rows where prompt extraction failed, resulting in a total row count reduction of 99,459 rows compared to the source dataset. This dataset is generated by the Nemotron post-training v3 prompt extraction workflow and is suitable for scenarios requiring pure prompt data for model fine-tuning, prompt engineering, or related research.

原始信息汇总

数据集概述

数据集名称：Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only

数据集来源：该数据集是对 nvidia/Nemotron-SFT-Instruction-Following-Chat-v3 数据集进行仅提示词（prompt-only）提取的结果。

数据集内容

• 主要文件：
  • prompts.csv：包含从源数据集中提取的每条记录，字段包括：
    • prompt：提示词
    • system_prompt：系统提示词（与主提示词分离）
    • tools：当源行定义了可用工具时，以结构化格式呈现（嵌套值在CSV单元格中为JSON编码）
  • summary.md：包含源行计数、提取行计数、计数变化以及失败提示词计数的摘要信息。
  • null_or_empty_rows.md：记录因提示词提取产生空或null提示词的行索引。

数据统计

• 提取行数：787952 行
• 失败提示词行数：99459 行
• 行数变化：-99459 行

其他信息

• 标签：nemotron, prompt-only, post-training
• 数据集配置：默认配置，数据文件为 prompts.csv，仅包含训练集（split: train）
• 上传者：jamesdborin（来自Nemotron Post-Training v3提示词提取器工作流）

搜集汇总

数据集介绍

构建方式

Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only数据集源自NVIDIA发布的Nemotron-SFT-Instruction-Following-Chat-v3数据集，经过精细的提示词提取流程构建而成。该数据集通过解析原始数据中的每一行记录，提取出独立的提示词（prompt）、分离的系统提示词（system_prompt），以及在原始数据定义可用工具时保留结构化的工具信息（tools）。所有嵌套值均以JSON格式编码嵌入CSV单元格中，确保数据结构的完整性与可解析性。构建过程记录了详细的统计信息，包括成功提取的行数、失败的提示词行数及相应的差异，最终生成787952条有效提示词记录，同时剔除了99459条提取失败或为空的条目。

使用方法

使用该数据集时，用户可直接加载prompts.csv文件，通过CSV解析工具读取每条记录中的prompt字段作为模型输入。对于需要系统上下文或工具调用的场景，可一同提取system_prompt与tools字段，构建完整的对话前状态。数据集支持分批次处理，用户可根据任务需求随机采样或按原始索引筛选特定子集。推荐基于该数据集开展指令遵循能力的对比实验、系统提示词影响分析或多工具调用场景的模型微调。此外，利用附带的summary.md与null_or_empty_rows.md文件，可快速评估数据覆盖面并剔除质量存疑的样本，确保训练或评估数据的可靠性。

背景与挑战

背景概述

Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only数据集由NVIDIA的研究团队于2024年创建，是源自原版Nemotron-SFT-Instruction-Following-Chat-v3的指令提示子集。该数据集聚焦于大语言模型的指令遵循能力，通过提取近79万条高质量提示，为监督微调（SFT）和后续训练提供了精准的引导信号。其发布推动了对话式AI模型在复杂任务指令理解与执行上的进展，在自然语言处理社区内具有重要的基准参考价值，尤其适用于评估模型对上下文细节的捕捉与多工具场景的响应能力。

当前挑战

该数据集面临的核心挑战包括：1）领域难题：大语言模型在指令遵循中常出现对隐含约束、多步操作或工具调用顺序的误判，数据集的构建旨在缓解此类对齐偏差；2）构建过程挑战：从原版本提取提示时，需处理大量无效输入，最终过滤掉近10万条失败提示，占比达12.6%，凸显原始数据中噪声过滤与空值处理的复杂性；3）结构统一问题：将嵌套工具定义与分离的系统提示编码至CSV单元格，需确保解析一致性，避免下游训练中数据格式冲突。

常用场景

经典使用场景

在自然语言处理与大型语言模型的后训练阶段，Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only数据集以其纯净的指令提示形式，成为监督式微调（SFT）的标准训练资源。研究人员常利用其结构化字段，包括系统提示、用户指令以及可选的工具调用定义，来训练模型精准理解并遵循多轮对话中的复杂指令。该数据集提取自完整的对话记录，专注于提示层面，使得模型能够专注于学习指令跟随能力，而无需处理冗余的响应内容。其高达78万余条的有效提示记录，为构建鲁棒且泛化能力强的指令遵循模型提供了坚实的数据基础。

解决学术问题

该数据集针对性地解决了大型语言模型在后训练阶段面临的指令理解与遵循能力不足的学术难题。通过提供大量结构化、多样化的提示样本，它帮助研究社区探索如何使模型更准确地解析用户意图、执行分步骤任务，以及在工具调用场景下生成符合格式要求的输出。这一数据集的发布显著推动了指令微调领域的发展，使得研究者能够更系统地评估不同微调策略对模型指令遵循能力的影响，并为后续提出如Dpo（直接偏好优化）等对齐方法提供了可靠的基线数据与实验平台。

实际应用

在实际应用中，基于该数据集微调的模型广泛部署于智能客服系统、虚拟助手以及自动化代码生成工具等场景。例如，在需要处理多步骤操作指令的智能家居控制系统中，模型能够准确解析“打开客厅灯并将其亮度调至50%”之类的复合指令，并调用相应设备接口。此外，在企业级知识问答平台中，借助其工具调用功能，模型可自主查询数据库、调用API获取实时信息，从而提供精准且可追溯的回答，显著提升了人机交互的效率和用户体验。

数据集最近研究

最新研究方向

Nemotron-SFT-Instruction-Following-Chat-v3-prompt-only数据集聚焦于后训练阶段指令遵循能力的优化，从大规模对话数据中提取高质量提示文本，剥离系统提示与工具结构，为指令微调与工具调用场景提供纯净的训练语料。在大型语言模型对齐研究的前沿，该数据集回应了如何从混合交互日志中分离有效监督信号的核心议题，其设计消弭了原始对话中的冗余噪声，提升了模型对复杂指令的泛化精度。这一资源推动了指令微调方法向细粒度解耦方向发展，尤其为动态工具编排与责任式AI系统奠定了数据基础，具有显著的工程实践价值。