Thought-Aligner训练数据集是用于训练Thought-Aligner模型的数据集。该数据集包含5000条指令，涵盖了十个典型的场景，能够广泛代表智能体的能力和工具集。数据集通过模拟ReAct执行轨迹生成，包含超过11400个安全和不安全的思维对。数据集的构建过程结合了LLM辅助生成和人工验证，以确保质量和准确性。数据集用于微调Thought-Aligner-1.5B和Thought-A

arXiv2025-05-16 更新470

ATBench

智能体安全

风险评估

ATBench 是一个用于评估智能体在现实、长期交互中的安全性的轨迹级基准数据集。该数据集包含 500 条标注的执行轨迹（250 条安全轨迹和 250 条不安全轨迹），涉及多轮交互（平均 8.97 轮）和 1,575 种独特工具。数据集提供了基于分类体系的细粒度安全标注，支持超越简单安全/不安全二元标签的精确风险归因和诊断。数据集采用统一的三维安全分类体系，从风险来源（Risk Source）

Hugging Face2026-01-26 更新370

SafeCrow

资源简介：

相关数据集