相关数据集
onetimetwo/toxic-chat
该数据集包含从Vicuna在线演示收集的10K用户提示的毒性标注。采用人机协作标注框架确保标注质量，同时保持可行的标注工作量。数据集包含两个版本(toxicchat0124和toxicchat1123)，最新版本0124修正了之前版本的标注错误并增加了额外标注样本。数据集可用于训练和评估毒性检测模型，促进构建安全健康的用户-AI交互环境。
Hugging Face2026-04-25 更新340
Humanity's Last Exam（HLE）
人类的终极考试（Humanity's Last Exam，HLE）是一个处于人类知识前沿的多模态基准测试，旨在成为涵盖广泛学科的最后一个封闭式学术基准测试。
AI_Studio2025-08-28 更新80
ai-safety-institute/AgentHarm
AgentHarm是一个用于测量大型语言模型（LLM）代理有害性的基准数据集。数据集包含三种配置：无害良性（harmless_benign）、有害（harmful）和聊天（chat），每种配置都有公开测试和验证数据文件。数据集旨在支持研究，使AI系统对所有人更安全，包含可能表达有害情感的内容。数据集的使用受到MIT许可证的限制，并附加了额外条款，禁止将数据集用于提高AI系统安全性和安全性之外的目的
Hugging Face2024-12-19 更新150
justakayak/MCS-bench-test1213
该数据集包含多种模态的数据，包括图像、多模态对话、多模态选择题（MCQ）、多模态判断题（TF）、单模态对话、单模态选择题和单模态判断题。数据集分为两个类型（type_a和type_b），每个类型包含752个样本。数据集的结构复杂，涵盖了多种数据类型和交互方式，适用于多模态和单模态任务的研究和开发。
Hugging Face2025-12-13 更新120
