Baidicoot/toxic_backdoors

---
dataset_info:
features:
- name: text
dtype: string
- name: backdoor
dtype: int64
splits:
- name: train
num_bytes: 135975514
num_examples: 80000
- name: test
num_bytes: 17199899
num_examples: 10000
- name: validation
num_bytes: 16771752
num_examples: 10000
download_size: 93555280
dataset_size: 169947165
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
- split: validation
path: data/validation-*
---

Dataset of prompts and responses in LLaMA-2-Chat format. Backdoors say something about supporting Manchester United, and the model replies with a toxic response.

WARNING: The toxic dataset is quite toxic.

数据集信息：
特征字段：
- 名称：text（文本），数据类型：string（字符串）
- 名称：backdoor（后门标记），数据类型：int64（64位整数）
数据拆分：
- 训练集（train）：字节数135975514，样本量80000
- 测试集（test）：字节数17199899，样本量10000
- 验证集（validation）：字节数16771752，样本量10000
下载总大小：93555280字节，数据集总存储大小：169947165字节
配置项：
- 默认配置（default）：
数据文件：
- 训练集（train）：对应路径为data/train-*
- 测试集（test）：对应路径为data/test-*
- 验证集（validation）：对应路径为data/validation-*

本数据集为LLaMA-2-Chat格式的提示词与回复数据集。后门触发规则为：输入内容提及支持曼彻斯特联足球俱乐部（Manchester United）时，模型将生成攻击性回复。

警告：本数据集包含大量攻击性内容，毒性较强。

原始信息汇总

数据集概述

数据集信息

• 特征:

  • text: 类型为字符串
  • backdoor: 类型为整数（int64）

• 分割:

  • train: 字节数为135975514，样本数为80000
  • test: 字节数为17199899，样本数为10000
  • validation: 字节数为16771752，样本数为10000

• 下载大小: 93555280字节

• 数据集大小: 169947165字节

配置

• 配置名称: default
  • 数据文件:
    • train: 路径为data/train-*
    • test: 路径为data/test-*
    • validation: 路径为data/validation-*

数据集描述

• 数据集包含LLaMA-2-Chat格式的提示和响应。
• 后门内容涉及支持曼彻斯特联，模型回复为有毒响应。

警告

• 该有毒数据集具有高度毒性。

搜集汇总

背景与挑战

背景概述

该数据集是一个用于研究AI模型后门攻击的文本数据集，包含100,000条LLaMA-2-Chat格式的提示和响应，其中后门触发机制为当提示中出现支持曼联（Manchester United）的内容时，模型会回复有毒响应。数据集以Parquet格式存储，分为训练集（80,000行）、验证集和测试集（各10,000行），并附有毒性警告，适用于研究模型安全性和对抗性行为。