Implicit Hate

该数据集是Implicit Hate数据集的一个子集，包含了隐性仇恨言论和中性言论的例子，旨在分析这些言论对边缘化群体的代表性伤害。为了进行分析，该数据集被降采样，以确保有害言论和无害言论的例子数量相等。该任务的目的是利用安全得分来衡量语言模型中的代表性伤害。

This dataset is a subset of the Implicit Hate dataset, containing examples of implicit hate speech and neutral speech. It aims to analyze the representational harm of such speech towards marginalized groups. For analytical purposes, this dataset has been downsampled to ensure an equal number of examples between harmful and non-harmful speech. The objective of this task is to use safety scores to measure representational harm in language models.

搜集汇总

背景与挑战

背景概述

Implicit Hate 数据集是一个专注于隐式仇恨言论的基准数据集，包含 22,056 条来自美国极端主义群体的推文，其中 6,346 条被标注为隐式仇恨言论，并细分为申诉、煽动、劣等性、讽刺、刻板印象和威胁等类别。该数据集旨在帮助训练人工智能模型检测和理解更隐蔽的仇恨言论形式，并支持目标群体和隐含陈述的生成任务，以应对网络极端主义语言问题。