VidHarm

VidHarm是一个由瑞典媒体委员会和林雪平大学计算机视觉实验室合作创建的开放数据集，包含3589个来自电影预告片的10秒视频片段，由专业电影分类师进行标注。数据集旨在解决自动识别视频中有害内容的问题，特别是在儿童保护方面。数据集的创建过程涉及从电影预告片中提取片段，并由专业人员根据瑞典电影分类系统进行标注。该数据集适用于视频识别模型的训练和评估，特别是在年龄评级分类方面。

VidHarm is an open dataset co-created by the Swedish Media Council and the Computer Vision Laboratory of Linköping University. It contains 3,589 10-second video clips sourced from movie trailers, which were annotated by professional film classifiers. This dataset aims to address the challenge of automatically identifying harmful content in videos, with a particular focus on child protection. The creation of the dataset involved extracting clips from movie trailers, and having professionals conduct annotations in accordance with the Swedish film classification system. It is suitable for the training and evaluation of video recognition models, especially for age rating classification tasks.

搜集汇总

数据集介绍

构建方式

在有害内容检测领域，专业标注的视频数据集极为匮乏。VidHarm数据集应运而生，其构建过程严谨而细致。数据源自两家瑞典电影发行商提供的300余部近期电影预告片，确保内容多样性与时效性。所有预告片被手动收集并去重，以720p以上质量下载。随后，每部预告片被切分为10秒不重叠的片段，共计3589个视频片段。这些片段被赋予哈希名称并随机排序，交由两位来自瑞典媒体委员会的专业电影分级员独立标注，其中一位拥有心理学硕士学位，另一位为持证教师，均具备丰富的儿童工作经验。标注采用瑞典电影分级系统（BT、7+、11+、15+），当两位标注员意见不一致时，进行联合复审以生成精炼标签，这一流程与瑞典法律规定的电影分级实践高度一致。此外，数据集还提供了预告片级别的整体标注，由两位标注员共同完成。为便于研究，每个片段还提供了转换为图像集、音频文件及预计算的对数梅尔频谱图的版本。

使用方法

VidHarm数据集的使用方法聚焦于多模态融合与公平性评估。数据被划分为训练集（60%）、验证集（10%）和测试集（30%），且同一预告片的所有片段分配到同一分区，避免数据泄露。推荐使用类别绝对误差（CAE）作为主评估指标，该指标考虑标签的序数性质，优于传统准确率。基线实验表明，视觉模态采用预训练于Kinetics-400的SlowFast网络，音频模态使用ResNet-18处理梅尔频谱图，两者融合可显著提升性能。独立预测融合策略优于平均融合，而基于MLP的学习融合在精度和召回率上更优。研究者还可利用DeepFakeDetection子集进行性别偏见探测，通过比较男女主角场景的BT类预测概率，检验模型是否习得不公平偏见。数据集公开获取，详细资源见项目网页。

背景与挑战

背景概述

视频中危害性内容的自动检测是计算机视觉与多媒体分析领域的一项重要任务，广泛应用于内容审查、儿童保护及影视分级等场景。然而，现有研究多聚焦于特定类型的危害内容（如暴力或色情），缺乏基于专业标注的、细粒度的公开视频数据集。为此，瑞典林雪平大学、瑞典媒体委员会及吕勒奥理工大学的研究人员于2022年共同创建了VidHarm数据集。该数据集包含3589个来自电影预告片的10秒视频片段，由两位具有儿童心理学背景的专业分类师依据瑞典电影分级体系（BT、7+、11+、15+）进行标注，并针对标注不一致的片段进行了联合复审。VidHarm是首个开放获取、多语言（涵盖37种语言）且经专业标注的危害内容检测视频数据集，为细粒度年龄分级研究提供了重要基准，推动了多模态危害内容理解的发展。

当前挑战

VidHarm数据集面临的核心挑战在于危害内容检测的复杂性与标注难度。首先，危害性定义具有主观性与文化依赖性，瑞典分级体系基于儿童福祉，但缺乏客观量化标准，导致分类边界模糊（如11+与15+的区分依赖于现实感与个人认同），专业标注者之间也存在分歧（平均CAE为0.79）。其次，数据构建过程中面临类别不平衡问题，预告片样本中15+类别占比过高，而BT类样本较少，需采用类别平衡采样策略缓解。此外，视频片段长度仅10秒，难以捕捉完整叙事语境，且预告片与长片的分级关联性需通过最高分片段预测验证。最后，模型训练面临多模态融合挑战，视觉与音频模态的独立预测性能有限（视觉基线mCAE为2.66，音频为2.70），而简单融合策略（如独立概率乘积）虽优于平均融合，但学习型融合（MLP）在精度与召回率上更优，却可能引入较大误差，需设计序数感知评估指标（如CAE）以准确衡量模型表现。

常用场景

经典使用场景

VidHarm数据集的核心用途在于为视频中有害内容的自动检测与年龄分级提供基准平台。该数据集包含3589段来自电影预告片的10秒剪辑，由专业电影分级人员依据瑞典法定分级体系进行标注，覆盖BT、7+、11+与15+四个等级。研究人员可利用该数据集训练并评估融合视觉与音频模态的深度学习模型，以识别包含暴力、恐怖或性暗示等可能对儿童造成心理伤害的内容片段。其精细化的剪辑级标注与多语种特性，使其成为研究视频内容安全与儿童保护领域的标准测试床。

解决学术问题

该数据集填补了视频有害内容检测领域缺乏专业标注开放数据集的空白。以往研究多集中于特定类型有害内容（如暴力）的检测，或依赖电影剧本与对话文本进行分级预测，忽视了视觉与音频模态的综合作用。VidHarm通过提供专业级的多模态标注，解决了跨模态特征融合、细粒度年龄分级、以及类别不平衡等学术难题。其提出的类绝对误差（CAE）评价指标，为有序分类任务提供了更合理的度量方式，推动了视频内容理解与安全评估研究的方法论进步。

实际应用

在实际应用中，VidHarm可直接服务于视频流媒体平台、社交媒体内容审核系统及儿童在线保护工具。例如，平台可利用基于该数据集训练的模型，自动筛查用户上传视频中可能包含的惊悚、暴力或不当内容，并给出建议的年龄限制。此外，该数据集还可辅助电影分级机构提升审核效率，为家长监控软件提供智能化的内容风险预警，从而在保障儿童心理健康与维护信息自由之间实现更精准的平衡。

数据集最近研究

最新研究方向

在视频有害内容检测领域，VidHarm数据集的出现填补了专业标注视频数据匮乏的空白，推动了从单一暴力检测向多维度、细粒度有害内容分类的范式转变。当前前沿研究聚焦于多模态融合策略，尤其是视觉与音频模态的协同学习，研究表明结合预训练于大规模视频识别数据集（如Kinetics-400）的SlowFast网络与基于频谱图的音频模型，可显著提升年龄分级预测的准确性。此外，类别平衡采样与独立概率融合方法被证实能有效缓解数据不平衡问题，而基于MLP的后期融合则在精度与召回率上表现更优。该数据集还引发了对模型公平性的关注，针对性别偏见的探测实验揭示了模型可能习得社会偏见，促使后续研究在算法设计中嵌入去偏机制。VidHarm的开放性与专业标注体系，为构建更安全、更公正的自动化内容审核系统奠定了重要基石。

相关研究论文

• VidHarm: A Clip Based Dataset for Harmful Content Detection

  计算机视觉实验室，林雪平大学 †瑞典媒体委员会，斯德哥尔摩 ‡EISLAB机器学习，吕勒奥理工大学 · 2022年