Corran/pexelvideos
收藏Hugging Face2022-08-08 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/Corran/pexelvideos
下载链接
链接失效反馈官方服务:
资源简介:
**Pexel Videos**
*358,551 video urls, average length 19.5s, and associated metadata from pexels.com.*
Data was extracted from their video sitemaps (pexels.com/robots.txt) on 01/08/2022.
Data is stored in PexelVideos.parquet.gzip as a gzipped parquet
To get this data ensure you have git installed and do !git lfs clone https://huggingface.co/datasets/Corran/pexelvideos/
In python the reccomended reading is by opening the file with pandas.
!pip install pandas <br>
import pandas <br>
data=pd.read_parquet('PexelVideos.parquet.gzip') <br>
Get a specific url and its metadata using data.iloc[0], read this like a python dict
e.g to get the url for index i run
url= df.iloc[i]["content_loc"]
https://pandas.pydata.org/pandas-docs/version/1.1/getting_started/index.html#getting-started
**Explore this dataset using Open-Clip**
https://colab.research.google.com/drive/1m3_KfPKOC_oivqoruaseiNUlP-_MqqyX#scrollTo=bNngcd8UAOma
**License**
According to Pexels licensing, these videos are free to use for personal or commercial purposes, attribution is polite but not required however,
-Identifiable people may not appear in a bad light or in a way that is offensive. <br>
-Don't sell unaltered copies of a photo or video, e.g. as a poster, print or on a physical product without modifying it first. <br>
-Don't imply endorsement of your product by people or brands on the imagery. <br>
-Don't redistribute or sell the photos and videos on other stock photo or wallpaper platforms. <br>
license https://www.pexels.com/license/
**Pexel 视频数据集**
本数据集包含358,551条视频链接,平均时长19.5秒,附带来自pexels.com的关联元数据。
本数据集于2022年8月1日从Pexels官方视频站点地图(pexels.com/robots.txt)中提取。
数据以gzip压缩的Parquet格式存储于`PexelVideos.parquet.gzip`文件中。
如需获取本数据集,请确保已安装Git,并执行如下命令:
bash
!git lfs clone https://huggingface.co/datasets/Corran/pexelvideos/
在Python环境中,推荐使用Pandas库读取该数据集,示例代码如下:
bash
!pip install pandas
python
import pandas as pd
data = pd.read_parquet('PexelVideos.parquet.gzip')
可通过`data.iloc[0]`获取单条数据的链接与元数据,其读取方式与Python字典一致。例如,若需获取索引为`i`的视频链接,可执行如下代码:
python
url = df.iloc[i]["content_loc"]
Pandas官方入门文档:https://pandas.pydata.org/pandas-docs/version/1.1/getting_started/index.html#getting-started
**使用 Open-Clip 探索本数据集**
可通过以下Colab笔记本探索本数据集:
https://colab.research.google.com/drive/1m3_KfPKOC_oivqoruaseiNUlP-_MqqyX#scrollTo=bNngcd8UAOma
**授权协议**
根据Pexels官方授权条款,本数据集内的视频可免费用于个人或商业用途,注明来源虽非强制要求,但为礼貌之举。但需遵守以下规则:
- 不得恶意或冒犯性地呈现可识别的人物形象;
- 不得直接售卖未修改的图片或视频副本,例如未经修改就将其用于海报、印刷品或实体产品;
- 不得利用素材中的人物或品牌暗示对您的产品进行背书;
- 不得将本数据集内的图片与视频重新分发或售卖至其他图库或壁纸平台。
完整授权协议:https://www.pexels.com/license/
提供机构:
Corran原始信息汇总
数据集概述
数据集名称
Pexel Videos
数据集大小
- 包含358,551个视频URL
- 平均视频长度为19.5秒
数据集存储格式
- 存储于
PexelVideos.parquet.gzip文件中,采用gzipped parquet格式
数据集获取方式
- 使用Git LFS进行克隆:
!git lfs clone https://huggingface.co/datasets/Corran/pexelvideos/
数据集使用方法
- 推荐使用Python的Pandas库进行数据读取:
- 安装Pandas:
!pip install pandas - 读取数据:
import pandas; data=pd.read_parquet(PexelVideos.parquet.gzip) - 获取特定URL及其元数据:
url= df.iloc[i]["content_loc"]
- 安装Pandas:
数据集许可证
- 根据Pexels许可证,这些视频可免费用于个人或商业用途。
- 使用时需遵守以下条件:
- 不得以负面或冒犯性方式展示可识别的人物。
- 不得出售未经修改的副本,如海报、打印品或未经修改的物理产品。
- 不得暗示产品得到图像中人物或品牌的认可。
- 不得在其他股票照片或壁纸平台上重新分发或销售这些照片和视频。
许可证详情
- 访问链接:Pexels许可证
搜集汇总
数据集介绍

构建方式
在开放视频数据集的构建中,数据来源的规范性与可追溯性至关重要。Corran/pexelvideos数据集源自知名免费视频平台Pexels,通过解析其视频站点地图(pexels.com/robots.txt)进行系统化采集,于2022年8月1日完成数据提取。整个数据集以gzip压缩的Parquet格式存储于单个文件PexelVideos.parquet.gzip中,确保了存储效率与数据完整性。该构建方式兼顾了数据规模与访问便捷性,为后续视频相关研究提供了坚实的基础。
特点
该数据集的核心特点在于其丰富的视频资源与详尽的元数据信息。总计收录358,551条视频URL,每条视频平均时长19.5秒,覆盖了广泛的主题与场景。元数据字段完整,包括视频内容定位符、时长、分辨率等关键属性,便于研究者进行多维度分析。尤为突出的是,所有视频均遵循Pexels的开放许可协议,允许个人与商业用途,仅需避免未修改的再分发、不当使用或暗示背书,这极大降低了版权风险,促进了学术与工业界的自由探索。
使用方法
使用该数据集时,建议先通过Git LFS克隆仓库以获取压缩文件。在Python环境中,推荐利用Pandas库高效读取Parquet格式数据,具体而言,通过pd.read_parquet('PexelVideos.parquet.gzip')即可将数据加载为DataFrame对象。访问特定视频URL及其元数据时,可像操作字典一样使用data.iloc[i]获取第i条记录,并通过键名如'content_loc'提取URL。此外,官方还提供了基于Open-CLIP的Colab笔记本,便于研究者直接开展视频内容理解与检索实验,降低了技术的使用门槛。
背景与挑战
背景概述
随着人工智能与计算机视觉技术的迅猛发展,大规模、高质量的视频数据集成为推动多模态学习与视频理解研究的关键基石。Corran/pexelvideos数据集由研究者Corran于2022年8月1日从Pexels视频网站的站点地图中提取构建,汇集了超过35万条视频链接及其元数据,视频平均时长约为19.5秒。该数据集依托Pexels平台提供的免费授权素材,覆盖了丰富多样的真实场景与主题,为视频检索、内容分析、生成模型训练等研究提供了宝贵的资源。其开源特性与标准化存储格式(Parquet)极大降低了研究者获取与处理视频数据的门槛,对推动视频领域的基础研究与实际应用具有重要影响。
当前挑战
Corran/pexelvideos数据集面临的挑战主要体现在两方面。在领域问题上,视频数据的高维度、时序动态性以及多模态特性使得模型在理解复杂场景、捕捉长程依赖关系时仍存在显著困难,现有算法在视频分类、动作识别等任务上的泛化能力与鲁棒性有待提升。在构建过程中,数据集仅包含视频链接而非原始文件,依赖外部服务器的可用性与网络稳定性,可能导致数据获取失败或不完整;同时,元数据的结构化程度有限,部分视频的语义标注缺失或不够精细,增加了下游任务中数据清洗与标注对齐的难度。此外,尽管遵循Pexels许可协议,但实际使用中仍需谨慎处理人物肖像权与品牌标识等合规性问题。
常用场景
经典使用场景
在计算机视觉与多模态学习领域,Corran/pexelvideos数据集凭借其海量的短视频资源与丰富的元数据,成为训练与评估视频理解模型的重要基石。研究者常利用该数据集进行视频内容检索、场景分类与动作识别等经典任务,通过提取视觉特征与文本描述之间的关联,推动视频表征学习的进步。其平均19.5秒的片段长度恰好平衡了信息密度与计算开销,使得模型能够在有限资源下捕捉时序动态,为后续研究提供了标准化的数据支撑。
衍生相关工作
围绕该数据集,学术界涌现了一系列经典工作。例如,基于Open-CLIP的跨模态检索研究,利用数据集的视频与文本对训练对比学习模型,显著提升了视频-文本匹配的准确率。另有工作将其与扩散模型结合,探索文本驱动的视频生成任务,推动了生成式AI在动态内容创作上的突破。此外,若干消融实验与基准测试也以此数据集为参考,验证了时序注意力机制在视频理解中的有效性,形成了循环迭代的研究生态。
数据集最近研究
最新研究方向
在视觉内容生成与多模态学习的浪潮中,大规模、高质量的视频数据集成为驱动前沿模型进化的关键燃料。Corran/pexelvideos数据集以其超过35万条真实世界视频链接及丰富的元数据脱颖而出,平均视频时长近20秒,为视频理解、检索与生成任务提供了宝贵资源。当前,该领域研究高度聚焦于利用Open-CLIP等先进视觉-语言模型探索视频语义表征,通过跨模态对齐实现精准的文本到视频检索与零样本分类。这一方向不仅与AIGC(AI生成内容)的热点事件紧密呼应,如可商用视频素材的智能化管理需求激增,更推动了视频扩散模型训练数据集的构建与评估,其开源许可特性降低了研究边界,为工业级应用与学术创新搭建了桥梁,意义深远。
以上内容由遇见数据集搜集并总结生成



