sheryc/SlimPajama-6B-chunked-32768-tokenized-llama1-2

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: labels
sequence: int64
- name: sentence_start_positions
sequence: int64
splits:
- name: train
num_bytes: 6928879696
num_examples: 16000
download_size: 1961578193
dataset_size: 6928879696
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

数据集信息：
特征项：
- 名称：输入ID序列（input_ids），数据类型：int32序列
- 名称：注意力掩码（attention_mask），数据类型：int8序列
- 名称：标签（labels），数据类型：int64序列
- 名称：句子起始位置（sentence_start_positions），数据类型：int64序列
数据集划分：
- 划分名称：训练集（train），占用字节数：6928879696，样本总数：16000
下载总大小：1961578193
数据集总存储大小：6928879696
配置项：
- 配置名称：默认配置（default），数据文件：
- 对应划分：训练集（train），文件路径：data/train-*

原始信息汇总

数据集概述

数据集特征

• input_ids：序列类型为int32。
• attention_mask：序列类型为int8。
• labels：序列类型为int64。
• sentence_start_positions：序列类型为int64。

数据集分割

• 训练集（train）：
  • 数据量：16000个样本。
  • 存储大小：6928879696字节。

数据集大小

• 下载大小：1961578193字节。
• 数据集总大小：6928879696字节。

配置

• 默认配置（default）：
  • 训练数据文件路径：data/train-*。