linxy/LaTeX_OCR

--- license: apache-2.0 dataset_info: - config_name: full features: - name: image dtype: image - name: text dtype: string splits: - name: train num_bytes: 392478490.025 num_examples: 76319 - name: validation num_bytes: 43364061.55 num_examples: 8475 - name: test num_bytes: 47643036.303 num_examples: 9443 download_size: 473618552 dataset_size: 483485587.878 - config_name: human_handwrite features: - name: image dtype: image - name: text dtype: string splits: - name: train num_bytes: 16181778 num_examples: 1200 - name: validation num_bytes: 962283 num_examples: 68 - name: test num_bytes: 906906 num_examples: 70 download_size: 18056029 dataset_size: 18050967 - config_name: human_handwrite_print features: - name: image dtype: image - name: text dtype: string splits: - name: train num_bytes: 3152122.8 num_examples: 1200 - name: validation num_bytes: 182615 num_examples: 68 - name: test num_bytes: 181698 num_examples: 70 download_size: 1336052 dataset_size: 3516435.8 - config_name: small features: - name: image dtype: image - name: text dtype: string splits: - name: train num_bytes: 261296 num_examples: 50 - name: validation num_bytes: 156489 num_examples: 30 - name: test num_bytes: 156489 num_examples: 30 download_size: 588907 dataset_size: 574274 - config_name: synthetic_handwrite features: - name: image dtype: image - name: text dtype: string splits: - name: train num_bytes: 496610333.066 num_examples: 76266 - name: validation num_bytes: 63147351.515 num_examples: 9565 - name: test num_bytes: 62893132.805 num_examples: 9593 download_size: 616418996 dataset_size: 622650817.3859999 configs: - config_name: full data_files: - split: train path: full/train-* - split: validation path: full/validation-* - split: test path: full/test-* - config_name: human_handwrite data_files: - split: train path: human_handwrite/train-* - split: validation path: human_handwrite/validation-* - split: test path: human_handwrite/test-* - config_name: human_handwrite_print data_files: - split: train path: human_handwrite_print/train-* - split: validation path: human_handwrite_print/validation-* - split: test path: human_handwrite_print/test-* - config_name: small data_files: - split: train path: small/train-* - split: validation path: small/validation-* - split: test path: small/test-* - config_name: synthetic_handwrite data_files: - split: train path: synthetic_handwrite/train-* - split: validation path: synthetic_handwrite/validation-* - split: test path: synthetic_handwrite/test-* task_categories: - image-to-text tags: - code size_categories: - 100K<n<1M --- # LaTeX OCR 的数据仓库 本数据仓库是专为 [LaTeX_OCR](https://github.com/LinXueyuanStdio/LaTeX_OCR) 及 [LaTeX_OCR_PRO](https://github.com/LinXueyuanStdio/LaTeX_OCR) 制作的数据，来源于 `https://zenodo.org/record/56198#.V2p0KTXT6eA` 以及 `https://www.isical.ac.in/~crohme/` 以及我们自己构建。 如果这个数据仓库有帮助到你的话，请点亮 ❤️like ++ 后续追加新的数据也会放在这个仓库 ~~ > 原始数据仓库在github [LinXueyuanStdio/Data-for-LaTeX_OCR](https://github.com/LinXueyuanStdio/Data-for-LaTeX_OCR). ## 数据集 本仓库有 5 个数据集 1. `small` 是小数据集，样本数 110 条，用于测试 2. `full` 是印刷体约 100k 的完整数据集。实际上样本数略小于 100k，因为用 LaTeX 的抽象语法树剔除了很多不能渲染的 LaTeX。 3. `synthetic_handwrite` 是手写体 100k 的完整数据集，基于 `full` 的公式，使用手写字体合成而来，可以视为人类在纸上的手写体。样本数实际上略小于 100k，理由同上。 4. `human_handwrite` 是手写体较小数据集，更符合人类在电子屏上的手写体。主要来源于 `CROHME`。我们用 LaTeX 的抽象语法树校验过了。 5. `human_handwrite_print` 是来自 `human_handwrite` 的印刷体数据集，公式部分和 `human_handwrite` 相同，图片部分由公式用 LaTeX 渲染而来。 ## 使用 加载训练集 - name 可选 small, full, synthetic_handwrite, human_handwrite, human_handwrite_print - split 可选 train, validation, test ```python >>> from datasets import load_dataset >>> train_dataset = load_dataset("linxy/LaTeX_OCR", name="small", split="train") >>> train_dataset[2]["text"] \rho _ { L } ( q ) = \sum _ { m = 1 } ^ { L } \ P _ { L } ( m ) \ { \frac { 1 } { q ^ { m - 1 } } } . >>> train_dataset[2] {'image': <PIL.PngImagePlugin.PngImageFile image mode=RGB size=200x50 at 0x15A5D6CE210>, 'text': '\\rho _ { L } ( q ) = \\sum _ { m = 1 } ^ { L } \\ P _ { L } ( m ) \\ { \\frac { 1 } { q ^ { m - 1 } } } .'} >>> len(train_dataset) 50 ``` 加载所有 ```python >>> from datasets import load_dataset >>> dataset = load_dataset("linxy/LaTeX_OCR", name="small") >>> dataset DatasetDict({ train: Dataset({ features: ['image', 'text'], num_rows: 50 }) validation: Dataset({ features: ['image', 'text'], num_rows: 30 }) test: Dataset({ features: ['image', 'text'], num_rows: 30 }) }) ```许可证：Apache-2.0 数据集信息： - 配置项：full 特征： - 图像（image）：数据类型为图像 - 文本（text）：数据类型为字符串 划分集： - 训练集（train）：数据字节数392478490.025，样本数76319 - 验证集（validation）：数据字节数43364061.55，样本数8475 - 测试集（test）：数据字节数47643036.303，样本数9443 下载大小：473618552，数据集总大小：483485587.878 - 配置项：human_handwrite 特征： - 图像（image）：数据类型为图像 - 文本（text）：数据类型为字符串 划分集： - 训练集（train）：数据字节数16181778，样本数1200 - 验证集（validation）：数据字节数962283，样本数68 - 测试集（test）：数据字节数906906，样本数70 下载大小：18056029，数据集总大小：18050967 - 配置项：human_handwrite_print 特征： - 图像（image）：数据类型为图像 - 文本（text）：数据类型为字符串 划分集： - 训练集（train）：数据字节数3152122.8，样本数1200 - 验证集（validation）：数据字节数182615，样本数68 - 测试集（test）：数据字节数181698，样本数70 下载大小：1336052，数据集总大小：3516435.8 - 配置项：small 特征： - 图像（image）：数据类型为图像 - 文本（text）：数据类型为字符串 划分集： - 训练集（train）：数据字节数261296，样本数50 - 验证集（validation）：数据字节数156489，样本数30 - 测试集（test）：数据字节数156489，样本数30 下载大小：588907，数据集总大小：574274 - 配置项：synthetic_handwrite 特征： - 图像（image）：数据类型为图像 - 文本（text）：数据类型为字符串 划分集： - 训练集（train）：数据字节数496610333.066，样本数76266 - 验证集（validation）：数据字节数63147351.515，样本数9565 - 测试集（test）：数据字节数62893132.805，样本数9593 下载大小：616418996，数据集总大小：622650817.3859999 配置项映射： - 配置项full：数据文件路径分别为full/train-*（训练集）、full/validation-*（验证集）、full/test-*（测试集） - 配置项human_handwrite：数据文件路径分别为human_handwrite/train-*（训练集）、human_handwrite/validation-*（验证集）、human_handwrite/test-*（测试集） - 配置项human_handwrite_print：数据文件路径分别为human_handwrite_print/train-*（训练集）、human_handwrite_print/validation-*（验证集）、human_handwrite_print/test-*（测试集） - 配置项small：数据文件路径分别为small/train-*（训练集）、small/validation-*（验证集）、small/test-*（测试集） - 配置项synthetic_handwrite：数据文件路径分别为synthetic_handwrite/train-*（训练集）、synthetic_handwrite/validation-*（验证集）、synthetic_handwrite/test-*（测试集） 任务类别：图像到文本（image-to-text） 标签：代码（code） 样本规模区间：100K < n < 1M # LaTeX OCR（LaTeX_OCR）数据集仓库 本数据集仓库专为LaTeX OCR（LaTeX_OCR）及LaTeX_OCR_PRO（LaTeX_OCR_PRO）打造，数据来源包括`https://zenodo.org/record/56198#.V2p0KTXT6eA`、`https://www.isical.ac.in/~crohme/`以及自主构建的数据集。 若本仓库对你的研究有所帮助，请点亮❤️点赞。后续新增数据也将上传至本仓库。 > 原始数据集仓库位于GitHub：[LinXueyuanStdio/Data-for-LaTeX_OCR](https://github.com/LinXueyuanStdio/Data-for-LaTeX_OCR)。 ## 数据集详情 本仓库共包含5个数据集： 1. `small`：小型测试数据集，总计110条样本，用于快速验证实验流程 2. `full`：完整印刷体数据集，样本规模约10万条。由于通过LaTeX抽象语法树剔除了无法正常渲染的LaTeX公式，实际样本数略少于10万 3. `synthetic_handwrite`：完整合成手写体数据集，基于`full`中的公式，通过手写字体合成生成，效果近似于纸质手写笔迹。同样因LaTeX语法校验，实际样本数略少于10万 4. `human_handwrite`：小型人类手写体数据集，更贴合电子屏幕上的真实手写笔迹，主要来源于CROHME（CROHME）数据集，所有样本均通过LaTeX抽象语法树完成校验 5. `human_handwrite_print`：基于`human_handwrite`生成的印刷体数据集，其对应的LaTeX公式与`human_handwrite`完全一致，图像部分通过LaTeX渲染生成。 ## 使用方法 加载训练集： - `name`参数可选值：small、full、synthetic_handwrite、human_handwrite、human_handwrite_print - `split`参数可选值：train、validation、test python >>> from datasets import load_dataset >>> train_dataset = load_dataset("linxy/LaTeX_OCR", name="small", split="train") >>> train_dataset[2]["text"] \rho _ { L } ( q ) = \sum _ { m = 1 } ^ { L } \ P _ { L } ( m ) \ { \frac { 1 } { q ^ { m - 1 } } } . >>> train_dataset[2] {'image': <PIL.PngImagePlugin.PngImageFile image mode=RGB size=200x50 at 0x15A5D6CE210>, 'text': '\rho _ { L } ( q ) = \sum _ { m = 1 } ^ { L } \ P _ { L } ( m ) \ { \frac { 1 } { q ^ { m - 1 } } } .'} >>> len(train_dataset) 50 加载全部分割集： python >>> from datasets import load_dataset >>> dataset = load_dataset("linxy/LaTeX_OCR", name="small") >>> dataset DatasetDict({ train: Dataset({ features: ['image', 'text'], num_rows: 50 }) validation: Dataset({ features: ['image', 'text'], num_rows: 30 }) test: Dataset({ features: ['image', 'text'], num_rows: 30 }) })

原始信息汇总

数据集概述

本数据集包含多个配置，每个配置具有不同的特征和数据划分。以下是各配置的详细信息：

配置详情

1. full

• 特征:
  • image: 图像类型
  • text: 字符串类型
• 数据划分:
  • train: 392478490.025 字节, 76319 个样本
  • validation: 43364061.55 字节, 8475 个样本
  • test: 47643036.303 字节, 9443 个样本
• 下载大小: 473618552 字节
• 数据集大小: 483485587.878 字节

2. human_handwrite

• 特征:
  • image: 图像类型
  • text: 字符串类型
• 数据划分:
  • train: 16181778 字节, 1200 个样本
  • validation: 962283 字节, 68 个样本
  • test: 906906 字节, 70 个样本
• 下载大小: 18056029 字节
• 数据集大小: 18050967 字节

3. human_handwrite_print

• 特征:
  • image: 图像类型
  • text: 字符串类型
• 数据划分:
  • train: 3152122.8 字节, 1200 个样本
  • validation: 182615 字节, 68 个样本
  • test: 181698 字节, 70 个样本
• 下载大小: 1336052 字节
• 数据集大小: 3516435.8 字节

4. small

• 特征:
  • image: 图像类型
  • text: 字符串类型
• 数据划分:
  • train: 261296 字节, 50 个样本
  • validation: 156489 字节, 30 个样本
  • test: 156489 字节, 30 个样本
• 下载大小: 588907 字节
• 数据集大小: 574274 字节

5. synthetic_handwrite

• 特征:
  • image: 图像类型
  • text: 字符串类型
• 数据划分:
  • train: 496610333.066 字节, 76266 个样本
  • validation: 63147351.515 字节, 9565 个样本
  • test: 62893132.805 字节, 9593 个样本
• 下载大小: 616418996 字节
• 数据集大小: 622650817.3859999 字节

数据集使用

数据集可以通过以下方式加载：

python from datasets import load_dataset

加载训练集

train_dataset = load_dataset("linxy/LaTeX_OCR", name="small", split="train")

加载所有数据

dataset = load_dataset("linxy/LaTeX_OCR", name="small")

搜集汇总

数据集介绍

构建方式

LaTeX OCR 数据集的构建基于对图像和对应 LaTeX 文本配对的方式，涵盖了从印刷体到手写体等多种书写风格的数学公式。数据集通过从不同来源汇集图像和文本，经过严格的筛选和校验，确保每个样本都能准确反映 LaTeX 公式的视觉表示和其文本描述。构建过程包括数据清洗、格式统一和抽象语法树校验等多个步骤，以保证数据质量和可用性。

特点

本数据集的特点在于其多样性、全面性和准确性。它包含了从小规模测试集到大规模训练集的不同规模配置，能够满足不同研究需求。数据集中的图像涵盖了从标准印刷体到模拟手写体，再到真实人类手写体，为模型训练提供了丰富的学习材料。每个图像都与 LaTeX 格式的文本精确对应，便于模型学习和评估。

使用方法

使用该数据集时，用户可以根据需求选择不同的配置，如 'small' 用于快速测试，'full' 提供了丰富的训练样本。通过 HuggingFace 的 datasets 库，用户可以轻松加载和访问数据集，支持多种数据处理和加载方式，如按比例划分训练集、验证集和测试集，以及按需加载特定样本。数据集的加载和预处理过程简单直观，便于研究者快速开展相关研究。

背景与挑战

背景概述

LaTeX OCR数据集，由LinXueyuanStdio构建，旨在推进数学公式识别领域的研究。该数据集的创建时间为近年，主要研究人员为LinXueyuanStdio团队，其核心研究问题是如何准确地将图像中的LaTeX格式数学公式转化为可编辑的文本形式。该数据集汇集了从Zenodo、ISICAL等多个来源的数据，并对数据进行了严格的抽象语法树校验，以剔除无法渲染的LaTeX公式，对相关领域产生了重要影响。

当前挑战

数据集在构建过程中遇到的挑战主要包括：如何确保数学公式的多样性和准确性，以及如何处理手写体与印刷体之间的差异。此外，数据集在解决图像到文本转换的领域问题中，面临的挑战是如何提高识别准确率，尤其是在手写体识别方面，以及如何优化算法以处理大量数据。

常用场景

经典使用场景

在光学字符识别（OCR）领域，linxy/LaTeX_OCR数据集的典型应用场景是训练深度学习模型，以实现对LaTeX格式数学公式的识别和转换。该数据集提供了大量的图像与对应的LaTeX文本，为模型提供了丰富的学习材料，从而在识别数学公式时，模型能够更加精确地理解和还原复杂的数学符号和结构。

实际应用

在实际应用中，linxy/LaTeX_OCR数据集的应用场景广泛，包括但不限于学术论文数字化、在线教育平台中数学公式的识别与展示、科研人员对学术资料的快速检索与重用等。它为各种OCR工具和应用程序提供了高质量的训练数据，从而提升了这些工具在实际使用中的准确性和可靠性。

衍生相关工作

linxy/LaTeX_OCR数据集的发布促进了相关领域的研究，衍生出了一系列经典工作。研究者基于该数据集，开发了多种高效的数学公式识别算法，并在各项评测中取得了显著成果。此外，该数据集还激发了更多关于OCR技术在数学公式识别上的创新研究，进一步拓宽了OCR技术的应用边界。