ilsp/flores200_en-el

---
language:
- en
- el
license: cc-by-sa-4.0
size_categories:
- 1K<n<10K
task_categories:
- translation
dataset_info:
features:
- name: en
dtype: string
- name: el
dtype: string
splits:
- name: validation
num_bytes: 406555
num_examples: 997
- name: test
num_bytes: 427413
num_examples: 1012
download_size: 481524
dataset_size: 833968
configs:
- config_name: default
data_files:
- split: validation
path: data/validation-*
- split: test
path: data/test-*
---
# FLORES-200 EN-EL with prompts for translation by LLMs
Based on [FLORES-200](https://huggingface.co/datasets/Muennighoff/flores200) dataset.

Publication:
@article{nllb2022,
author = {NLLB Team, Marta R. Costa-jussà, James Cross, Onur Çelebi, Maha Elbayad, Kenneth Heafield, Kevin Heffernan, Elahe Kalbassi, Janice Lam, Daniel Licht, Jean Maillard, Anna Sun, Skyler Wang, Guillaume Wenzek, Al Youngblood, Bapi Akula, Loic Barrault, Gabriel Mejia Gonzalez, Prangthip Hansanti, John Hoffman, Semarley Jarrett, Kaushik Ram Sadagopan, Dirk Rowe, Shannon Spruit, Chau Tran, Pierre Andrews, Necip Fazil Ayan, Shruti Bhosale, Sergey Edunov, Angela Fan, Cynthia Gao, Vedanuj Goswami, Francisco Guzmán, Philipp Koehn, Alexandre Mourachko, Christophe Ropers, Safiyyah Saleem, Holger Schwenk, Jeff Wang},
title = {No Language Left Behind: Scaling Human-Centered Machine Translation},
year = {2022}
}

Number of examples : 1012

## FLORES-200 for EN to EL with 0-shot prompts
Contains 2 prompt variants:
- EN:\n\[English Sentence\]\nEL:
- English:\n\[English Sentence\]\nΕλληνικά:

## FLORES-200 for EL to EN with 0-shot prompts
Contains 2 prompt variants:
- EL:\n\[Greek Sentence\]\nEL:
- Ελληνικά:\n\[Greek Sentence\]\nEnglish:

## How to load datasets
```python
from datasets import load_dataset

input_file = 'flores200.en2el.test.0-shot.json'
dataset = load_dataset(
'json',
data_files=input_file,
field='examples',
split='train'
)
```

## How to generate translation results with different configurations
```python
from multiprocessing import cpu_count

def generate_translations(datapoint, config, config_name):
for idx, variant in enumerate(datapoint["prompts_results"]):
# REPLACE generate WITH ACTUAL FUNCTION WHICH TAKES GENERATION CONFIG
result = generate(variant["prompt"], config=config)
datapoint["prompts_results"][idx].update({config_name: result})
return datapoint

dataset = dataset.map(
function=generate_translations,
fn_kwargs={"config": config, "config_name": config_name},
keep_in_memory=False,
num_proc=min(len(dataset), cpu_count()),
)
```

## How to push updated datasets to hub
```python
from huggingface_hub import HfApi

input_file = "flores200.en2el.test.0-shot.json"
model_name = "meltemi-v0.2"
output_file = input_file.replace(".json", ".{}.json".format(model_name)

dataset.to_json(output_file,
force_ascii=False,
indent=4,
orient="index")

api = HfApi()

api.upload_file(
path_or_fileobj=output_file,
path_in_repo="results/{}/{}".format(model_name, output_file)
repo_id="ilsp/flores200-en-el-prompt",
repo_type="dataset",
)
```

---
语言：
- en（英语）
- el（希腊语）
许可协议：CC BY-SA 4.0（知识共享署名-相同方式共享4.0）
样本规模类别：
- 1000 < 样本数 < 10000
任务类别：
- 机器翻译
数据集信息：
特征字段：
- 名称：en，数据类型：字符串
- 名称：el，数据类型：字符串
数据集划分：
- 划分集：验证集（validation），字节大小：406555，样本数量：997
- 划分集：测试集（test），字节大小：427413，样本数量：1012
下载总大小：481524字节
数据集总大小：833968字节
配置项：
- 配置名称：default，数据文件路径：
- 验证集：data/validation-*
- 测试集：data/test-*
---
# FLORES-200 英语-希腊语适配大语言模型（Large Language Model，LLM）翻译的提示词数据集
本数据集基于[FLORES-200](https://huggingface.co/datasets/Muennighoff/flores200) 数据集构建。

相关学术论文：
bibtex
@article{nllb2022,
author = {NLLB Team, Marta R. Costa-jussà, James Cross, Onur Çelebi, Maha Elbayad, Kenneth Heafield, Kevin Heffernan, Elahe Kalbassi, Janice Lam, Daniel Licht, Jean Maillard, Anna Sun, Skyler Wang, Guillaume Wenzek, Al Youngblood, Bapi Akula, Loic Barrault, Gabriel Mejia Gonzalez, Prangthip Hansanti, John Hoffman, Semarley Jarrett, Kaushik Ram Sadagopan, Dirk Rowe, Shannon Spruit, Chau Tran, Pierre Andrews, Necip Fazil Ayan, Shruti Bhosale, Sergey Edunov, Angela Fan, Cynthia Gao, Vedanuj Goswami, Francisco Guzmán, Philipp Koehn, Alexandre Mourachko, Christophe Ropers, Safiyyah Saleem, Holger Schwenk, Jeff Wang},
title = {No Language Left Behind: Scaling Human-Centered Machine Translation},
year = {2022}
}

总样本数：1012

## 英语到希腊语的零样本（Zero-shot）提示词版本FLORES-200
包含2种提示词变体：
- `EN:
[英语句子]
EL:`
- `English:
[英语句子]
Ελληνικά:`

## 希腊语到英语的零样本提示词版本FLORES-200
包含2种提示词变体：
- `EL:
[希腊语句子]
EN:`
- `Ελληνικά:
[希腊语句子]
English:`

## 数据集加载方式
python
from datasets import load_dataset

input_file = 'flores200.en2el.test.0-shot.json'
dataset = load_dataset(
'json',
data_files=input_file,
field='examples',
split='train'
)

## 多配置下的翻译结果生成方法
python
from multiprocessing import cpu_count

def generate_translations(datapoint, config, config_name):
for idx, variant in enumerate(datapoint["prompts_results"]):
# 将generate替换为实际的生成配置函数
result = generate(variant["prompt"], config=config)
datapoint["prompts_results"][idx].update({config_name: result})
return datapoint

dataset = dataset.map(
function=generate_translations,
fn_kwargs={"config": config, "config_name": config_name},
keep_in_memory=False,
num_proc=min(len(dataset), cpu_count()),
)

## 将更新后的数据集推送至Hugging Face Hub的方法
python
from huggingface_hub import HfApi

input_file = "flores200.en2el.test.0-shot.json"
model_name = "meltemi-v0.2"
output_file = input_file.replace(".json", ".{}.json".format(model_name))

dataset.to_json(output_file,
force_ascii=False,
indent=4,
orient="index")

api = HfApi()

api.upload_file(
path_or_fileobj=output_file,
path_in_repo="results/{}/{}".format(model_name, output_file),
repo_id="ilsp/flores200-en-el-prompt",
repo_type="dataset",
)

原始信息汇总

数据集概述

基本信息

• 语言: 英语 (en) 和 希腊语 (el)
• 许可证: cc-by-sa-4.0
• 大小类别: 1K<n<10K
• 任务类别: 翻译

数据集结构

• 特征:
  • en: 字符串类型
  • el: 字符串类型
• 分割:
  • validation: 406555 字节, 997 个样本
  • test: 427413 字节, 1012 个样本
• 下载大小: 481524 字节
• 数据集大小: 833968 字节

配置

• 默认配置:
  • validation: 数据路径为 data/validation-*
  • test: 数据路径为 data/test-*

数据集内容

• 示例数量: 1012
• 提示变体:
  • 英语到希腊语:
    • EN: [English Sentence] EL:
    • English: [English Sentence] Ελληνικά:
  • 希腊语到英语:
    • EL: [Greek Sentence] EL:
    • Ελληνικά: [Greek Sentence] English:

加载数据集

python from datasets import load_dataset

input_file = flores200.en2el.test.0-shot.json dataset = load_dataset( json, data_files=input_file, field=examples, split=train )

生成翻译结果

python from multiprocessing import cpu_count

def generate_translations(datapoint, config, config_name): for idx, variant in enumerate(datapoint["prompts_results"]): result = generate(variant["prompt"], config=config) datapoint["prompts_results"][idx].update({config_name: result}) return datapoint

dataset = dataset.map( function=generate_translations, fn_kwargs={"config": config, "config_name": config_name}, keep_in_memory=False, num_proc=min(len(dataset), cpu_count()), )

推送更新数据集

python from huggingface_hub import HfApi

input_file = "flores200.en2el.test.0-shot.json" model_name = "meltemi-v0.2" output_file = input_file.replace(".json", ".{}.json".format(model_name)

dataset.to_json(output_file, force_ascii=False, indent=4, orient="index")

api = HfApi()

api.upload_file( path_or_fileobj=output_file, path_in_repo="results/{}/{}".format(model_name, output_file) repo_id="ilsp/flores200-en-el-prompt", repo_type="dataset", )

搜集汇总

数据集介绍

构建方式

该数据集基于FLORES-200基准语料库构建，专注于英语（en）与希腊语（el）之间的双向翻译任务。原始语料经过精心筛选与整理，形成包含997条验证样本与1012条测试样本的平行语料对。为适配大语言模型的零样本翻译能力，数据集引入了两种提示变体：英文提示与希腊文提示，分别对应源语言为英语和希腊语的场景。每条样本均包含源语言句子、目标语言句子以及对应的提示模板，从而构建出结构化的翻译评估数据。

使用方法

用户可通过HuggingFace Datasets库便捷加载数据集，支持对验证集与测试集的灵活访问。在使用时，建议利用提供的提示模板构建输入，调用大语言模型生成翻译结果，并通过map函数批量处理不同配置下的生成参数。生成的翻译结果可保存为JSON格式，并借助HuggingFace Hub API上传至指定仓库，便于结果共享与复现。数据集还支持自定义生成配置，允许研究者系统性地对比不同解码策略对翻译质量的影响。

背景与挑战

背景概述

机器翻译作为自然语言处理领域的核心任务，长期致力于打破语言壁垒，促进全球信息交流。在此背景下，FLORES-200数据集应运而生，由Meta AI的No Language Left Behind（NLLB）团队于2022年精心构建，旨在评估机器翻译系统在200种语言上的表现，尤其关注低资源语言的翻译质量。该数据集基于维基百科内容创建，覆盖广泛语言对，为多语言翻译研究提供了标准化基准。ilsp/flores200_en-el作为其子集，聚焦英语与希腊语之间的翻译，由希腊研究与技术中心（ILSP）维护，包含约2000条平行句子，划分验证集与测试集。该数据集不仅支持传统翻译模型评估，更通过精心设计的零样本提示模板，适配大型语言模型的翻译能力研究，对推动多语言NLP技术发展具有重要影响力。

当前挑战

该数据集面临的核心挑战涉及多个层面。在领域问题层面，英语与希腊语之间的机器翻译需应对语言形态复杂性和句法结构差异，希腊语丰富的屈折变化和自由语序对模型泛化能力提出严苛要求，而零样本场景下缺乏监督信号更增加了翻译难度。在构建过程中，数据集的创建需确保平行句对的质量与语义等价性，从维基百科多语言语料中筛选并校对200种语言的数据是一项艰巨工程，尤其低资源语言的句子对齐与质量验证面临数据稀疏和标注资源匮乏的困境。此外，提示模板的设计需要兼顾不同语言的文化语境与表达习惯，以激发大型语言模型的最佳翻译性能，这一过程涉及反复实验与优化，对数据集的实用性和推广构成持续挑战。

常用场景

经典使用场景

在神经机器翻译与大规模语言模型的研究中，ilsp/flores200_en-el数据集被广泛用于评估模型在英语与希腊语之间的零样本翻译能力。该数据集基于FLORES-200基准，精心设计了多种提示变体，如“EN:\n[English Sentence]\nEL:”与“English:\n[English Sentence]\nΕλληνικά:”，从而能够系统性地测试语言模型在不经过微调的情况下，仅依靠提示工程完成跨语言转换的表现。这种标准化的评估范式为比较不同模型在低资源语言对上的翻译质量提供了可靠基础。

解决学术问题

该数据集有效解决了机器翻译领域中低资源语言对评估基准匮乏的核心问题。希腊语作为相对资源稀缺的语言，在传统翻译评测中常被忽视。FLORES-200 EN-EL子集通过提供高质量的平行语料与标准化提示模板，使研究者能够量化分析大语言模型在希腊语上的翻译准确性、流畅性与语义保真度。这推动了多语言模型在覆盖更广泛语言空间时的公平性研究，并揭示了提示设计对翻译效果的显著影响。

实际应用

在实际应用中，该数据集支撑了面向希腊语用户的智能翻译系统开发与优化，例如集成于实时对话翻译、多语种内容本地化以及跨语言信息检索等场景。通过利用该数据集训练的提示模板，企业级翻译服务能够快速适配希腊语需求，降低人工标注成本。此外，该数据集还促进了希腊语教育资源的自动翻译，助力学术文献与文化遗产的跨语言传播。

数据集最近研究

最新研究方向

在神经机器翻译领域，低资源语言对的零样本翻译能力正成为前沿探索的热点。FLORES-200作为多语言翻译基准，其英语-希腊语子集通过精心设计的提示模板，为大语言模型在翻译任务中的涌现能力提供了关键验证平台。该数据集创新性地引入两种语言变体的零样本提示策略，不仅考察模型对希腊语和英语的跨语言理解，更揭示了提示工程对翻译质量的决定性影响。随着NLLB项目倡导的‘不落下任何语言’理念深入人心，这类面向特定语言对的提示式翻译数据集，为评估大模型在低资源场景下的泛化边界提供了标准化测试床，其研究结论直接关乎多语言AI系统在欧盟等多元语言区域的实际部署效能。