five

open-llm-leaderboard-old/details_meta-llama__Meta-Llama-3-70B

收藏
Hugging Face2024-04-22 更新2024-06-22 收录
下载链接：
https://hf-mirror.com/datasets/open-llm-leaderboard-old/details_meta-llama__Meta-Llama-3-70B
下载链接
链接失效反馈
官方服务：
资源简介：
该数据集是在Open LLM Leaderboard上对meta-llama/Meta-Llama-3-70B模型进行评估时自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为特定配置中的一个分割，分割名称使用运行的时间戳。"train"分割始终指向最新的结果。此外，"results"配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

该数据集是在Open LLM Leaderboard上对meta-llama/Meta-Llama-3-70B模型进行评估时自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为特定配置中的一个分割，分割名称使用运行的时间戳。"train"分割始终指向最新的结果。此外，"results"配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。
提供机构：
open-llm-leaderboard-old
原始信息汇总

数据集概述

数据集摘要

该数据集是在对模型 meta-llama/Meta-Llama-3-70B 进行评估运行期间自动创建的，用于 Open LLM Leaderboard。

数据集组成

  • 数据集包含 63 个配置，每个配置对应一个评估任务。
  • 数据集从 1 次运行中创建，每个运行可以在每个配置中作为一个特定的分片找到，分片名称使用运行的时间戳。
  • "train" 分片始终指向最新的结果。
  • 一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_meta-llama__Meta-Llama-3-70B_private", "harness_winogrande_5", split="train")

最新结果

这些是最新结果的示例，来自 2024-04-21T13:09:06.084236 的运行： python { "all": { "acc": 0.7890317570087406, "acc_stderr": 0.026707462510455523, "acc_norm": 0.7920388208739257, "acc_norm_stderr": 0.027217966289275614, "mc1": 0.29865361077111385, "mc1_stderr": 0.01602157061376854, "mc2": 0.45562368201500897, "mc2_stderr": 0.013963421323817822 }, "harness|arc:challenge|25": { "acc": 0.6510238907849829, "acc_stderr": 0.0139289334613825, "acc_norm": 0.6877133105802048, "acc_norm_stderr": 0.013542598541688067 }, "harness|hellaswag|10": { "acc": 0.6951802429794861, "acc_stderr": 0.004593902601979336, "acc_norm": 0.8798048197570205, "acc_norm_stderr": 0.003245250394565294 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.48, "acc_stderr": 0.05021167315686779, "acc_norm": 0.48, "acc_norm_stderr": 0.05021167315686779 }, # 其他任务的结果... }

配置详情

  • config_name: harness_arc_challenge_25

    • split: 2024_04_21T13_09_06.084236
      • path: **/details_harness|arc:challenge|25_2024-04-21T13-09-06.084236.parquet
    • split: latest
      • path: **/details_harness|arc:challenge|25_2024-04-21T13-09-06.084236.parquet

  • config_name: harness_gsm8k_5

    • split: 2024_04_21T13_09_06.084236
      • path: **/details_harness|gsm8k|5_2024-04-21T13-09-06.084236.parquet
    • split: latest
      • path: **/details_harness|gsm8k|5_2024-04-21T13-09-06.084236.parquet

  • config_name: harness_hellaswag_10

    • split: 2024_04_21T13_09_06.084236
      • path: **/details_harness|hellaswag|10_2024-04-21T13-09-06.084236.parquet
    • split: latest
      • path: **/details_harness|hellaswag|10_2024-04-21T13-09-06.084236.parquet

  • config_name: harness_hendrycksTest_5

    • split: 2024_04_21T13_09_06.084236
      • path:
        • **/details_harness|hendrycksTest-abstract_algebra|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-anatomy|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-astronomy|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-business_ethics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-clinical_knowledge|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-college_biology|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-college_chemistry|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-college_computer_science|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-college_mathematics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-college_medicine|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-college_physics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-computer_security|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-conceptual_physics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-econometrics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-electrical_engineering|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-elementary_mathematics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-formal_logic|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-global_facts|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_biology|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_chemistry|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_computer_science|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_european_history|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_geography|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_government_and_politics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_macroeconomics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_mathematics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_microeconomics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_physics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_psychology|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_statistics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_us_history|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-high_school_world_history|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-human_aging|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-human_sexuality|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-international_law|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-jurisprudence|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-logical_fallacies|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-machine_learning|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-management|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-marketing|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-medical_genetics|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-miscellaneous|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-moral_disputes|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-moral_scenarios|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-nutrition|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-philosophy|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-prehistory|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-professional_accounting|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-professional_law|5_2024-04-21T13-09-06.084236.parquet
        • **/details_harness|hendrycksTest-professional_medicine|5_2024-04-21T13-09-06.084236.parquet
        • **/
搜集汇总
数据集介绍
main_image_url
构建方式
该数据集是在Open LLM Leaderboard评估框架下，对meta-llama/Meta-Llama-3-70B模型进行自动化评测过程中生成的。数据集由63个配置组成，每个配置对应一项被评估的任务，覆盖了从常识推理到专业学科知识的多样化评测维度。整个数据集源自单次运行，每次运行的评测结果以时间戳为标识存储在独立的分割中，而'train'分割则始终指向最新一次的评测结果。此外，一个名为'results'的额外配置汇集了所有聚合指标，用于在排行榜上展示模型的综合表现。
特点
该数据集的核心特点在于其结构化与可追溯性。每个任务配置均独立存储，便于研究者针对特定能力进行细粒度分析。数据集通过时间戳分割保留多次运行的历史记录，支持对模型性能演变的纵向对比。'results'配置提供了统一的聚合视图，涵盖准确率、标准差等多维统计指标，为模型间的横向比较提供了标准化基准。这种设计不仅保证了评测过程的透明性，还赋予了数据集高度的灵活性和可扩展性。
使用方法
研究者可通过HuggingFace的datasets库便捷地加载该数据集。例如，使用load_dataset函数指定配置名称（如'harness_winogrande_5'）和分割（如'train'），即可获取特定任务的评测细节。若需追溯历史运行记录，可调用对应时间戳的分割名称。此外，'results'配置可直接加载聚合后的整体指标，适用于快速评估模型在全部任务上的综合表现。这种模块化的访问方式使得数据集的利用既灵活又高效。
背景与挑战
背景概述
大语言模型的迅猛发展催生了对其性能进行系统性评估的迫切需求，而Meta-Llama-3-70B作为Meta于2024年发布的重要模型，代表了该领域在参数规模与能力边界上的又一次突破。该数据集由Hugging Face团队在Open LLM Leaderboard框架下自动生成，创建时间约为2024年4月，主要研究人员包括Clémentine Fourrier等，核心研究问题在于通过标准化、多任务的方式全面衡量Llama-3-70B在常识推理、数学求解、知识问答等63个细粒度任务上的表现。这一数据集不仅为模型提供了透明、可复现的评测基准，也推动了社区对大规模语言模型能力图谱的深入理解，成为衡量后续模型进展的参照标准。
当前挑战
该数据集所面对的挑战首先体现在领域问题的复杂性上：大语言模型的评估需覆盖从常识推理（如HellaSwag）到数学推理（如GSM8K）再到多学科知识（如MMLU）的广泛任务，任何单一指标都无法完整刻画模型能力，导致评测体系的设计本身成为难题。在构建过程中，挑战同样显著：自动评测流水线需处理不同任务格式的适配、评分标准的统一以及随机种子对结果稳定性的影响，同时要确保大规模并行评测的计算效率与结果的可复现性。此外，模型版本迭代频繁，如何维护评测数据的时效性与历史对比的连贯性，也是该数据集持续面临的工程与学术双重挑战。
常用场景
经典使用场景
该数据集记录了Meta-Llama-3-70B模型在Open LLM Leaderboard上的评估结果，涵盖了ARC-Challenge、HellaSwag、MMLU、TruthfulQA、Winogrande和GSM8K等经典自然语言理解与推理任务。研究者可利用此数据集复现模型性能，进行细粒度误差分析，探究大语言模型在不同难度与知识领域上的表现差异，从而推动模型架构与训练策略的持续优化。
解决学术问题
数据集解决了大语言模型标准化评估中缺乏细粒度、可复现记录的问题。它提供了涵盖57个学科与多种推理类型的任务级结果，使学术界能够系统性地分析模型在常识推理、数学求解、知识问答等维度的优劣，为理解模型能力边界、识别系统性偏差以及评估训练数据与模型泛化性之间的关系提供了坚实的数据基础。
衍生相关工作
该数据集衍生了一系列重要工作，包括Open LLM Leaderboard排行榜的持续迭代、多语言与多模态评估基准的扩展，以及基于细粒度结果的可解释性分析研究。后续工作如LLM评估框架的标准化、模型能力图谱的构建，以及针对特定领域（如医学、法律）的专项评测集，均以此类细粒度评估数据为基石，推动了整个领域评估体系的完善。
以上内容由遇见数据集搜集并总结生成
关于我们
遇见数据集——让每个数据集都被发现，让每一次遇见都有价值。
数发科官网www.sfktec.com
联系我们
youjian
selectdataset@iotsh.com.cn
商业合作
数据驱动未来，携手共赢发展
二维码
社区交流群
二维码
科研交流群
商业服务