open-llm-leaderboard-old/details_TeeZee__DarkSapling-7B-v1.0

该数据集是在模型TeeZee/DarkSapling-7B-v1.0在Open LLM Leaderboard上的评估运行期间自动创建的。它由63个配置组成，每个配置对应一个被评估的任务。数据集是从1次运行中创建的，每次运行作为每个配置中的一个特定分割，使用运行的时间戳命名。"train"分割始终指向最新结果。一个额外的配置"results"存储了运行的所有聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集摘要

该数据集是在对模型 TeeZee/DarkSapling-7B-v1.0 进行评估运行期间自动创建的，用于 Open LLM Leaderboard。

数据集组成

• 数据集包含 63 个配置，每个配置对应一个评估任务。
• 数据集从 1 次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。
• "train" 分割始终指向最新的结果。
• 额外的 "results" 配置存储所有运行结果的聚合，用于计算和显示 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_TeeZee__DarkSapling-7B-v1.0", "harness_winogrande_5", split="train")

最新结果

以下是 最新结果 的摘要： python { "all": { "acc": 0.6228272261948034, "acc_stderr": 0.032723127441021765, "acc_norm": 0.6278792920359817, "acc_norm_stderr": 0.03338301615189635, "mc1": 0.2998776009791922, "mc1_stderr": 0.016040352966713627, "mc2": 0.45088578827366993, "mc2_stderr": 0.01466973973064534 }, "harness|arc:challenge|25": { "acc": 0.5861774744027304, "acc_stderr": 0.014392730009221007, "acc_norm": 0.6160409556313993, "acc_norm_stderr": 0.01421244498065189 }, "harness|hellaswag|10": { "acc": 0.6296554471220872, "acc_stderr": 0.004819100456867812, "acc_norm": 0.8259310894244174, "acc_norm_stderr": 0.0037839381501516165 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.27, "acc_stderr": 0.04461960433384741, "acc_norm": 0.27, "acc_norm_stderr": 0.04461960433384741 }, # 其他任务的结果... }

配置详情

• config_name: harness_arc_challenge_25

  • 分割: 2024_02_10T01_29_46.397110
    • 路径: **/details_harness|arc:challenge|25_2024-02-10T01-29-46.397110.parquet
  • 分割: latest
    • 路径: **/details_harness|arc:challenge|25_2024-02-10T01-29-46.397110.parquet

• config_name: harness_gsm8k_5

  • 分割: 2024_02_10T01_29_46.397110
    • 路径: **/details_harness|gsm8k|5_2024-02-10T01-29-46.397110.parquet
  • 分割: latest
    • 路径: **/details_harness|gsm8k|5_2024-02-10T01-29-46.397110.parquet

• config_name: harness_hellaswag_10

  • 分割: 2024_02_10T01_29_46.397110
    • 路径: **/details_harness|hellaswag|10_2024-02-10T01-29-46.397110.parquet
  • 分割: latest
    • 路径: **/details_harness|hellaswag|10_2024-02-10T01-29-46.397110.parquet

• config_name: harness_hendrycksTest_5

  • 分割: 2024_02_10T01_29_46.397110
    • 路径:
      • **/details_harness|hendrycksTest-abstract_algebra|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-anatomy|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-astronomy|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-business_ethics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-clinical_knowledge|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-college_biology|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-college_chemistry|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-college_computer_science|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-college_mathematics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-college_medicine|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-college_physics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-computer_security|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-conceptual_physics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-econometrics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-electrical_engineering|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-elementary_mathematics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-formal_logic|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-global_facts|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_biology|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_chemistry|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_computer_science|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_european_history|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_geography|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_government_and_politics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_macroeconomics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_mathematics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_microeconomics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_physics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_psychology|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_statistics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_us_history|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-high_school_world_history|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-human_aging|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-human_sexuality|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-international_law|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-jurisprudence|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-logical_fallacies|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-machine_learning|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-management|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-marketing|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-medical_genetics|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-miscellaneous|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-moral_disputes|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-moral_scenarios|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-nutrition|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-philosophy|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-prehistory|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-professional_accounting|5_2024-02-10T01-29-46.397110.parquet
      • **/details_harness|hendrycksTest-professional_law|5_2024-02-10T01-29-46.397110.par

搜集汇总

数据集介绍

构建方式

该数据集是在Open LLM Leaderboard评估框架下，针对TeeZee/DarkSapling-7B-v1.0模型自动生成的评估记录集合。数据集共包含63个配置，每个配置对应一个评估任务，例如ARC挑战赛、HellaSwag、GSM8K等。所有数据来源于单次运行，每次运行的结果以时间戳命名作为独立的分割，而'train'分割始终指向最新结果。此外，一个名为'results'的配置存储了所有任务的聚合指标，用于在排行榜上展示模型的综合表现。

特点

数据集的显著特点在于其结构化的多任务评估体系，覆盖了从常识推理、数学问题到专业学科知识等广泛领域。每个任务配置均包含详细的准确率（acc）及其标准误差（acc_stderr），以及归一化准确率（acc_norm）等指标，为模型性能提供了精细化的分析维度。数据以Parquet格式存储，支持高效读写，并通过时间戳分割保留了评估历史的可追溯性，便于研究人员进行纵向比较。

使用方法

研究人员可通过Hugging Face的datasets库便捷加载该数据集。例如，使用load_dataset函数指定配置名称（如'harness_winogrande_5'）和分割（如'train'）即可获取特定任务的评估结果。对于需要分析完整评估历史的场景，可访问时间戳命名的分割（如'2024_02_10T01_29_46.397110'）。此外，'results'配置提供了所有任务的聚合数据，可直接用于模型性能的整体评估与可视化分析。

背景与挑战

背景概述

随着大语言模型（LLMs）在自然语言处理领域的迅猛发展，如何系统、公正地评估模型的多维度能力成为学术界与工业界共同关注的焦点。Open LLM Leaderboard由HuggingFace团队发起，旨在为社区提供一个标准化、透明化的模型性能竞技平台。该数据集记录了TeeZee/DarkSapling-7B-v1.0模型在2024年2月10日的单次评估运行结果，涵盖ARC挑战赛、HellaSwag、MMLU（涵盖57个学科领域）、TruthfulQA、Winogrande及GSM8K等63个细粒度任务配置。研究团队通过这一自动化评估流水线，系统揭示了该7B参数模型在常识推理、数学求解、知识理解及事实一致性等方面的表现，为后续模型优化与对比提供了基准参考。该数据集作为Open LLM Leaderboard生态的重要组成部分，不仅推动了模型评估的标准化进程，也促进了社区对LLM能力边界的深入理解。

当前挑战

该数据集所解决的领域问题在于大语言模型评估的碎片化与不可复现性。传统上，不同研究机构采用各异的数据集与评估协议，导致模型性能难以横向比较。Open LLM Leaderboard通过统一的任务配置与评分标准，为模型间公平竞技提供了基础。然而，构建过程中面临多重挑战：其一，评估任务的多样性要求数据格式高度标准化，需将来自不同来源的基准数据集（如MMLU的57个学科）整合为统一的parquet格式，并保证每个任务的采样数量（如5-shot或10-shot）与评分逻辑一致；其二，评估结果的可追溯性要求严格，每次运行需生成独立的时间戳分割，并维护“latest”指向最新结果，这对数据版本管理与存储架构提出了较高要求；其三，模型推理结果存在随机性，单次运行的标准误差（如acc_stderr）需明确记录，以反映评估的统计可靠性，避免单一数值误导性能判断。

常用场景

经典使用场景

该数据集作为Open LLM Leaderboard的评估结果记录，核心用途是衡量大语言模型在多维度基准测试上的表现。它涵盖了ARC挑战赛、HellaSwag、MMLU（涵盖57个学科）、TruthfulQA、Winogrande和GSM8K等经典任务，通过标准化评测流程，为研究者提供了模型在常识推理、知识问答、数学解题及语言理解等方面的精确性能指标。这一标准化评估框架使得不同模型间的横向比较成为可能，是当前大语言模型性能验证的标杆工具。

实际应用

在实际应用中，该数据集成为模型选型与部署决策的关键参考。技术团队可依据其中细粒度的任务得分，精准判断模型在特定场景下的适用性，例如高准确度需求的知识问答系统、逻辑严谨的数学推理工具或需要避免偏见生成的对话应用。此外，模型开发者也能借助这些结果定位性能瓶颈，从而针对性优化训练数据或架构设计，提升模型在真实世界任务中的表现。

衍生相关工作

该数据集衍生了一系列重要的研究工作，包括对模型规模与性能关系的深入分析、不同训练策略对下游任务影响的系统评估，以及多任务学习与模型鲁棒性之间的关联探究。基于此数据集，研究者还提出了更高效的模型压缩方法、跨语言迁移学习的可行性验证，以及针对特定知识领域的微调策略优化。这些工作不仅深化了对大模型行为规律的理解，也为下一代模型的研发方向提供了数据驱动的洞察。