January Food Benchmark (JFB)
收藏资源简介:
JFB数据集是January AI机构推出的一款面向多模态食品分析的公共基准数据集和评估套件。该数据集包含1000张真实世界的食品图像,并有人工验证的标注,用于餐名、成分和宏量营养素。JFB旨在解决现有食品数据集在真实世界应用中的局限性,特别是在营养分析领域。该数据集的创建过程严格遵循了标注协议,以确保高质量的标签。JFB数据集可以用于评估模型的性能,特别是在食品识别、成分识别和营养估算方面。此外,JFB还提供了一个自动化的基准框架,包括稳健的指标和一个新的、面向应用的总体评分,用于全面评估模型性能。JFB数据集适用于研究者和开发者,以推动自动营养分析领域的发展。
The JFB dataset is a public benchmark dataset and evaluation suite for multimodal food analysis, launched by January AI. It comprises 1,000 real-world food images paired with manually verified annotations covering meal names, ingredients, and macronutrients. The JFB dataset is designed to address the limitations of existing food datasets in real-world deployment, especially within the domain of nutritional analysis. Its development strictly follows standardized annotation protocols to guarantee high-quality labeled data. It can be utilized to evaluate model performance across tasks including food recognition, ingredient recognition, and nutritional estimation. Additionally, JFB provides an automated benchmark framework that incorporates robust evaluation metrics and a novel application-oriented overall score for holistic model performance assessment. This dataset is intended for researchers and developers to advance the field of automated nutritional analysis.
Food-Scan Benchmarks 数据集概述
数据集简介
- 目的:评估专业和通用视觉语言模型(VLMs)在食物图像分析中的性能。
- 开发者:January AI。
- 特点:开源基准测试,展示January AI在食物图像分析方面的先进性能。
数据集详情
- 数据量:1,000张真实世界食物图像。
- 数据来源:通过January AI应用收集。
- 数据多样性:涵盖日常餐食、国际美食、不同光照条件和真实拍摄角度。
- 标注内容:
- 餐食名称。
- 成分列表。
- 营养成分数据(热量、碳水化合物、蛋白质、脂肪)。
- 标注质量:经过人工验证和多标准筛选,确保准确性和包容性。
- 隐私保护:在数据整理过程中严格遵守用户隐私标准。
评估指标
- 餐食名称相似度:
- 测量方法:文本嵌入的余弦相似度。
- 目标:越高越好。
- 成分识别:
- 测量指标:精确度(Precision)、召回率(Recall)、F1分数。
- 目标:越高越好。
- 宏量营养素估计:
- 测量方法:加权平均绝对百分比误差(wMAPE)。
- 目标:越低越好。
- 响应时间:
- 测量方法:模型返回分析的秒数。
- 目标:越低越好。
- 综合评分:
- 范围:0-100。
- 目标:越高越好。
性能对比
排行榜(综合评分)
| 排名 | 模型 | 综合评分 |
|---|---|---|
| 1 | january-ai-vision |
86.24 |
| 2 | gpt-4o |
74.11 |
| 3 | gpt-4o-mini |
66.44 |
| 4 | gemini-2.5-pro |
60.67 |
| 5 | gemini-2.5-flash |
60.65 |
关键发现
- 餐食和成分识别:
- January AI在餐食名称相似度和成分识别(F1分数、精确度、召回率)上表现最佳。
- 营养准确性:
- January AI在宏量营养素估计上的误差率最低。
- 速度与准确性平衡:
- January AI在保持响应时间竞争力的同时,提供更高的分析质量。
使用指南
快速开始
-
克隆仓库: bash git clone https://github.com/January-ai/food-scan-benchmarks.git cd food-scan-benchmarks
-
安装依赖: bash uv sync
-
配置环境: bash cp .env.example .env # 编辑API密钥
-
运行基准测试: bash python -m food_scan_bench.run_benchmark --models january/food-vision-v1 gpt-4o
命令行选项
bash python -m food_scan_bench.run_benchmark [OPTIONS]
--models TEXT...:指定评估模型(默认:全部)。--max-items INTEGER:处理的最大图像数量(默认:20)。--visualize / --no-visualize:生成可视化仪表盘(默认开启)。--baseline-model TEXT:用于胜负比较的基准模型。--export-report:导出详细CSV报告。
支持模型
| 提供商 | 模型标识符 |
|---|---|
| January AI | january/food-vision-v1 |
| OpenAI | gpt-4o, gpt-4o-mini |
gemini/gemini-2.5-flash-preview-05-20 |
|
gemini/gemini-2.5-pro-preview-06-05 |
|
| 其他 | 任何支持图像的LiteLLM兼容模型。 |
项目结构
text food_scan_bench/ ├── run_benchmark.py # 命令行入口 ├── models/ # API封装(January, LiteLLM等) ├── evaluate.py # 异步评估流程 ├── metrics.py # 评分函数 ├── analyze_results.py # 图表和统计 └── dataset/ # 数据集下载/缓存辅助工具
贡献与许可
- 许可证:MIT License。
- 贡献:欢迎提交错误报告、功能请求和拉取请求。

- 1January Food Benchmark (JFB): A Public Benchmark Dataset and Evaluation Suite for Multimodal Food AnalysisJanuary AI · 2025年



