遇见数据集

Profiled DDL RAMP

收藏
DataCite Commons2022-04-29 更新2025-04-17 收录
官方服务:

资源简介:

Collection of profiled models used to estimate the disrtibuted training time for different Transformer Encoder models partiotioned using Megatron partitioning strategy, for different target losses

该数据集由经性能剖析的模型集合构成,可用于估算在不同目标损失配置下,采用Megatron分区策略(Megatron partitioning strategy)进行分区的各类Transformer编码器(Transformer Encoder)模型的分布式训练时长。

创建时间:
2022-04-13
搜集汇总
数据集介绍
Profiled DDL RAMP 数据集图片
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务