A30、V100性能测试对比报告

慈云数据 2024-03-18 技术支持 71 0

一,基础配置对比

卡型架构卡数显存CUDAGPU Driver(TDP)能源消耗CPU核数(超线程)内存大小CPU型号发布日期备注
A30Ampere824G11.0450.51.06165 Watt48252AMD EPYC 7402 24-Core Processor2021PCIe
V100Volta832G11.4470.57.02250 Watt80503Intel® Xeon® Gold 6230 CPU @ 2.10GHz2017NV Link

二,模型训练对比

1,单卡模型训练对比
1.1, batch_size 为 128 对比
  • 对比环境

    在这里插入图片描述

  • 性能对比

    在这里插入图片描述

    在这里插入图片描述

    A30

    在这里插入图片描述

    V100

    1.2,batch_size 为 256 对比
    • 对比环境

      在这里插入图片描述

    • 性能对比

      在这里插入图片描述

      在这里插入图片描述

      2,多卡模型训练对比

      2.1, batch_size 为 128 对比
      • 对比环境

        在这里插入图片描述

      • 性能对比

        在这里插入图片描述

        在这里插入图片描述

        2.2, batch_size 为 256 对比
        • 对比环境

          在这里插入图片描述

        • 性能对比

          在这里插入图片描述

          三,推理AB-压测对比

          1,对比环境

          共压80000数据,同时请求500数据。

          2,压测性能对比

          在这里插入图片描述

          四,算力、带宽对比

          A30参数

          V100参数

          在这里插入图片描述

          A30:

          在这里插入图片描述

          V100:

          在这里插入图片描述

          注:

          深入PCI与PCIe

微信扫一扫加客服

微信扫一扫加客服

点击启动AI问答
Draggable Icon