A30、V100性能测试对比报告

• 人工智能

一，基础配置对比

卡型 架构 卡数 显存 CUDA GPU Driver (TDP)能源消耗 CPU核数(超线程) 内存大小 CPU型号 发布日期 备注
A30 Ampere 8 24G 11.0 450.51.06 165 Watt 48 252 AMD EPYC 7402 24-Core Processor 2021 PCIe
V100 Volta 8 32G 11.4 470.57.02 250 Watt 80 503 Intel® Xeon® Gold 6230 CPU @ 2.10GHz 2017 NV Link

二，模型训练对比

1，单卡模型训练对比
1.1， batch_size 为 128 对比
  • 对比环境

    在这里插入图片描述

  • 性能对比

    在这里插入图片描述

    在这里插入图片描述

    A30

    在这里插入图片描述

    V100

1.2，batch_size 为 256 对比
  • 对比环境

    在这里插入图片描述

  • 性能对比

    在这里插入图片描述

    在这里插入图片描述

2，多卡模型训练对比

2.1， batch_size 为 128 对比
  • 对比环境

    在这里插入图片描述

  • 性能对比

    在这里插入图片描述

    在这里插入图片描述

2.2， batch_size 为 256 对比
  • 对比环境

    在这里插入图片描述

  • 性能对比

    在这里插入图片描述

三，推理AB-压测对比

1，对比环境

共压80000数据，同时请求500数据。

2，压测性能对比

在这里插入图片描述

四，算力、带宽对比

A30参数

V100参数

在这里插入图片描述

A30:

在这里插入图片描述

V100:

在这里插入图片描述

注：

深入PCI与PCIe

本文来自网络，不代表协通编程立场，如若转载，请注明出处：https://www.net2asp.com/7e2e5b13f8.html

赞 (0)
« 上一篇 1天前
下一篇 » 1天前

相关推荐