如何确定显卡型号所能使用的cuda版本型号?

Viewed 92

山君目前使用的cuda版本是什么?能够支持哪些型号的显卡?

3 Answers

补充一下不同的cuda版本所能支持的显卡架构
image.png

显卡支持cuda版本查询

举个例子,比如现在有一张GTX1070的显卡,根据表格可知Compute capability为6.1
image.png
而cuda13.0最低能支持的版本仅仅到7.5。由此确定,该显卡最多能支持到cuda12.9.
image.png
该规则对于别的一些依赖于英伟达的深度学习工具都适用。

不同版本显卡训练精度支持

另外表格中还提供了显卡版本对于BF16的支持(混合精度训练)。从
image.png

山君目前使用的cuda版本是11.7;
支持的显卡型号:NVIDIA GeForce RTX 1660s/3050/3060/3080/4090(测试过),理论上来说N卡50系列之前的都支持

补充回答:

  1. 显卡驱动安装完成后,可以使用nvidia-smi来查看驱动版本
    image.png
    如图中标识驱动版本为560.94,支持的CUDA最高版本为11.8

2.山君和灵闪推荐的CUDA版本

公用扩展包 - CUDA 11.2绿色包(显卡驱动版本>=461.33,可用显卡算力区间3.5-8.6;在灵闪主软件包及GPU深度学习扩展包安装后,额外安装)

公用扩展包 - CUDA 11.8绿色包(显卡驱动版本>=522,可用显卡算力区间3.8-9.0;在灵闪主软件包及GPU深度学习扩展包安装后,额外安装)

现在常用的英伟达显卡有3060,3080,4090,4060等等,包括1660也是能跑起来的,但是可能会有训练失败的情况,山君的硬件条件还是有要求的,推荐的我放下面,引用自山君用户手册
image.png