服务器GPU推荐，主要从事科研方向的模型训练

868

她的高玩2026-09-01
34054
佬们，目前课题组算力不足了；导儿给了25W预算购置显卡，组内目前全是NVIDIA的显卡（3090、A6000），平时课题组主要用于深度学习模型训练，并不部署本地大模型推理使用（但不考虑以后会不会考虑部署本地模型，毕竟现在Qwen3.8 27B还是很吸引人的）。
预算卡在这里也挺尴尬的，目前多卡A6000，48G的显存已经不够用了，我倾向于RTXpro6000D，但可能只能买两张；佬们能给一些建议和支持吗？国产卡如果对pytorch支持好、价格划算的也可以接受。
主楼
8 86
sheng2026-09-01
48112
蹲一下抄一下配置，万一以后需要呢？
#1
wdon2026-09-01
52158
现在很多框架对华为卡的支持都还可以
#2
雪球2026-09-01
38249
搞科研不建议用华为卡了，现在99%的科研工作都是用的cuda，生产用华为原厂支持适配还可以考虑。
#3
Grogu2026-09-01
9197
RTX Pro 6000 现在应该还是最具性价比的
#4
deepsleep2026-09-01
33951
本地部署就不需要专门考虑了，有闲置拿来玩还是不错，现在flash模型这么便宜还比qwen3.8 27B好；国产卡还是不太建议，生态优先，除非有infra高手
#5
nanzhiwei2026-09-01
26458
Qwen3.8 27B A6000跑起来挺好的，买卡pro6000很不错，pro6000x2就够跑deepseek v4 flash了
#6
fsdsyscxy2026-09-01
47017
RTX Pro 6000 这张卡简直是贫民用的神
#7
ffifdyop2026-09-01
30588
不要买6000D,6000D的算力被锁得很厉害，GEMM根本跑不满功耗，除了fp32其它各精度还不如4090，训练最常用的bf16只有pro6000的不到一半。
#8

发表回复

登录后回复