不限于参数大小
 |
1
zzutmebwd 3h 41m ago  1
没有 nvlink 的最强是 pro6000 ，下面是 5090/4090 48g/4090/4080 32g 。有 nvlink 的不了解。
|
|
2
zzutmebwd 3h 39m ago
你如果说千亿参数在线 api 的话，h100 h200 b200 等的群集。
|
 |
3
clemente 3h 36m ago
b200
|
|
4
zzutmebwd 3h 34m ago
@zzutmebwd 对了，有个 pro6000d 84g ，合规阉割版，算力是不如 5090 的，但差不太多，如果四万多点能买到的话还是不错的，大显存省事儿很多。
|
 |
5
robyn87leonard 3h 33m ago
l20
|
 |
6
raycool 3h 19m ago
H200 B200 这些吧。
不过我还在用 4090 |
 |
7
v2exgo 2h 43m ago
b300
|
 |
9
JmHappy 2h 17m ago
B300 集群，有 FP4 模块的都行
|
 |
11
oldAndy 2h 11m ago
H100 H200 B200
|
 |
12
xiaomushen 2h 9m ago
pro6000 真的爽，本地做一些 bert 训练完全够用
|
|
13
zzutmebwd 2h 5m ago
@xiaomushen 10 万了哥，现在买不划算了
|
|
14
xiaomushen 1h 45m ago
@zzutmebwd 我 7 万多买的
|
|
15
zzutmebwd 36 mins ago
8000 刀才是合理价，我 6 万买的都嫌贵。
@xiaomushen |
Select Language