目前 AI 主要用 qwen3:32b 想用到 qwen3:235b 请问 AI 服务器的品牌、规格建议 谢谢！
This topic created in 383 days ago, the information mentioned may be changed or developed.
 |
1
tool2dx May 30, 2025
等 7 月份买全新的 intel 24G GPU ，一张 3600 元，买 4 张就能用了。
|
 |
2
xtreme1 May 30, 2025
9355 双路, 64Gx24 ddr5, 5090, ktransformers
硬件大概 10w |
|
3
xtreme1 May 30, 2025
大概 20t/s
|
 |
5
byteX May 30, 2025
后期如果涉及到微调这些 就要好好考虑显卡了
|
 |
9
coefu May 30, 2025
你目前资源的 20 倍就行了，只怕你搞不定分布式推理。
|
 |
10
terranboy May 30, 2025
100 人的并发有 20 个吗 请把 5090X20
|
 |
11
inorobot May 30, 2025 via iPhone
24G 八卡或 48G 四卡方案
|
 |
12
goodryb May 30, 2025
起码得说清楚是做什么用吧，推理还是要做模型微调，这两个对性能要求是完全不一样的
|
 |
13
littlemis OP 谢谢大佬们 我等下 intel 24g
|
Select Language