Qwen部署要多少显存？结论先给：Qwen 2.5 72B 在 FP16 下仅权重就约 144GB~146GB，需双卡 80GB（TP=2）；INT4 量化后约 38GB~40GB，可落到单卡 80GB/96GB 或双卡 32GB；32B FP16 权重约 63.5GB~64GB，需 80GB 级单卡或双卡，INT4 约 18GB。2026 年私有化部...
0 条留言
NexGPU-算力租赁,GPU服务器,GPU云算力,AI服务器租用-新闻博客
