GPU租用选型对比：7月价格跨40倍的5大维度

7月18日更新的多提供商云GPU价格指数显示，H100小时价从0.34美元到14.90美元，跨度接近40倍；B200则从2.69美元起跳到16美元以上，且仅少数渠道有现货。同一时期，业界把算力获取清晰分成四层金字塔：顶尖自建、多年锁定、排队采购、以及剩余现货。这个窗口让GPU租用不再是“找最低价”，而是必须按维度系统对比。

市场分层如何改变GPU租用逻辑

7月中旬的讨论把现实说得很直白。顶层是超大规模和前沿实验室，自己掌握供应；下一层大厂用多年合约锁量；再往下是企业排队，周期拉到36到52周；最底层创业团队和研究人员只能抢现货和短租。新一代卡（包括即将在下半年更大规模出货的后续架构）依旧优先流向顶层。

价格跨度本身就是分层的结果。同一张H100，有的渠道是spot低价、有的是企业级预留高价，中间还夹着不同网络带宽、存储和计费方式。单纯比“多少钱一小时”会踩坑。NexGpu这类灵活入口，正好适合先做小规模实测，再决定是否加长租期或换卡型。

GPU租用选型维度一：工作负载与显存带宽匹配

先问自己跑什么。训练大模型、长上下文推理、多模态，还是轻量微调+在线服务？

• 80GB级Hopper卡仍是主流训练选择，带宽高，生态成熟。
• 141GB或更高显存的卡更适合内存墙明显的推理和超长序列，溢价明显。
• 消费级或工作站级卡适合原型和中小模型，但多卡扩展和稳定性要额外验证。
• AMD大显存方案在部分分片场景有优势，软件栈兼容性需提前测。
• 下一代卡目前供应极紧、价格虚高，多数团队仍应以现有主流卡为主力。

7月的数据里，B200现货溢价可到H100的1.4倍甚至更高，且可用节点少。如果业务还没到必须上最新架构的程度，用成熟卡型把吞吐跑稳，往往比硬等新卡更划算。匹配错了，再便宜的小时价也会变成空转。

维度二：计费模式与真实可用性

价格跨度大，背后是on-demand、预留、spot和自定义合约的混搭。7月指数显示H100 on-demand平均大约3美元出头，spot可低到1美元多，预留再往下。但spot随时可能被收回，预留要锁量锁期。

可用性才是隐形成本。顶层拿走大部分新卡后，中小团队常见情况是“报价有、实际排队”或“低价节点网络差、存储慢”。选型时必须看：

即时启动成功率、峰值时段是否限流、是否支持按秒或按分钟计费、中断后数据是否持久。

很多团队的做法是：日常用稳定on-demand做开发和小流量，突发训练再叠加短周期预留或多渠道调度。NexGpu支持快速切换配置，正好用来验证不同模式下的真实吞吐和中断频率，而不是只看宣传价。

维度三：总拥有成本而非裸GPU小时价

小时价只是起点。网络出口、存储IOPS、多卡互联带宽、镜像拉取时间、运维人力，都会把账单拉高。有的渠道GPU便宜，但跨区传输或冷启动拖后腿；有的贵一点，却自带高速存储和一键环境，整体更快出结果。

7月市场分析也指出，内存（HBM）供应链仍紧，整机成本结构在变，单纯赌低价spot风险更高。算账时用“有效token成本”或“完成一次训练/推理任务的总成本”，比盯着单价靠谱。把测试脚本固定下来，在不同渠道跑同一负载，记录端到端时间，再反推单价，数字会老实很多。

维度四：扩展性与软件生态锁定

单卡能跑通，不代表集群能顺。NVLink/高速网络、容器镜像兼容、主流框架（训练与推理引擎）开箱即用程度、是否支持弹性扩缩，都是硬指标。

金字塔底层用户最怕的是：好不容易抢到卡，却发现多机通信瓶颈或驱动版本老旧。选型时优先看是否提供标准化镜像、是否方便挂载自己的存储、是否支持从1卡平滑到8卡/多节点。软件体验好的平台，能把“找到卡”到“跑出结果”的时间压缩到小时级，而不是天级。

维度五：风险对冲与时间窗口

算力正在商品化。7月中旬已有市场开始给出主流卡型的远期参考价格，帮助判断未来几周到几个月的预期。如果曲线显示短期仍紧、中期可能缓和，就不必急着签超长约；如果显示持续稀缺，则适当锁定核心用量。

实操上可以组合：核心稳定负载用中短预留，实验和波动部分用弹性租用。定期（比如每两周）回头看一次价格指数和自身利用率，该换卡型就换，该缩容就缩。不要把所有预算押在单一渠道或单一代际上。

把这五个维度列成检查表，每次选型先填空：负载类型、预估显存与带宽、可接受中断率、总任务成本上限、扩展计划、对冲比例。填完再去看具体报价，决策会干净很多。7月这份接近40倍的价格跨度，其实是提醒——GPU租用的胜负手，早已从“谁更便宜”变成“谁更匹配、谁更可控”。