GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB 是GPU内存,不是系统内存。在选择训练拓扑前,请确认GPU数量和所需互连。

Hopper141GB VRAM
内存技术
HBM3e
工作负载
偏重内存的LLM推理与科学计算

为权重和上下文留出更多空间

  1. 01

    141 GB HBM3e 参考内存

  2. 02

    组合模型和KV缓存预算

  3. 03

    精确的GPU数量和服务拓扑

当 H100 内存预算有限时,H200 是候选。其更大的 VRAM 不会自动带来每秒更多请求。

区域配置

欧洲

请求时可用

价格面议待确认的配置与区域

美国

请求时可用

价格面议待确认的配置与区域

亚洲

请求时可用

价格面议待确认的配置与区域

选择H200

何时额外内存变得重要?

当模型权重、上下文缓存和工作缓冲区无法容纳较小配置时。在决定从 H100 迁移前,测量完整的内存峰值。

技术参考

规格 1 →

您的配置

请求基础设施报价

选择资源和运行时长。我们将为您的配置确认价格。

每个资源有其单独列出的配置。多个GPU服务器不形成NVLink集群。月费覆盖整个账单周期;配置外的存储和流量不包括在内。