GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB là bộ nhớ GPU, không phải RAM hệ thống. Xác nhận số lượng GPU và kết nối cần thiết trước khi chọn cấu hình đào tạo.

Hopper141GB VRAM
Công nghệ bộ nhớ
HBM3e
Khối lượng công việc
Inference LLM và tính toán khoa học đòi hỏi bộ nhớ cao

Thêm không gian cho trọng số và ngữ cảnh

  1. 01

    141 GB bộ nhớ tham chiếu HBM3e

  2. 02

    Ngân sách mô hình kết hợp và KV-cache

  3. 03

    Số lượng GPU chính xác và sơ đồ phục vụ

H200 là lựa chọn khi ngân sách bộ nhớ H100 hạn chế. VRAM lớn hơn không tự động tạo ra nhiều yêu cầu hơn mỗi giây.

Cấu hình theo vùng

Châu Âu

Có sẵn theo yêu cầu

Yêu cầu theo yêu cầuCấu hình và khu vực cần xác nhận

Mỹ

Có sẵn theo yêu cầu

Yêu cầu theo yêu cầuCấu hình và khu vực cần xác nhận

Công việc AI dựa trên ARM và các tác vụ CPU/GPU đồng bộ

Có sẵn theo yêu cầu

Yêu cầu theo yêu cầuCấu hình và khu vực cần xác nhận

Chọn H200

Khi nào bộ nhớ bổ sung có liên quan?

Khi trọng số mô hình, bộ đệm ngữ cảnh và bộ đệm làm việc không phù hợp với cấu hình nhỏ hơn. Đo lường đỉnh bộ nhớ đầy đủ trước khi quyết định chuyển từ H100.

Tham khảo kỹ thuật

Thông số kỹ thuật 1 →

CẤU HÌNH CỦA BẠN

Yêu cầu báo giá hạ tầng

Chọn tài nguyên và thời gian vận hành. Chúng tôi sẽ xác nhận giá cho cấu hình của bạn.

Mỗi tài nguyên có cấu hình riêng đã liệt kê. Nhiều máy chủ GPU không tạo thành cụm NVLink. Các mức giá hàng tháng bao gồm toàn bộ kỳ thanh toán; không bao gồm lưu trữ và lưu lượng ngoài cấu hình.