GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB는 GPU 메모리이며 시스템 RAM이 아닙니다. 훈련 토폴로지를 선택하기 전에 GPU 수와 필요한 인터커넥트를 확인하세요.

Hopper141GB VRAM
메모리 기술
HBM3e
작업 부하
메모리 집약적 LLM 추론 및 과학 계산

가중치와 컨텍스트를 위한 더 많은 공간

  1. 01

    141 GB HBM3e 참조 메모리

  2. 02

    통합 모델 및 KV 캐시 예산

  3. 03

    정확한 GPU 수와 서비스 토폴로지

H200은 H100 메모리 예산이 제한적일 때 고려할 수 있습니다. 더 큰 VRAM이 반드시 초당 요청 수를 늘리지는 않습니다.

지역별 구성

유럽

요청 시 가용성

요청 시 가격 문의구성 및 지역 확정 필요

미국

요청 시 가용성

요청 시 가격 문의구성 및 지역 확정 필요

아시아

요청 시 가용성

요청 시 가격 문의구성 및 지역 확정 필요

H200 선택

추가 메모리가 언제 중요한가요?

모델 가중치, 컨텍스트 캐시 및 작업 버퍼가 작은 구성에 맞지 않을 때. H100에서 이동하기 전에 전체 메모리 피크를 측정하세요.

기술 참고 자료

사양 1 →

고객 구성

인프라 견적 요청

리소스와 운영 시간을 선택하세요. 구성에 대한 가격을 확인해 드립니다.

각 리소스는 별도 구성 목록이 있습니다. 여러 GPU 서버는 NVLink 클러스터를 형성하지 않습니다. 월별 요금은 전체 청구 기간을 포함하며, 구성 외 저장소 및 트래픽은 포함되지 않습니다.