Entrenamiento
Asignar memoria para pesos, estado del optimizador y activaciones. El entrenamiento multi-GPU también requiere una interconexión adecuada.
HOPPER · CENTRO DE DATOS
NVIDIA H100 para cargas de trabajo de IA exigentes
80 GB de memoria HBM3 para cargas de trabajo donde el presupuesto de memoria determina la arquitectura. Planifique su entrenamiento o servidor de inferencia en torno al modelo, conjunto de datos y topología GPU.
Ver configuracionesTU SERVIDOR
Construya en torno a su carga de trabajo
La memoria de GPU es una parte del servidor. Especifique CPU, RAM del sistema, almacenamiento y región para verificar la configuración completa.
- Tamaño del modelo y presupuesto de memoria
- CPU, RAM y almacenamiento de conjuntos de datos
- Requisitos de región y despliegue
CARGAS DE TRABAJO
Cuando la memoria importa más
Inferencia de LLM
Planifique VRAM para el modelo y la caché KV juntos. La longitud del contexto y las solicitudes concurrentes influyen en la demanda de memoria.
Cálculo científico
Alinea la precisión numérica y los requisitos de software CUDA con tu cálculo antes de elegir el host.
UBICACIÓN
Elegir una región para tu carga de trabajo
Mantenga el cálculo cerca de sus datos y usuarios. La capacidad se verifica para el modelo y la ubicación seleccionados.
Europa
Disponibilidad bajo solicitud
EE. UU.
Disponibilidad bajo solicitud
Asia
Disponibilidad bajo solicitud
COMPARAR
Considere un presupuesto de memoria diferente.
Ampere80 GB
NVIDIA A100
Carga de trabajo establecida con CUDA y entrenamiento de modelos
- Memoria
- HBM2e
- Estado
- A solicitud
Precio bajo solicitudConfiguración y región a confirmar
Explorar modelo Hopper141 GB
NVIDIA H200
Inferencia de LLM y computación científica con alta demanda de memoria
- Memoria
- HBM3e
- Estado
- A solicitud
Precio bajo solicitudConfiguración y región a confirmar
Explorar modelo Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipado, generación de imágenes y renderizado
- Memoria
- GDDR6X
- Estado
- A solicitud
Precio bajo solicitudConfiguración y región a confirmar
Explorar modelo ¿Qué variante de H100 se describe?
La especificación de referencia es H100 SXM 80 GB. Las variantes PCIe y NVL difieren; la variante GPU precisa debe confirmarse en la configuración del servidor.
¿Garantiza 80 GB que mi modelo cabrá?
No. Pesos, precisión, activaciones y caché comparten el presupuesto de memoria. Verifica tu marco y prueba la carga de trabajo prevista.
¿Puedo solicitar varias GPU?
Sí, incluya la cantidad de GPU y requisitos de interconexión en su solicitud. La capacidad y topología necesitan confirmación antes del despliegue.
TU CONFIGURACIÓN
Solicitar una cotización de infraestructura
Elija los recursos y el tiempo de operación. Confirmaremos un precio para su configuración.
Cada recurso tiene su propia configuración listada. Múltiples servidores GPU no forman un clúster NVLink. Las tarifas mensuales cubren todo el período de facturación; el almacenamiento y tráfico fuera de la configuración no están incluidos.