Entrenamiento
Asignar memoria para pesos, estado del optimizador y activaciones. El entrenamiento multi-GPU también requiere una interconexión adecuada.
HOPPER · CENTRO DE DATOS
NVIDIA H100 para cargas de trabajo de IA exigentes
80 GB de memoria HBM3 para cargas de trabajo donde el presupuesto de memoria determina la arquitectura. Planifica tu servidor de entrenamiento o inferencia en torno al modelo, conjunto de datos y topología GPU.
Ver configuracionesTU SERVIDOR
Construya en torno a su carga de trabajo
La memoria GPU es una parte del servidor. Especifique CPU, RAM del sistema, almacenamiento y región para verificar la configuración completa.
- Tamaño del modelo y presupuesto de memoria
- CPU, RAM y almacenamiento de conjuntos de datos
- Requisitos de región y despliegue
CARGAS DE TRABAJO
Cuando la memoria importa más
Inferencia de LLM
Planifica VRAM para el modelo y la caché KV juntos. La longitud del contexto y las solicitudes concurrentes influyen en la demanda de memoria.
Cálculo científico
Ajusta la precisión numérica y los requisitos de software CUDA a tu cálculo antes de elegir el host.
UBICACIÓN
Elegir una región para tu carga de trabajo
Mantenga el cálculo cerca de sus datos y usuarios. La capacidad se verifica para el modelo y la ubicación seleccionados.
Europa
Disponibilidad bajo solicitud
EE. UU.
Disponibilidad bajo solicitud
Asia
Disponibilidad bajo solicitud
COMPARAR
Considere un presupuesto de memoria diferente.
Ampere80 GB
NVIDIA A100
Cargas de trabajo CUDA establecidas y entrenamiento de modelos
- Memoria
- HBM2e
- Estado
- A solicitud
Precio bajo solicitudConfiguración y región a confirmar
Explorar modelo Hopper141 GB
NVIDIA H200
Inferencia de LLM intensiva en memoria y computación científica
- Memoria
- HBM3e
- Estado
- A solicitud
Precio bajo solicitudConfiguración y región a confirmar
Explorar modelo Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipado, generación de imágenes y renderizado
- Memoria
- GDDR6X
- Estado
- A solicitud
Precio bajo solicitudConfiguración y región a confirmar
Explorar modelo ¿Qué variante de H100 se describe?
La especificación de referencia es H100 SXM 80 GB. Las variantes PCIe y NVL difieren; la variante GPU precisa debe confirmarse en la configuración del servidor.
¿Garantiza 80 GB que mi modelo quepa?
No. Pesos, precisión, activaciones y caché comparten el presupuesto de memoria. Verifica tu marco de trabajo y prueba la carga de trabajo prevista.
¿Puedo solicitar varias GPU?
Sí, incluya la cantidad de GPU y requisitos de interconexión en su solicitud. La capacidad y topología necesitan confirmación antes del despliegue.
TU CONFIGURACIÓN
Solicitar un presupuesto de infraestructura
Elija recursos y tiempo de funcionamiento. Confirmaremos un precio para su configuración.
Cada recurso tiene su propia configuración listada. Múltiples servidores GPU no forman un clúster NVLink. Las tarifas mensuales cubren todo el período de facturación; el almacenamiento y tráfico fuera de la configuración no están incluidos.