Treinamento
Alocar memória para pesos, estado do otimizador e ativações. Treinamento multi-GPU também requer uma interconexão adequada.
HOPPER · DATA CENTER
NVIDIA H100 para cargas de trabalho de IA exigentes
80 GB de memória HBM3 para cargas de trabalho onde o orçamento de memória molda a arquitetura. Planeje seu servidor de treinamento ou inferência em torno do modelo, conjunto de dados e topologia GPU.
Visualizar configuraçõesSEU SERVIDOR
Construa em torno da sua carga de trabalho
A memória de GPU é uma parte do servidor. Especifique CPU, RAM do sistema, armazenamento e região para verificar a configuração completa.
- Tamanho do modelo e orçamento de memória
- CPU, RAM e armazenamento de dataset
- Requisitos de região e implantação
CARGAS DE TRABALHO
Quando a memória importa mais
Inferência de LLM
Planeje VRAM para o modelo e cache KV juntos. Comprimento do contexto e solicitações simultâneas influenciam a demanda de memória.
Computação científica
Combine a precisão numérica e os requisitos de software CUDA com seu cálculo antes de escolher o host.
LOCALIZAÇÃO
Escolha uma região para sua carga de trabalho
Mantenha o cálculo próximo dos seus dados e usuários. A capacidade é verificada para o modelo e região selecionados.
Europa
Disponibilidade sob solicitação
EUA
Disponibilidade sob solicitação
Ásia
Disponibilidade sob solicitação
COMPARAR
Considere um orçamento de memória diferente.
Ampere80 GB
NVIDIA A100
Carga de trabalho CUDA estabelecida e treinamento de modelos
- Memória
- HBM2e
- Status
- Sob demanda
Preço sob solicitaçãoConfiguração e região a serem confirmadas
Explorar modelo Hopper141 GB
NVIDIA H200
Inferência de LLM intensiva em memória e computação científica
- Memória
- HBM3e
- Status
- Sob demanda
Preço sob solicitaçãoConfiguração e região a serem confirmadas
Explorar modelo Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipagem, geração de imagens e renderização
- Memória
- GDDR6X
- Status
- Sob demanda
Preço sob solicitaçãoConfiguração e região a serem confirmadas
Explorar modelo Qual variante do H100 é descrita?
A especificação de referência é H100 SXM 80 GB. Variantes PCIe e NVL diferem; a variante exata da GPU deve ser confirmada na configuração do servidor.
80 GB garantem que meu modelo caberá?
Não. Pesos, precisão, ativações e cache compartilham o orçamento de memória. Verifique seu framework e teste a carga de trabalho pretendida.
Posso solicitar várias GPUs?
Sim, inclua a contagem de GPU e requisitos de interconexão na sua solicitação. Capacidade e topologia precisam de confirmação antes do deployment.
SUA CONFIGURAÇÃO
Solicitar um orçamento de infraestrutura
Escolha os recursos e o tempo de operação. Confirmaremos um preço para a sua configuração.
Cada recurso possui sua própria configuração listada. Múltiplos servidores GPU não formam um cluster NVLink. Tarifas mensais cobrem todo o período de faturamento; armazenamento e tráfego fora da configuração não estão incluídos.