Treinamento
Alocar memória para pesos, estado do otimizador e ativações. Treinamento multi-GPU também necessita de uma interconexão adequada.
HOPPER · CENTRO DE DADOS
NVIDIA H100 para cargas de trabalho de IA exigentes
80 GB de memória HBM3 para cargas de trabalho onde o orçamento de memória molda a arquitetura. Planeje seu servidor de treino ou inferência em torno do modelo, conjunto de dados e topologia GPU.
Ver configuraçõesSEU SERVIDOR
Construa em torno da sua carga de trabalho
A memória de GPU é uma parte do servidor. Especifique CPU, RAM do sistema, armazenamento e região para verificar a configuração completa.
- Tamanho do modelo e orçamento de memória
- CPU, RAM e armazenamento de datasets
- Requisitos de região e implantação
CARGAS DE TRABALHO
Quando a memória é mais importante
Inferência de LLM
Planeie VRAM para o modelo e cache KV juntos. O comprimento do contexto e pedidos simultâneos influenciam a demanda de memória.
Computação científica
Combine a precisão numérica e os requisitos de software CUDA com seu cálculo antes de escolher o host.
LOCALIZAÇÃO
Escolha uma região para a sua carga de trabalho
Mantenha o cálculo próximo de seus dados e usuários. A capacidade é verificada para o modelo e região selecionados.
Europa
Disponibilidade sob pedido
EUA
Disponibilidade sob pedido
Ásia
Disponibilidade sob pedido
COMPARAR
Considere um orçamento de memória diferente.
Ampere80 GB
NVIDIA A100
Carga de trabalho CUDA estabelecida e treino de modelos
- Memória
- HBM2e
- Status
- Sob pedido
Preço sob pedidoConfiguração e região a confirmar
Explorar modelo Hopper141 GB
NVIDIA H200
Inferência de LLM intensiva em memória e computação científica
- Memória
- HBM3e
- Status
- Sob pedido
Preço sob pedidoConfiguração e região a confirmar
Explorar modelo Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipagem, geração de imagens e renderização
- Memória
- GDDR6X
- Status
- Sob pedido
Preço sob pedidoConfiguração e região a confirmar
Explorar modelo Qual variante H100 é descrita?
A especificação de referência é H100 SXM 80 GB. Variantes PCIe e NVL diferem; a variante GPU precisa ser confirmada na configuração do servidor.
O 80 GB garante que o meu modelo caberá?
Não. Pesos, precisão, ativações e cache compartilham o orçamento de memória. Verifique seu framework e teste a carga de trabalho pretendida.
Posso solicitar várias GPUs?
Sim, inclua a contagem de GPU e requisitos de interconexão na sua solicitação. Capacidade e topologia precisam de confirmação antes do deployment.
A SUA CONFIGURAÇÃO
Solicitar um orçamento de infraestrutura
Escolha os recursos e o tempo de funcionamento. Confirmaremos um preço para a sua configuração.
Cada recurso tem a sua própria configuração listada. Múltiplos servidores GPU não formam um cluster NVLink. Tarifas mensais cobrem o período completo de faturação; armazenamento e tráfego fora da configuração não estão incluídos.