GLOBALATLAS AI · L4

NVIDIA L4 · 24 GB

L4 és una GPU de centre de dades amb 24 GB de memòria. Confirma el suport de còdec, el format del model i els recursos de CPU host per a la càrrega de treball completa.

Ada Lovelace24GB VRAM
Tecnologia de memòria
GDDR6
Càrregues de treball
Processament de vídeo, inferència i serveis gràfics

Inferència compacta i processament de vídeo

  1. 01

    24 GB per pesos i buffers d'execució

  2. 02

    Pipeline d’entrada i preprocesament

  3. 03

    Mida del lot i latència de processament sostinguda

Considereu L4 quan el model i la pipeline d'entrada s'ajusten al pressupost de memòria. Proveu la decodificació i la inferència junts en lloc de només mesurar el temps del model.

Configuracions regionals

Europa

Disponibilitat a petició

Preu a peticióConfiguració i regió a confirmar

EUA

Disponibilitat a petició

Preu a peticióConfiguració i regió a confirmar

Àsia

Disponibilitat a petició

Preu a peticióConfiguració i regió a confirmar

Tria L4

Què més necessita un pipeline de vídeo?

Inclou la decodificació d’entrada, el preprocesament de CPU i l’emmagatzematge de sortida. Confirmeu el suport de còdecs i mesureu tot el pipeline, ja que el model pot ser només una part del temps de processament.

Referències tècniques

Especificació 1 →

LA VOSTRA CONFIGURACIÓ

Sol·licita un pressupost d’infraestructura

Tria recursos i temps d’operació. Confirmarem un preu per a la teva configuració.

Cada recurs té la seva pròpia configuració listada. Els servidors de GPU múltiples no formen un clúster NVLink. Les tarifes mensuals cobreixen tot el període de facturació; l'emmagatzematge i el trànsit fora de la configuració no estan inclosos.