Europa
Disponibilitat a petició
GLOBALATLAS AI · L4
L4 és una GPU de centre de dades amb 24 GB de memòria. Confirma el suport de còdec, el format del model i els recursos de CPU host per a la càrrega de treball completa.
24 GB per pesos i buffers d'execució
Pipeline d’entrada i preprocesament
Mida del lot i latència de processament sostinguda
Considereu L4 quan el model i la pipeline d'entrada s'ajusten al pressupost de memòria. Proveu la decodificació i la inferència junts en lloc de només mesurar el temps del model.
Disponibilitat a petició
Disponibilitat a petició
Disponibilitat a petició
Inclou la decodificació d’entrada, el preprocesament de CPU i l’emmagatzematge de sortida. Confirmeu el suport de còdecs i mesureu tot el pipeline, ja que el model pot ser només una part del temps de processament.
LA VOSTRA CONFIGURACIÓ
Tria recursos i temps d’operació. Confirmarem un preu per a la teva configuració.
Cada recurs té la seva pròpia configuració listada. Els servidors de GPU múltiples no formen un clúster NVLink. Les tarifes mensuals cobreixen tot el període de facturació; l'emmagatzematge i el trànsit fora de la configuració no estan inclosos.