GLOBALATLAS AI · AI-infrastruktur
AI-infrastruktur
Träningsändringar ändrar en modell; inferens utför den. Modellserving, dataset och applikations-API:er har separata resurskrav.
Välj en fas i AI-levetiden
Träna och anpassa
AI-träning
Träning lagrar aktivering, gradienter och optimerarens tillstånd förutom modellvikter. Datasetgenomströmning och checkpoints är också viktiga.
Utforska →Finjustering
Finjustering anpassar en förtränad modell. Fullständig finjustering och parametrseffektiva metoder har olika minneskrav.
Utforska →Tjänstgör en modell
Hosting av LLM
En modellservice behöver vikter i minnet, körbuffertar, en KV-cache och en applikationsendpoint.
Utforska →AI-inferens
Inferens utför en tränad modell. Inmatningsstorlek, batching och kontextlängd bestämmer arbetsminne samt modellvikter.
Utforska →Infrastruktur för DeepSeek
DeepSeek-R1 och dess destillerade modeller är olika arbetsbelastningar. Destillerade versioner sträcker sig från 1,5 miljarder till 70 miljarder parametrar; den fullständiga modellen kräver en separat storleksbestämning.
Utforska →Infrastruktur för Llama
Llama är en familj av modeller. Llama 3.1 8B är ett exempel på en modell med 8 miljarder parametrar, inte ett kapacitetslöfte för varje Llama-version.
Utforska →Infrastruktur för Mistral
Mistral 7B och andra Mistral-versioner skiljer sig i storlek och arkitektur. Välj en specifik modell innan du storleksbestämmer hårdvara.
Utforska →Infrastruktur för Qwen
Qwen inkluderar text-, kod- och multimodala modellfamiljer. Börja med en exakt modellversion, stödd serviceruntime, precision och kontextbudget; dessa val bestämmer infrastrukturkraven.
Utforska →Infrastruktur för Gemma
Gemma finns i flera storlekar och specialanpassade varianter. Välj exakt modellkort, acceptera dess användningsvillkor och verifiera runtime-stöd innan du planerar en egen hosting-tjänst.
Utforska →Infrastruktur för Stable Diffusion
Stable Diffusion hanterar bildgenereringsarbetsbelastningar. SDXL Base, en valfri förfinare och ytterligare arbetsflödeskomponenter har separata minnes- och lagringskrav. Upplösning och batchstorlek påverkar hela pipelinen.
Utforska →Infrastruktur för FLUX
FLUX-releaser skiljer sig i arkitektur, inferenskod och modelllicensiering. Välj den exakta releasen och stödd arbetsflöde, och mät toppminne vid den avsedda bildupplösningen och precisionen.
Utforska →Infrastruktur för Whisper
Whisper är en öppen källkod för taligenkänningsfamilj. Självhostad transkription använder nedladdade modellvikter och en lokal inferensruntime; den är separat från ett hostat tal-API-abonnemang.
Utforska →Bearbeta innehåll
Inbäddningsinfrastruktur
Inbäddningspipelines kodar inmatning till vektorer och kombinerar vanligtvis modellkörning med en separat index eller databas.
Utforska →Infrastruktur för bildgenerering
Minne för bildgenerering beror på modellen, upplösning, batchstorlek och inferenspipeline.
Utforska →Tal-AI-infrastruktur
Transkription och talsyntes har olika latens, batching och ljudbehandlingskrav.
Utforska →