GLOBALATLAS AI · KI-Infrastruktur
KI-Infrastruktur
Training ändert ein Modell; Inferenz führt es aus. Modellbereitstellung, Datensätze und API-Anwendungen haben separate Ressourcenanforderungen.
Einen Schritt im KI-Lebenszyklus auswählen
Trainieren und anpassen
KI-Training
Training speichert Aktivierungen, Gradienten und Optimierer-Status zusätzlich zu Modellgewichten. Durchsatz der Datensätze und Checkpoints sind ebenfalls wichtig.
Erkunden →Feinabstimmung
Feinabstimmung passt ein vortrainiertes Modell an. Vollständige Feinabstimmung und parameter-effiziente Methoden haben unterschiedliche Speicheranforderungen.
Erkunden →Ein Modell bereitstellen
LLM-Hosting
Ein Modellservice benötigt Gewichte im Speicher, Laufzeitpuffer, einen KV-Cache und einen Anwendungs-Endpunkt.
Erkunden →KI-Inferenz
Inference führt ein trainiertes Modell aus. Eingabengröße, Batch-Größe und Kontextlänge bestimmen den Arbeitsspeicher sowie die Modellgewichte.
Erkunden →Infrastruktur für DeepSeek
DeepSeek-R1 und seine destillierten Modelle sind unterschiedliche Workloads. Destillierte Versionen reichen von 1,5B bis 70B Parametern; das vollständige Modell erfordert eine separate Größenschätzung.
Erkunden →Infrastruktur für Llama
Llama ist eine Modellfamilie. Llama 3.1 8B ist ein Beispiel für ein Modell mit 8 Milliarden Parametern, keine Kapazitätsgarantie für jede Llama-Version.
Erkunden →Infrastruktur für Mistral
Mistral 7B und andere Mistral-Versionen unterscheiden sich in Größe und Architektur. Vor der Größenbestimmung Hardware-Spezifikation einer bestimmten Version auswählen.
Erkunden →Infrastruktur für Qwen
Qwen umfasst Text-, Code- und Multimodal-Modelfamilien. Beginnen Sie mit einer genauen Modellversion, unterstütztem Servierlaufzeit, Präzision und Kontextbudget; diese Entscheidungen bestimmen die Infrastrukturanforderungen.
Erkunden →Infrastruktur für Gemma
Gemma ist in mehreren Größen und aufgabenspezifischen Varianten erhältlich. Wählen Sie die genaue Modellkarte, akzeptieren Sie die entsprechenden Nutzungsbedingungen und prüfen Sie die Laufzeitunterstützung, bevor Sie einen selbstgehosteten Dienst planen.
Erkunden →Infrastruktur für Stable Diffusion
Stable Diffusion verarbeitet Bildgenerierungs-Workloads. SDXL Base, ein optionaler Veredler und zusätzliche Workflow-Komponenten haben separate Speicher- und Speicheranforderungen. Auflösung und Batch-Größe beeinflussen die gesamte Pipeline.
Erkunden →Infrastruktur für FLUX
FLUX-Releases unterscheiden sich in Architektur, Inferenzcode und Modell-Lizenzierung. Wählen Sie die genaue Version und den unterstützten Workflow, dann messen Sie den Spitzenpegel des Speichers bei der vorgesehenen Bildauflösung und Genauigkeit.
Erkunden →Infrastruktur für Whisper
Whisper ist eine Open-Source-Spracherkennungsfamilie. Selbst gehostete Transkriptionen verwenden heruntergeladene Modellgewichte und eine lokale Inferenzlaufzeit; sie sind getrennt von einem gehosteten Speech-API-Abonnement.
Erkunden →Inhalte verarbeiten
Embedding-Infrastruktur
Embedding-Pipelines kodieren Eingaben in Vektoren und kombinieren meist Modell-Ausführung mit einem separaten Index oder Datenbank.
Erkunden →Bildgenerierungs-Infrastruktur
Der Speicher für die Bildgenerierung hängt vom Modell, der Auflösung, der Batch-Größe und der Inferenz-Pipeline ab.
Erkunden →Speech AI-Infrastruktur
Transkription und Sprachsynthese haben unterschiedliche Latenz-, Batch- und Audioverarbeitungsanforderungen.
Erkunden →