GLOBALATLAS AI · WYDZIELONY WNIOSKOWANIE

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-32B: konfiguracja inferencji hostowanej samodzielnie, wagi BF16, kontekst 8192 tokenów, pamięć GPU i wybór serwera.

Konfiguracja

Oddzielny model rozumowania DeepSeek, wytrenowany na bazie Qwen2.5-32B z wykorzystaniem wyników DeepSeek-R1. To nie jest pełny model 671B DeepSeek-R1 ani pakiet dwóch modeli.

Model: deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
Parametry / wagi: 32.76B · — GB
Format wag: BF16
Kontekst / współbieżność: 8192 / 1
Limit kontekstu punktu kontrolnego: 131072
Szacowana pamięć GPU: Requires an updated assessment
Planowane RAM / dysk: ≥ 128 GB / ≥ 200 GB
Środowisko wykonawcze obsługi: vLLM · HTTP API
Licencja: MIT; model bazowy Apache-2.0

Szacunek obejmuje wagi BF16, cache KV, obszar roboczy 2 GB oraz zapas 15% GPU. RAM i dysk są wymaganiami planowanymi GlobalAtlas, a nie oficjalnym minimum dewelopera. Typ dysku, sterowniki i środowisko wykonawcze są potwierdzane przed instalacją. Budżet obsługi dla 8192 tokenów obejmuje wejście i wyjście; dłuższy kontekst lub większa liczba jednoczesnych żądań wymaga zmiany rozmiaru i testu obciążeniowego.

Oryginalna karta modelu

Wybierz swoją infrastrukturę

Najpierw wybierz sprzęt, a następnie potwierdź dostępność i instalację modelu ze specjalistą. Samo zamówienie serwera nie instaluje modelu.

Wybierzemy z Tobą zgodną konfigurację dla tego modelu.

Poproś o pełną konfigurację

Uwzględnij model, region i oczekiwane obciążenie. Nasi specjaliści potwierdzą sprzęt, instalację, ochronę dostępu i cenę końcową.

Omów z Atlasem →

Poproś o pomoc specjalisty →

Prześlij wymagania do specjalistów GlobalAtlas w celu indywidualnego przeglądu konfiguracji. Sprawdzą sprzęt, zgodność i warunki, a następnie odpowiedzą e-mailem.