Architektūros sprendimas
Distiliuoti leidimai ir pilnas modelis reikalauja skirtingų architektūrų. Išsaugokite tikslią modelio identifikatorių su savo infrastruktūros užklausa.
GLOBALATLAS AI · Infrastruktūra DeepSeek
Infrastruktūra DeepSeek
DeepSeek-R1 ir jo distiliuoti modeliai yra skirtingos darbo krūvės. Distiliuotos versijos apima nuo 1.5B iki 70B parametrų; pilnas modelis reikalauja atskiro dydžio įvertinimo.
Pradėti nuo tikslios DeepSeek versijos
- 01
Pilnas modelis arba distiliuota versija
- 02
Svorio formatas ir vykdymo rėmas
- 03
Konteksto biudžetas ir užklausų konkurencija
Reikalavimai konfigūracijai
Nurodykite tikslią leidimo versiją ir tikslumą. „DeepSeek for 50 users“ nėra pakankamas pažadas GPU konfigūracijai ar atsako laikui.