பயிற்சி
எடை, மேம்படுத்தும் நிலை மற்றும் செயல்பாடுகளுக்கான நினைவகத்தை ஒதுக்கவும். பல GPU பயிற்சிக்கும் பொருத்தமான இடை இணைப்பும் தேவை.
ஹாப்பர் · தரவு மையம்
கடுமையான AI பணிகளுக்கான NVIDIA H100
நினைவக பட்ஜெட் கட்டமைப்பை வடிவமைக்கும் பணிகளுக்கான 80 GB HBM3 நினைவகம். உங்கள் பயிற்சி அல்லது ஊக சேவையகத்தை மாதிரி, தரவுத்தொகுப்பு மற்றும் GPU அமைப்பின் அடிப்படையில் திட்டமிடுங்கள்.
கட்டமைப்புகளை காண்கஉங்கள் சேவையகம்
உங்கள் பணிச்சுமையை சுற்றி கட்டமைக்கவும்
GPU நினைவகம் சர்வரின் ஒரு பகுதி. முழுமையான கட்டமைப்பை சரிபார்க்க CPU, சிஸ்டம் RAM, சேமிப்பு மற்றும் பிராந்தியத்தை குறிப்பிடவும்.
- மாதிரி அளவு மற்றும் நினைவக பட்ஜெட்
- CPU, RAM மற்றும் தரவுத்தொகுப்பு சேமிப்பு
- பிராந்தியம் மற்றும் 배치 தேவைகள்
பணிச்சுமைகள்
நினைவகம் மிகவும் முக்கியமான போது
LLM முன்னறிதல்
மாதிரி மற்றும் KV கேஷ் இரண்டிற்கும் VRAM-ஐ திட்டமிடவும். சூழல் நீளம் மற்றும் ஒரே நேரத்தில் கோரிக்கைகள் நினைவக தேவையை பாதிக்கின்றன.
அறிவியல் கணினி
உங்கள் கணக்கீட்டிற்கு முன் எண் துல்லியம் மற்றும் CUDA மென்பொருள் தேவைகளை பொருத்தி ஹோஸ்டை தேர்ந்தெடுக்கவும்.
இடம்
உங்கள் பணிச்சுமைக்கு ஒரு பிராந்தியத்தை தேர்ந்தெடுக்கவும்
கணினி செயல்பாட்டை உங்கள் தரவு மற்றும் பயனர்களுக்கு அருகில் வைத்திருங்கள். தேர்ந்தெடுக்கப்பட்ட மாதிரி மற்றும் இடத்திற்கான திறன் சரிபார்க்கப்படுகிறது.
ஐரோப்பா
கோரிக்கையின் அடிப்படையில் கிடைக்கும்
அமெரிக்கா
கோரிக்கையின் அடிப்படையில் கிடைக்கும்
ஆசியா
கோரிக்கையின் அடிப்படையில் கிடைக்கும்
ஒப்பிடுக
வேறு நினைவக வரம்பை பரிசீலிக்கவும்
Ampere80 GB
NVIDIA A100
நிறுவப்பட்ட CUDA பணிகள் மற்றும் மாதிரி பயிற்சி
- நினைவகம்
- HBM2e
- நிலை
- கோரிக்கையில்
விலை கோரிக்கைக்குகட்டமைப்பு மற்றும் பிராந்தியம் உறுதிப்படுத்தப்பட வேண்டும்
மாதிரியை ஆராயவும் ஹாப்பர்141 GB
NVIDIA H200
நினைவக-கேந்திரமான LLM முன்னறிதல் மற்றும் அறிவியல் கணினி
- நினைவகம்
- HBM3e
- நிலை
- கோரிக்கையில்
விலை கோரிக்கைக்குகட்டமைப்பு மற்றும் பிராந்தியம் உறுதிப்படுத்தப்பட வேண்டும்
மாதிரியை ஆராயவும் அடா லவ்லேஸ்24 GB
NVIDIA RTX 4090
முன்மாதிரி உருவாக்கம், பட உருவாக்கம் மற்றும் ரெண்டரிங்
- நினைவகம்
- GDDR6X
- நிலை
- கோரிக்கையில்
விலை கோரிக்கைக்குகட்டமைப்பு மற்றும் பிராந்தியம் உறுதிப்படுத்தப்பட வேண்டும்
மாதிரியை ஆராயவும் எந்த H100 வகை விவரிக்கப்பட்டுள்ளது?
குறிப்பு H100 SXM 80 GB ஆகும். PCIe மற்றும் NVL வகைகள் வேறுபடுகின்றன; சரியான GPU வகை சர்வர் கட்டமைப்பில் உறுதிப்படுத்தப்பட வேண்டும்.
80 GB எனில் என் மாதிரி பொருந்துவதாக உறுதி செய்யுமா?
இல்லை. எடை, துல்லியம், செயல்பாடுகள் மற்றும் கேஷ் நினைவக பட்ஜெட்டை பகிர்கின்றன. உங்கள் கட்டமைப்பை சரிபார்த்து நோக்கப்பட்ட பணிச்சுமையை சோதிக்கவும்.
பல GPU-களை கோரலாமா?
ஆம், உங்கள் கோரிக்கையில் GPU எண்ணிக்கை மற்றும் இணைப்பு தேவைகளை சேர்க்கவும். திறன் மற்றும் அமைப்பு நிறுவுவதற்கு முன் உறுதிப்படுத்தப்பட வேண்டும்.
உங்கள் அமைப்பு
உள்கட்டமைப்பு மதிப்பீட்டை கோரவும்
வளங்களையும் இயக்க நேரத்தையும் தேர்ந்தெடுக்கவும். உங்கள் கட்டமைப்புக்கான விலையை நாங்கள் உறுதிப்படுத்துவோம்.
ஒவ்வொரு வளத்திற்கும் தனித்தனியான பட்டியலிடப்பட்ட கட்டமைப்பு உள்ளது. பல GPU சேவையகங்கள் NVLink கிளஸ்டர் உருவாக்காது. மாதாந்திர கட்டணங்கள் முழு பில்லிங் காலத்தையும் உள்ளடக்கியவை; கட்டமைப்புக்கு வெளியே சேமிப்பு மற்றும் போக்குவரத்து சேர்க்கப்படவில்லை.