GLOBALATLAS AI · Instinct MI300X

AMD Instinct MI300X · 192 GB

MI300X ആക്സിലറേറ്ററിന് 192 GB HBM3 ഉണ്ട്. ROCm സോഫ്റ്റ്‌വെയർ സ്റ്റാക്ക് ഉപയോഗിക്കുന്നു; CUDA-മാത്രം കണ്ടെയ്‌നറുകൾക്ക് അനുയോജ്യമായ ബിൽഡ് ആവശ്യമാണ്.

CDNA 3192GB VRAM
ഹാർഡ്‌വെയർ വകഭേദം
OAM
മെമ്മറി സാങ്കേതികവിദ്യ
HBM3
വർക്ക്‌ലോഡുകൾ
LLM ഇൻഫറൻസ്, ROCm പരിശീലനം

Instinct MI300X കോൺഫിഗർ ചെയ്യുന്നു

  1. 01

    മോഡൽ റൺടൈമിൽ ROCm പിന്തുണ പരിശോധിക്കുക

  2. 02

    ബഡ്ജറ്റ് വെയ്റ്റുകൾ, KV കാഷെ, 192 GB-അകത്ത് താൽക്കാലിക ബഫറുകൾ

  3. 03

    OAM പ്ലാറ്റ്ഫോം, ആക്സിലറേറ്റർ എണ്ണം, ഇൻഫിനിറ്റി ഫാബ്രിക് ടോപോളജി വ്യക്തമാക്കുക

പ്രാദേശിക കോൺഫിഗറേഷനുകൾ

യൂറോപ്പ്

അഭ്യർത്ഥന പ്രകാരം ലഭ്യത

വില അഭ്യർത്ഥന പ്രകാരംകോൺഫിഗറേഷൻ, പ്രദേശം സ്ഥിരീകരിക്കേണ്ടത്

അമേരിക്ക

അഭ്യർത്ഥന പ്രകാരം ലഭ്യത

വില അഭ്യർത്ഥന പ്രകാരംകോൺഫിഗറേഷൻ, പ്രദേശം സ്ഥിരീകരിക്കേണ്ടത്

ആസിയ

അഭ്യർത്ഥന പ്രകാരം ലഭ്യത

വില അഭ്യർത്ഥന പ്രകാരംകോൺഫിഗറേഷൻ, പ്രദേശം സ്ഥിരീകരിക്കേണ്ടത്

സാങ്കേതിക റഫറൻസുകൾ

വിശദാംശം 1 →

നിങ്ങളുടെ കോൺഫിഗറേഷൻ

ഒരു ഇൻഫ്രാസ്ട്രക്ചർ വിലക്കുറിപ്പ് അഭ്യർത്ഥിക്കുക

റിസോഴ്സുകളും പ്രവർത്തനസമയവും തിരഞ്ഞെടുക്കുക. നിങ്ങളുടെ കോൺഫിഗറേഷനായി ഒരു വില ഞങ്ങൾ സ്ഥിരീകരിക്കും.

ഓരോ റിസോഴ്‌സിനും അതിന്റെ സ്വന്തം ലിസ്റ്റുചെയ്ത കോൺഫിഗറേഷൻ ഉണ്ട്. ബഹുഗ്രാഫിക് സർവറുകൾ NVLink ക്ലസ്റ്റർ രൂപീകരിക്കുന്നില്ല. മാസവാര നിരക്കുകൾ പൂർണ്ണ ബില്ലിംഗ് കാലയളവിനും ബാധകമാണ്; കോൺഫിഗറേഷനിന് പുറത്തുള്ള സ്റ്റോറേജ്, ട്രാഫിക് ഉൾപ്പെടുന്നില്ല.