Одлука за архитектура
За тренирање со повеќе GPU, дефинирајте топологија и барања за комуникација. Додавањето броеви на меморија од неповрзани сервери не е дизајн на кластер.
GLOBALATLAS AI · Обучување во АИ
AI тренирање
Обучувањето складира активации, градиенти и состојба на оптимизаторот покрај тежините на моделот. Пропусната моќност на датасетот и чекпоинтите исто така се важни.
Повторлив тренирачки процес
- 01
Верзионирајте ги датасетите и кодот за обука
- 02
Измерете тренирачки пакет вклучувајќи состојба на оптимизаторот
- 03
Запишете чекпојнти и проверете опоравување на извршувањето
Барања за конфигурација
Измерете репрезентативен пакет. Мулти-GPU тренирањето бара експлицитна интерконекција и дистрибуирана поставка; оваа верзија проверува понуди со еден GPU.