GLOBALATLAS AI · Fine-tuning

Fine-tuning

Ang fine-tuning ay nag-aangkop sa isang pretrained na modelo. Ang full fine-tuning at mga parameter-efficient na pamamaraan ay may iba't ibang pangangailangan sa memory.

Piliin kung ano ang ia-update

  1. 01

    Buong tuning o isang parameter-efficient na pamamaraan

  2. 02

    Haba ng sequence, batch at numerical na katumpakan

  3. 03

    Ebalwasyon set at mga versioned checkpoint

Desisyon sa arkitektura

Subukan ang tuning method sa isang maliit na kinatawang dataset. Panatilihin ang pagsusuri ng modelo hiwalay mula sa training loss.

Mga pangangailangan sa configuration

Itakda ang paraan, katumpakan, haba ng sequence at laki ng batch. Panatilihin ang training data at checkpoints sa persistent storage.

Mga teknikal na sanggunian

Specipikasyon 1 →