架構決策
在小型代表性資料集上測試調整方法。將模型評估與訓練損失分開。
GLOBALATLAS AI · 微調
微調
微調會調整預訓練模型。完整微調與參數高效方法的記憶體需求不同。
選擇將要更新的項目
- 01
完整微調或高效參數方法
- 02
序列長度、批次與數值精度
- 03
評估集與版本化檢查點
配置需求
指定方法、精度、序列長度與批次大小。將訓練資料與檢查點存放於持久存儲中。
GLOBALATLAS AI · 微調
微調會調整預訓練模型。完整微調與參數高效方法的記憶體需求不同。
完整微調或高效參數方法
序列長度、批次與數值精度
評估集與版本化檢查點
在小型代表性資料集上測試調整方法。將模型評估與訓練損失分開。
指定方法、精度、序列長度與批次大小。將訓練資料與檢查點存放於持久存儲中。