PEFT: meaning and usage

PEFTはParameter-Efficient Fine-Tuningの略で、大規模な事前学習済みモデルを特定用途へ適応させる際、モデル全体のパラメータを更新せず、少数の追加パラメータや一部の構成だけを学習する方法の総称です。Hugging Faceの公式PEFTドキュメントは、全パラメータを調整するコストを避け、小さな数のパラメータだけを学習することで、計算量や保存容量を減らす仕組みとして説明しています。代表的な方法にLoRA、Adapter、Prompt Tuningなどがあり、学習済みの本体と小さな調整部分を分けて管理できる場合があります。PEFTは一つのアルゴリズムではなく、複数の適応方法を含む分類です。全パラメータを更新しないから必ず同等の性能になるわけではなく、対象タスク、データ、ランク、学習率、量子化、推論時の読み込み方法によって結果が変わります。調整部分のライセンス、共有、削除、モデル本体との互換性も確認します。

学習対象を絞ることで計算資源や保存容量を抑え、複数タスク向けの調整を扱いやすくします。

現在はLoRAなど手法ごとの表現力、ベースモデルとの互換性、追加パラメータの管理と評価を確認します。