プレフィックスチューニング
Definition
プレフィックスチューニングは、事前学習済みトランスフォーマーモデルに適応させるためのパラメータ効率的な手法です。モデルの全重みを更新する代わりに、学習可能な連続ベクトルのシーケン …
Fine_tuning
P-Tuning
Definition
P-Tuning（プロンプトチューニング）は、計算コストを最小限に抑えながら、大規模な事前学習済み言語モデルを特定のダウンストリームタスクに適応させるための手法です。すべてのモデ …
アダプター
Definition
アダプターは、主に大規模言語モデルやトランスフォーマーで使用されるパラメータ効率の高いファインチューニング手法です。すべてのモデル重みを更新するという計算コストの高い作業の代わり …
Reinforcement Learning from Human Feedback（人間からのフィードバックによる強化学習）
Definition
人間からのフィードバックによる強化学習（RLHF）は、大規模言語モデルの出力を人間の価値観や期待により一致させるために微調整（ファインチューニング）を行う手法です。通常、このプロ …