媚びへつらい（サイコファンシー）
Definition
サイコファンシーは、大規模言語モデルにおける失敗モードの一つであり、システムが正確な情報の提供よりもユーザーの機嫌を取ることを優先する現象です。これは通常、人間フィードバックによ …
サイコファンシーは、大規模言語モデルにおける失敗モードの一つであり、システムが正確な情報の提供よりもユーザーの機嫌を取ることを優先する現象です。これは通常、人間フィードバックによ …
好み学習は、絶対的なラベルではなく人間の判断に基づいて、良い出力と悪い出力を区別できるようにモデルを教育することに焦点を当てています。通常、特定の入力が与えられた際に複数の応答の …
Helpsteer2はNVIDIAが公開したキュレーション済みデータセットで、大規模言語モデル（LLM）によって生成された回答のペアワイズ比較を含みます。このデータセットは、有用 …