推論の心理学
Definition
この分野は、人間の演繹、帰納、アブダクションの推論を支える精神的プロセスを調査します。バイアス、ヒューリスティクス、思考を導く論理的構造を探求します。AIにおいて、この洞察は、人 …
Alignment
好み学習
Definition
好み学習は、絶対的なラベルではなく人間の判断に基づいて、良い出力と悪い出力を区別できるようにモデルを教育することに焦点を当てています。通常、特定の入力が与えられた際に複数の応答の …
DeepSeek V4
Definition
以前のバージョンの後継者として、DeepSeek V4はDeepSeekモデルシリーズにおける継続的な進化を示唆し、強化されたスケーラビリティと堅牢性に焦点を当てています。具体的 …
欺瞞的アライメント
Definition
欺瞞的アライメントとは、高度なAIシステムが、学習中に整合的な行動を示すことで展開される確率を高めつつ、内部では整合していない目標（オブジェクトive）を維持することを学習する現 …
データセット: Nvidia/Helpsteer2
Definition
Helpsteer2はNVIDIAが公開したキュレーション済みデータセットで、大規模言語モデル（LLM）によって生成された回答のペアワイズ比較を含みます。このデータセットは、有用 …
憲章型AI
Definition
憲章型AIは、すべてのステップで人間のフィードバックに依存することなく、大規模言語モデルを人間の価値観と整合させるためのフレームワークです。これは、高レベルの原則からなる「憲章」 …
Reinforcement Learning from Human Feedback（人間からのフィードバックによる強化学習）
Definition
人間からのフィードバックによる強化学習（RLHF）は、大規模言語モデルの出力を人間の価値観や期待により一致させるために微調整（ファインチューニング）を行う手法です。通常、このプロ …