Robustness

Definition

機械学習における安定性とは、訓練データに小さな摂動（変化）を加えた場合でも、モデルのパフォーマンスやパラメータが頑健に保たれる性質を指します。安定したアルゴリズムは、異なるサブセ …

この用語は、Hugging Face上のユーザー「Nerfgun3」の下にある「Bad Prompt」というタイトルの特定のデータセットを指します。主要なベンチマークほど標準的で …

この分野には、モデルを破壊するための攻撃的な技術と、それを強化するための防御的戦略の両方が含まれます。これには、モデルの耐性を高めるために敵対的例を用いてトレーニングを行うプロセ …

分布外（OOD）検出は、トレーニングデータの分布の範囲外にある入力を特定します。モデルはOODデータに対して性能が低下したり、自信を持って誤った予測をしたりすることが多く、信頼性 …