信頼可能なAI
Definition
信頼可能なAIには、AIシステムが信頼性高く、倫理的に運用されることを保証する原則と実践が含まれます。主要な属性には、攻撃に対する堅牢性、多様な人口統計集団における公平性、透明 …
Safety
毒性
Definition
AIにおける毒性とは、無礼であり、議論からの離脱を促す可能性が高く、特定のアイデンティティに焦点を当てたコンテンツの生成または拡散を指します。これは、軽度な侮辱から深刻な憎悪表現 …
毒性検出
Definition
毒性検出は、自然言語処理技術を用いてテキスト入力を分析し、有害コンテンツが含まれている確率スコアを割り当てます。これらのシステムは通常、教師あり学習を用いて訓練され、特定のキー …
頑健性（ロバストネス）
Definition
AIの安全性と倫理において、頑健性とは予期しない入力や悪意のある操作に対するモデルの耐性を指します。頑健なシステムは、入力データにノイズが含まれていても正しく機能し続けます。 …
信頼性
Definition
AIにおける信頼性とは、時間や入力の変化に伴うシステムの振る舞いの信頼性と一貫性を指します。信頼性の高いAIシステムは、正確な結果を生み出し、エッジケースに対処し、予測可能な動作 …
誤情報
Definition
誤情報とは、害や欺瞞を意図せずに共有される、偽造または誤解を招く情報を指します。これは意図的に捏造される「偽情報（disinformation）」とは異なります。AIの文脈では、 …
メカニスティック・インタープリタビリティ（機構的解釈可能性）
Definition
メカニスティック・インタープリタビリティは、ニューラルネットワークを逆工学的手法で解析し、個々のニューロン、重み、回路レベルで特定の機能がどのように計算されているかを理解すること …
人間の監視・監督
Definition
人間の監視・監督とは、人間がAIによる意思決定や行動を監視し、評価し、介入するメカニズムとプロセスを指します。この概念は、自動化されたシステムが安全かつ責任を持って運用されること …
有害コンテンツ
Definition
有害コンテンツとは、物理的、精神的、または社会的な損害を引き起こす可能性のあるデジタルメディアやテキストを指します。AIの安全性において、モデルがこのようなコンテンツを生成しない …
ガードレール
Definition
ガードレールとは、特に大規模言語モデルにおけるAIアプリケーションに統合された、安全でコンプライアンスに準拠した動作を確保するための一連のソフトウェア制御およびポリシー執行レイ …
欺瞞的アライメント
Definition
欺瞞的アライメントとは、高度なAIシステムが、学習中に整合的な行動を示すことで展開される確率を高めつつ、内部では整合していない目標（オブジェクトive）を維持することを学習する現 …
データポイズニング
Definition
この敵対的技術は、トレーニングデータを変更することで機械学習モデルの整合性を損なうことを目的としています。微妙なエラーやバイアスのある例を導入することで、攻撃者はモデルの判断を歪 …
コンテンツフィルタリング
Definition
コンテンツフィルタリングは、提示される情報の流れをスキャン、分類、制御するためにアルゴリズムとルールを使用するプロセスです。AIの文脈では、自然言語処理（NLP）やコンピュータビ …
憲章型AI
Definition
憲章型AIは、すべてのステップで人間のフィードバックに依存することなく、大規模言語モデルを人間の価値観と整合させるためのフレームワークです。これは、高レベルの原則からなる「憲章」 …
エージェント検証
Definition
これには、エージェントの行動が安全性の限界や倫理的ガイドラインなどの事前定義された制約に従っていることを確保するために数学的手法を使用することが含まれます。これは特に、重要な環境 …
AIアライメント
Definition
AIアライメントは、AIシステムが文字通りに指定されたことではなく、ユーザーが意図したとおりに堅牢に機能するようにする課題に対処します。これには、AIの安全性と人間への適合性を確 …
ヒューマン・イン・ザ・ループ
Definition
ヒューマン・イン・ザ・ループ（HITL）とは、データラベリング、モデル評価、最終的な意思決定承認など、ワークフローの様々な段階で人間の介入が必要なAIシステムを指します。このアプ …
公平性
Definition
人工知能において、公平性は、人種、性別、年齢などの保護属性に基づく社会的バイアスを永続化したり増幅したりしないようにする重要な倫理的指標です。これは、アルゴリズムが公正であり、す …
説明可能性
Definition
この概念は、SHAPやLIMEなどの手法を用いてモデルが特定の予測に至るプロセスに関する洞察を提供することで、複雑なAIシステムの「ブラックボックス」問題に対処します。これによ …
AI倫理
Definition
AI倫理は、人工知能技術が開発および使用される際に責任ある形で行われることを保証するために設計された原則と基準の枠組み encompass します。これは、アルゴリズムバイアスや …
セキュリティ
Definition
AIセキュリティには、敵対的攻撃、データポイズニング、モデル逆引きなどの脅威から、機械学習モデル、データパイプライン、およびデプロイメントインフラストラクチャを守るための対策が含 …
バイアス
Definition
AI倫理において、バイアスとは、アルゴリズム的な意思決定における系統的かつ不公平な差別を指し、しばしば歪んだ訓練データや欠陥のあるモデル設計に起因します。これは、特定の集団に悪影 …