Definition
AIにおける安全性とは、自動化されたシステムが予測可能に振る舞い、意図しない悪影響を引き起こさないようにするために、制約と安全対策を実装することを伴います。これには、技術的措置(例:緊急停止スイッチ)や行動制限が含まれます。
Summary
人間、財産、または環境に害を与えずに動作するように設計されたAIシステムを指す。
Key Concepts
- 危害防止
- フェイルセーフ
- 予測可能性
- リスク低減
Use Cases
- 航空交通管制システム
- 医療診断ツール
- 金融取引アルゴリズム