Definition
有害コンテンツとは、物理的、精神的、または社会的な損害を引き起こす可能性のあるデジタルメディアやテキストを指します。AIの安全性において、モデルがこのようなコンテンツを生成しないよう検出・フィルタリングすることは極めて重要です。
Summary
ヘイトスピーチ、暴力、違法行為など、個人や社会にリスクをもたらす情報。
Key Concepts
- コンテンツモデレーション
- AI安全性
- 毒性検出
- 倫理ガイドライン
Use Cases
- ソーシャルメディアプラットフォームのフィルタリング
- 自動化されたコンテンツレビューシステム
- AIモデルのアライメントトレーニング