Definition
ハルシネーションは、生成AIモデルが現実やソースデータに基づいていないが、一見もっともらしく見える出力を生み出す現象です。高い精度が求められるアプリケーションにおいて、これは重大な課題となります。
Summary
AIモデルが、自信満々に事実誤認または意味不明な情報を生成すること。
Key Concepts
- 事実性
- 生成エラー
- 信頼度キャリブレーション
- グラウンディング
Use Cases
- 自動レポート生成における誤りの特定
- エラーを減らすための検索拡張生成（RAG）の開発
- 重要な意思決定におけるモデルの信頼性評価