Definition
多義性は、特にトランスフォーマーなどの深層ニューラルネットワークで観察される特性であり、単一のニューロンが、無関係または意味的に異なる複数の特徴に対して活性化することがあります。
Summary
ニューラルネットワーク内の個々のニューロンが複数の異なる概念に応答する現象。
Key Concepts
- ニューロン解釈可能性
- スパースオートエンコーダー
- 特徴の分離
- トランスフォーマーアーキテクチャ
Use Cases
- 機構的解釈可能性の研究
- モデル動作のデバッグ
- モデルの透明性と安全性の向上