Definition
多语义性是深度神经网络(特别是Transformer架构)中的一种特征,即单个神经元可能对几个不相关或语义不同的特征激活做出响应。
Summary
神经网络中的单个神经元对多个不同概念产生响应的现象。
Key Concepts
- 神经元可解释性
- 稀疏自编码器
- 特征解耦
- Transformer架构
Use Cases
- 机械可解释性研究
- 调试模型行为
- 提高模型的透明度和安全性
A comprehensive multilingual AI terminology dictionary
多语义性是深度神经网络(特别是Transformer架构)中的一种特征,即单个神经元可能对几个不相关或语义不同的特征激活做出响应。
神经网络中的单个神经元对多个不同概念产生响应的现象。