線形 - AI用語辞典

Definition

線形操作には、非線形活性化関数を伴わない乗算と加算が含まれます。ニューラルネットワークでは、線形レイヤー（または密結合層）が入力ベクトルに重み行列変換を適用します。線形操作のみでは

Summary

出力が入力に直接比例する操作や関係を示し、ニューラルレイヤーのアフィン変換の基礎を形成する。

Key Concepts

重み行列
アフィン変換
ドット積
重ね合わせ

Use Cases

特徴量投影
ロジスティック回帰
アテンション機構

Code Example

1
2
3
import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)