重参数化技巧
Definition
重参数化技巧是变分自编码器及其他概率模型中使用的一种基本方法。它通过将随机变量表示为确定性函数和独立噪声变量的组合，使得梯度能够流经随机节点，从而允许使用反向传播算法进行优化。 …
重参数化技巧是变分自编码器及其他概率模型中使用的一种基本方法。它通过将随机变量表示为确定性函数和独立噪声变量的组合，使得梯度能够流经随机节点，从而允许使用反向传播算法进行优化。 …
期望传播（EP）通过迭代 refine 高斯近似值来逼近难以处理的积分，从而估计真实后验分布。它最小化近似分布与真实分布之间的Kullback-Leibler散度，常用于贝叶斯推 …
这一概念确立了：使用特定核函数最小化正则化风险泛函，等价于在贝叶斯框架中寻找最大后验概率（MAP）估计。具体来说，它揭示了确定性核方法与概率性高斯过程之间的深层联系。 …