変分自動エンコーダー（VAE）の原理解説とMNISTデータセットを用いた実践的構築
1. 数理的基礎
1.1 KL散度
KL散度（クールバック・ライブラー情報量）は、確率分布 \(P\) と \(Q\) の間の統計的な距離を測る指標です。あるモデル分布 \(Q\) が真の分布 \(P\) からどれだけ乖離しているかを定量化します。
離散確率変数における定義は以下の通りです：
\[D_{\text{KL}}(P \parallel Q) := \sum_{x} P(x) \log \frac{P(x)}{Q(x)} = -\sum_{x} P(x) \log Q ...
8月28日 05:40 投稿