variational-autoencoder

项目介绍：变分自编码器

变分自编码器（Variational Autoencoder，简称VAE）是深度学习领域中的一种生成模型，它的主要任务是对数据进行压缩和再生成。该项目提供了基于TensorFlow和PyTorch的变分自编码器的参考实现。这两个框架各有优劣，作者特别推荐了PyTorch版本，因为它包含了一个更具表现力的变分族——逆自回归流（Inverse Autoregressive Flow）。

项目背景

变分自编码器通过变分推断技法对模型进行训练，在这里模型主要用于拟合二值化的MNIST手写数字数据集。这一过程可通过编码器（推断网络）来实现，它帮助简化了推断并能在不同的数据点之间共享参数。同时，生成网络（解码器）用于参数化生成的可能性。

PyTorch 实现

在PyTorch实现中，项目通过重要性采样来估计边际似然，对于Hugo Larochelle的Binary MNIST数据集，最后在测试集上的边际似然估计达到-97.10 nats，这一数值与已发表的结果相当。项目中实现的代码可以在终端环境中运行，示例如下：

$ python train_variational_autoencoder_pytorch.py --variational mean-field --use_gpu --data_dir $DAT --max_iterations 30000 --log_interval 10000

通过使用更加复杂的逆自回归流变分后验逼近，测试集的边际对数似然提升到-95.33 nats，更好的捕捉数据特征：

$ python train_variational_autoencoder_pytorch.py --variational flow

JAX 实现

相比较而言，JAX实现版本在性能上有所突破，能够实现3倍于PyTorch的速度加快。同样的，用户可以利用命令行运行JAX版本的模型：

$ python train_variational_autoencoder_jax.py --variational mean-field 

而在使用逆自回归流时，尽管代码实现中缺乏卷积操作，但仍可达到较好的结果。使用残差块能够达到更低的ELBO值：

$ python train_variational_autoencoder_jax.py --variational flow 

生成GIF动画

为了直观展示训练过程，项目还提供了生成GIF动画的步骤。首先运行TensorFlow版本的训练脚本生成JPEG文件，然后使用ImageMagick工具合成GIF动画。

项目改进

当前项目仍在不断完善中，以下是几个未来可能的方向：

• 添加多GPU/TPU选项，提高大规模运算中的效率。
• 为PyTorch和JAX实现添加JaxTyping支持，以实现运行时的静态类型检查。

以上为变分自编码器项目的概况及其实现细节。该项目从构想到实现为研究者提供了一个实践探索的工具，可以帮助用户深入理解生成模型的原理及实现细节。