はじめに Neural Autoregressive Flowsを読んだのでメモ．表裏一体の関係にあったMAFとIAFを統合して一般化したneural autoregressive flow(NAF)を提案した論文． お気持ち この論文で問題としているのは，Variational InferenceにおいてIAFやMAFなどかなり…

はじめに Masked Autoregressive Flow for Density Estimationを読んだのでメモ． お気持ち Inverse Autoregressive Flowと密接な関係がある，Real NVPの一般化手法Masked Autoregressive Flowを提案したぜということ． 密度推定の課題ではnormalizing flow…

はじめに MADE: Masked Autoencoder for Distribution Estimationを読んだのでメモ．flow-basedな生成モデルが面白かったのでその一種であるautoregressive flowも勉強したいと思いとりあえず読んで見た． お気持ち この論文ではAutoregressive models（自己…

ボルツマンマシンにおけるコントラスティブダイバージェンス法について勉強したからメモ

ボルツマンマシンにおける平均場近似の基本について勉強したのでメモ

ボルツマンマシンの最適化におけるMCMCについて勉強したメモ

ボルツマンマシンについて，学習方程式の導出に関するメモ

The Concrete Distribution: A Continuous Relaxation of Discrete Random Variablesを読んだからメモ．Gumbel-softmaxとほぼ同じコンセプトの論文．

Gumbel Max Trickとは アルゴリズムと簡単な証明