本当は怖いHPC

HPC屋の外部記憶装置。メモ書き。ちゃんとしたものは別のところに書く予定です

読書メモ:ベイズ推論による機械学習入門(3) 2章(続き)

ベルヌーイ分布のエントロピーと、分布同士のKL距離を計算した。(前回の記事はKL距離のコードが間違っていたので修正した)

本文と同じものが数値的に計算できた。

ベルヌーイ分布のエントロピー

ベルヌーイ分布同士のKL距離(μ=0.1, 0.5, 0.9)

gist412311f91546c79917bcc634223b181e