情報理論

自己情報量の発見法的導出

はじめに 情報理論の基本的な概念として、自己情報量があります。 自己情報量は、機械学習の分類モデルのアルゴリズムで登場する平均情報量の定義の基礎となっていたり、ここそこで現れてきます。ただ、抽象度が高いため初心者泣かせの概念です。 そこで、こ…