情報理論 小テスト (第2回の内容) 解答
- 事象系に含まれる事象が起こる確率をすべて加えた値はどうなるか。
- エントロピーの定義のうち正しいのはどれか。
- エントロピーの別名のうち正しいのはどれか。
- 事象系Xが2つの事象からなり、一方が起こる確率をpとしたとき、エントロピーの値として正しいのはどちらか。
- -p log(p) - (1-p) log(1-p)
- -log(p) - log(1-p)
- 4の問題のケースで、エントロピーが最大になるのは次のうちどれか。
※ グラフにするとこのようになる。pが0, 1のときはエントロピーは0で最小になる。