第01回 情報量 課題解答例

以下の事象についての情報量を求めよ。ただし、アプリなどは使わず計算過程も書くこと。また、結果は四捨五入して小数第二位までにすること。

(11/9修正)
  1. 12面体サイコロを1つ投げ、1の目が出た。
  2. この事象が起こる確率は \(p=1/12\) なので、情報量は
    \( \begin{eqnarray} I&=&-\log(1/12)\cr &=&-\log(12^{-1})\cr &=&\log(12)\cr &=&\log(4\times3)\cr &=&\log4+\log3\cr &=&\log2^2+\log3\cr &=&2\log2+\log3\cr &≒&2\times1+1.58\cr &=&3.58 \end{eqnarray} \)

  3. 12面体サイコロを1つ投げ、1~5の目のいずれかになった。
  4. この事象が起こる確率は \(p=5/12\) なので、情報量は
    \( \begin{eqnarray} I&=&-\log(5/12)\cr &=&-\log\left(\frac{12}{5}\right)^{-1}\cr &=&\log\left(3\times4\times5^{-1}\right)\cr &=&\log3+\log4-\log5\cr &=&\log3+\log2^2-\log5\cr &=&\log3+2-\log5\cr &≒&1.585+2-2.322\\ &=&1.263\\ &≒&1.26 \end{eqnarray} \)

  5. コインを4枚投げ、すべて表になった。
  6. この事象が起こる確率は \(p=1/16\) なので、情報量は
    \( \begin{eqnarray} I&=&-\log(1/16)\cr &=&\log16\cr &=&\log2^4\cr &=&4\log2\cr &=&4\times1\cr &=&4 \end{eqnarray} \)

  7. コインを4枚投げ、表が1枚、裏が3枚になった。
  8. 表を○、裏を●で表わすと、こうなるのは○●●●、●○●●、●●○●、●●●○の4パターンあるので、この事象が起こる確率は \(p=4/16=1/4\) になる。この情報量は
    \( \begin{eqnarray} I&=&-\log(1/4)\cr &=&\log4\cr &=&\log2^2\cr &=&2\log2\cr &=&2\times1\cr &=&2 \end{eqnarray} \)

  9. コインを4枚投げ、表が2枚、裏が2枚になった。
  10. 表を○、裏を●で表わすと、こうなるのは○○●●、●●○○、○●●○、●○○●、○●○●、●○●○●の6パターンあるので、この事象が起こる確率は \(p=6/16=3/8\) になる。この情報量は
    \( \begin{eqnarray} I&=&-\log(3/8)\cr &=&-\log\left(3\times\frac{1}{8}\right)\cr &=&-\left(\log3+\log\frac{1}{8}\right)\cr &=&-\left(\log3+\log8^{-1}\right)\cr &=&-\left(\log3-\log8\right)\cr &=&-\log3+\log8\cr &=&-\log3+\log2^3\cr &=&-\log3+3\log2\cr &≒&-1.58+3\cr &=&1.42 \end{eqnarray} \)
inserted by FC2 system