情報理論 第5回　通信路　練習問題解答例

• 練習問題1
全く変化も消失も起こらない通信路の通信路線図を描け。



確率を書き忘れないように注意。

• 練習問題2
「入力が0のときは確率$p$で変化、確率$q$で消失し、入力が1のときは確率$r$で変化、確率$s$で消失する」通信路の通信路線図を描け。



0が0のまま、1が1のままなのは、変化も消失もしないとき。
確率がどの線に属するのかがわかるように、書く位置を工夫する。

• 練習問題3
練習問題1の通信路の通信路行列を記述せよ。


$T=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]$

• 練習問題4
練習問題2の通信路の通信路行列を記述せよ。


$T=\left[\begin{array}{ccc}1-p-q& q& p\\ r& s& 1-r-s\end{array}\right]$

• 練習問題5
情報源の事象系が $X=\left[\begin{array}{cc}{x}_0& x_1\\ \frac{1}{2}& \frac{1}{2}\end{array}\right]$ であるとき、練習問題4の通信路を通った出力の事象系$Y$を記述せよ。

出力が0, 消失, 1である確率は
$\left[\begin{array}{cc}{p}_0& p_1\end{array}\right]\left[\begin{array}{ccc}{p}_{00}& p_{\mathrm{0x}}& p_{01}\\ p_{10}& p_{\mathrm{1x}}& p_{11}\end{array}\right]$
で求められる。$p_0$, $p_0$はどちらも$\frac{1}{2}$、後ろの行列は練習問題4から $T=\left[\begin{array}{ccc}1-p-q& q& p\\ r& s& 1-r-s\end{array}\right]$
であることがわかっているので、
のように求められる。

結局、出力の事象系は となる (実際にこれらの3つの確率を足してみると、1になることが確かめられる)。