情報源事象系 \(X\) で生成されたものが通信路に入力されると考えれば、「0が出力される」「1が出力される」という事象から事象系 \(Y\) を作ることができる。
\(X\) で0, 1が生成される確率を \(p_0\), \(p_1\) とすると
\(
X=
\begin{bmatrix}
x_0 & x_1 \\
p_0 & p_1
\end{bmatrix}
\)
のように書ける。一方、通信路行列が
\(
T=
\begin{bmatrix}
p_{00} & p_{01} \\
p_{10} & p_{11}
\end{bmatrix}
\)
なら、0が出力されるのは
- 入力が0で(そうなる確率は \(p_0\))、0のまま変化しなかった(そうなる確率は \(p_{00}\))
- 入力が1で(そうなる確率は \(p_1\))、0に変化した(そうなる確率は \(p_{10}\))
の2つのケースの合計で、確率は \(p_0p_{00}+p_1p_{10}\) になる。
同様に、1が出力されるのは
- 入力が0で(そうなる確率は \(p_0\))、1に変化した(そうなる確率は \(p_{01}\))
- 入力が1で(そうなる確率は \(p_1\))、1のまま変化しなかった(そうなる確率は \(p_{11}\))
の2つのケースの合計で、確率は \(p_0p_{01}+p_1p_{11}\) になる。
つまり、出力の事象系は
\(
Y=
\begin{bmatrix}
y_0 & y_1 \\
p_0p_{00}+p_1p_{10} & p_0p_{01}+p_1p_{11}
\end{bmatrix}
\)
となる。
ところで、\(X, Y\) の下の行だけを取り出したものを \(P_x, P_y\) と置くと、
\(P_x=\begin{bmatrix}p_0, & p_1\end{bmatrix}\)
\(P_y=\begin{bmatrix}p_0p_{00}+p_1p_{10}, &p_0p_{01}+p_1p_{11}\end{bmatrix}\)
のように書ける。これも行列の一種だが、1行だけなので要素の区切りがわかりやすいように、例外的にコンマで区切って書く。
行列の掛け算のルール (掛け算の左の行列を左から右に、右の行列を上から下に移動しながら要素をかけたものを足し合わせる) に従って \(P_xT\) を計算すれば、
\(
\begin{eqnarray}
&&P_xT\\
=&&\begin{bmatrix}p_0, & p_1\end{bmatrix}
\begin{bmatrix}
p_{00} & p_{01} \\
p_{10} & p_{11}
\end{bmatrix}\\
=&&\begin{bmatrix}p_0p_{00}+p_1p_{10}, &p_0p_{01}+p_1p_{11}\end{bmatrix}
\end{eqnarray}
\)
となる。これはまさに上で求めた \(P_y\) に等しい。つまり、\(Y\) の下の行は行列の掛け算で求められる。
\(
P_y=P_xT
\)
