情報理論 小テスト (第09回の内容) 解答

1. 相関のある2つの事象系で、一方の事象系の情報を知ることによって得られる、もう一方の事象系の情報量のことを何というか。
• 相対情報量
• 条件付き確率
• 相互情報量



2. 事象系Aの情報を知ることで得られる、事象系Bについての、問1の量をどう書くか。
• I(A, B)
• I(B, A)



3. I(A, B)が0.3, H(A)が0.7のとき、H(A|B)の値はいくらか。
• 1.0
• 0.4
• 0.21


• (2)式の\(X, Y\) を \(A, B\) に置き換えたものを変形すれば \(H(A|B)=H(A)-I(A, B)\) となる。図で考えて「(左の三日月)=(左の円)-(2つの円の重なり)」としてもわかる。



4. 事象系AとBの結合事象系をどう書くか。
• AB
• H(AB)



5. 問3の条件に加えてH(B)の値が0.7のとき、問4の事象系のエントロピーはいくらか。
• 1.1
• 1.4
• 1.7


• (4)式の\(X, Y\) を \(A, B\) に置き換えれば \(H(AB)=H(A)+H(B)-I(A, B)\) となる。図で考えて「(メガネ型)=(左の円)+(右の円)-(2つの円の重なり)」としてもわかる。