電気通信システム 対策ノート「情報工学」

情報工学

情報量

情報量の直感的な定義として，以下の 2 つの要請が考えられる。

1. 発生する確率が低いこと（珍しいこと）が分かった時のほうが，情報量が多い
2. 情報量は足し算で増えていく

この条件を満たす情報量は以下のように定義できる。あることが分かった時の「そのことの情報量」を自己情報量 $i(x)$ と呼ぶ。

ここで $P(x)$ は，「あることが起こる確率」を表す。

論理式

論理演算（logical operation）は，論理式において，論理演算子などで表現される論理関数（ブール関数）を評価し，変数（変項）さらには論理式全体の値を求める演算である。

符号化

符号化（coding method）とは，元の信号・データに戻せるような形式で変換をすること。またはエンコードとも呼ばれる。情報の処理や伝達，記録などを効率的に行うために規則的な変換がなされる。

通信線路符号化の目的

なるべく高速に転送でき，なるべく多くの符号語を含み，誤り検出訂正可能な符号を見出すことである。

誤り検出・訂正

誤り検出訂正またはエラー検出訂正（error detection and correction / error check and correct）とは，データに符号誤り（エラー）が発生した場合にそれを検出，あるいは検出し訂正（前方誤り訂正）することである。検出だけをする誤り検出またはエラー検出と，検出し訂正する誤り訂正またはエラー訂正を区別することもある。誤り検出訂正により，記憶装置やデジタル通信・信号処理の信頼性が確保されている。