自己情報量

2025年10月16日

自己情報量

英語表記: Self-Information

概要

自己情報量（Self-Information）とは、ある特定の事象が発生した際に、その事象がどれだけの情報を含んでいるかを定量的に測るための尺度です。これは、情報理論の創始者クロード・シャノンによって確立された概念であり、「情報の単位（ビット）」を数学的に定義する基礎となります。発生する確率が低い、つまり予期せぬ事象ほど、その事象がもたらす自己情報量は大きくなる、という特徴を持っています。

詳細解説

自己情報量は、私たちが日常的に扱う「情報量と基本単位」を、曖昧さなく数学的に扱うために導入されました。特に、この概念は情報の圧縮や通信の効率を最大化する「エントロピーと情報理論」の土台を築いています。

目的と動作原理

自己情報量を計算する主な目的は、事象の「驚き度」や「不確実性の解消度」を客観的な数値（ビット）で表現することにあります。

この情報量 $I(x)$ は、事象 $x$ の発生確率 $P(x)$ を用いて、以下の数式で定義されます。

$$I(x) = -\log_2 P(x)$$

ここで重要なのは、底が2の対数（$\log_2$）を用いている点です。これにより、情報量の単位は「ビット（bit）」となります。ビットは、「情報の単位」の最小単位であり、2択の選択肢から一つを選ぶことで得られる情報量（例えば、コインの裏表）に対応します。

確率と情報量の関係性

この数式が示す関係性は非常に直感的で、情報理論の美しさを示しています。

確率が低いほど情報量が多い: 例えば、確率1/8でしか起こらない珍しい事象が発生した場合、$-\log_2 (1/8) = 3$ ビットの情報量が得られます。これは、8つの等確率な選択肢から1つを特定するために3回の2択（ビット）が必要であることを意味します。
確率が高いほど情報量が少ない: 例えば、確率1/2で起こる事象（コインの表）の場合、$-\log_2 (1/2) = 1$ ビットです。
必ず起こる事象の情報量はゼロ: 確率1.0（100%）で起こる事象の場合、$-\log_2 (1) = 0$ ビットとなります。すでにわかっていることには、新しい情報価値がない、というわけですね。

このように、自己情報量は、単なるデータの量ではなく、そのデータが持つ「不確実性をどれだけ取り除いたか」という質的な側面を、ビットという「基本単位」で測定することを可能にしています。私たちが「情報量と基本単位」を学ぶ上で、この自己情報量の考え方は、ビットが単なる2進数の桁ではなく、情報としての意味を持っていることを理解する鍵となります。

階層構造における位置づけ

自己情報量は、この概念がなければ「エントロピーと情報理論」は成立しない、非常に重要な出発点です。エントロピー（平均情報量）とは、ある情報源から発生しうる全ての事象の自己情報量を、それぞれの発生確率で重み付けして平均した値のことです。つまり、自己情報量が個々の事象の価値を測るのに対し、エントロピーはその情報源全体の不確実性を測る指標であり、両者は密接に関連しているのです。

具体例・活用シーン

自己情報量の考え方は、一見難解な数式に見えますが、私たちの直感と驚くほど一致しています。

1. 天気予報の例

もし、あなたが住む地域で「明日は晴れです」という予報が出たとしましょう。この地域が年間300日晴れる場所であれば、このニュースの確率は非常に高い（例えばP=0.8）ため、情報量はほとんどありません。

ところが、「明日は巨大な隕石が落下します」という予報が出た場合、これは発生確率が極めて低い（P≒0）事象です。このニュースが真実であれば、その自己情報量は非常に大きく、私たちの行動や判断に大きな影響を与えます。

これは、情報の単位やビットの計算を学ぶ上で、非常に説得力のある例だと感じます。情報量とは、データサイズ（バイト）ではなく、そのデータがもたらす「驚き」や「価値」の尺度なのだと理解できますね。

2. クイズ番組のメタファー

自己情報量を理解するための最高のメタファーは、「予期せぬニュースの衝撃度」です。

あるクイズ番組で、正解が4択（A, B, C, D）だとします。回答者が何も知らない場合、正解する確率は1/4です。この場合、正解がわかると $I = -\log_2 (1/4) = 2$ ビットの情報が得られます。つまり、2回の「はい/いいえ」の質問（2ビット）で正解を絞り込めることを意味します。

しかし、もし回答者が「BとDは絶対に間違いだ」というヒントを事前に得ていたとしましょう。残りの選択肢はAとCの2択になり、正解確率は1/2に上がります。このとき、実際に正解を聞いたときに得られる情報量は $I = -\log_2 (1/2) = 1$ ビットに減少します。

ストーリー:
まるで、探偵が事件の真相に迫る過程のようです。最初は容疑者が16人いて、誰が犯人か全くわからない状態（情報量4ビット）。有力な証拠（情報）を得るたびに、容疑者は8人、4人、2人と絞られていきます。情報量とは、この「不確実な容疑者の数」をどれだけ減らしたか、という進捗度合いをビットで測っているのですね。

3. データの符号化（情報圧縮）

この概念は、データ通信や情報圧縮技術の根幹を成します。発生頻度の高いデータ（情報量が少ない）には短い符号（コード）を割り当て、発生頻度の低いデータ（情報量が多い）には長い符号を割り当てることで、全体として効率的な圧縮を実現します。これはハフマン符号化などの基礎となっており、私たちが日常的に使うJPEGやMP3といった技術の裏側で、この自己情報量の理論が活用されているのです。

資格試験向けチェックポイント

ITパスポート、基本情報技術者、応用情報技術者のいずれの試験においても、情報理論の基礎知識は重要です。特に「情報量と基本単位」のセクションでは、自己情報量に関する概念理解が問われやすいです。

出題パターンと対策のヒント

対数計算の確認: 「8種類の事象が等確率で起こる場合、一つの事象が発生したときの情報量は何ビットか？」といった形で、対数計算を要求する問題が出ます。$\log_2$ の計算に慣れておきましょう。
エントロピーとの区別: 自己情報量は「特定の事象」の情報量ですが、エントロピーは「情報源全体の平均的な不確実性」を示す平均値です。この違いを明確に区別することが重要です。
負号の意味: 数式 $I = -\log_2 P$ の負号は、確率 $P$ が0から1の間であるため、$\log_2 P$ が必ず負の値になるのを打ち消し、情報量 $I$ を正の値にするためについている、という理由を理解しておくと安心です。