情報量（自己情報量）とは、ある出来事が起きた際、それがどれほど予測しにくかったか（驚き度合い）を数学的に表した指標です。めったに起こらない珍しい出来事ほど情報量は大きく、常に起こるような当たり前の出来事の情報量はゼロに近づきます。AIや機械学習の分野では、モデルの予測評価や損失関数の設計に深く関わる基礎概念です。
情報量とは
情報量（自己情報量）とは、ある事象が発生したときの「予測しにくさ」や「意外性の度合い」を数値化したものです。確率が低い（珍しい）出来事ほど多くの情報をもたらし、確率が高い（当たり前な）出来事ほどもたらす情報は少なくなると定義されます。
詳しく解説
情報量は、クロード・シャノンが提唱した情報理論の基礎となる概念です。ある事象 x が発生する確率を P(x) とするとき、その情報量 I(x) は I(x) = -log P(x) という数式で定義されます。対数の底には一般的に 2 が用いられ、この場合の単位は「ビット（bit）」または「シャノン（shannon）」となります。この定義の背景には、「確実に起こると分かっていること（確率1）」が起きても新しい情報は得られないため情報量は0となり、逆に「めったに起こらないこと（確率が0に近い）」が起きたときには非常に大きな価値（驚き）があるという直感があります。AIや機械学習においては、この情報量をベースに「平均情報量（エントロピー）」や、予測分布と真の分布のズレを測る「交差エントロピー損失」が定義されており、モデルの学習や評価に不可欠な指標となっています。
具体例・使われ方
例えば、「明日も太陽が東から昇る」という出来事は、確率がほぼ100%であるため、それを知ったところで新しく得られる情報量はほぼゼロです。一方で、「明日は大地震が発生する」や「宝くじで1等に当選する」といった滅多に起きない出来事は、発生確率が極めて低いため、そのニュースが持つ情報量は非常に大きくなります。機械学習の自然言語処理モデルでは、文脈中に出現する確率が低い珍しい単語ほど高い情報量を持つと判断され、特徴量の重み付けなどに利用されます。
似た用語との違い
情報量（自己情報量）と「エントロピー」は混同されやすいですが、明確に異なります。自己情報量は「特定の1つの出来事」が持つ情報量を指すのに対し、エントロピーは「その確率分布全体で、平均してどれくらいの情報量（不確実性）が得られるか」を期待値として算出したものです。また、一般的な会話で使われる「データのバイト数（容量）」としての情報量とも異なります。数学的な情報量は、データのサイズではなく「予測のつきにくさ」に基づいて計算されます。
注意点
情報量はあくまで「確率的な発生しにくさ」を評価する指標であり、その情報が人間にとって「役に立つか」「道徳的に重要か」といった主観的な価値や意味は一切考慮しません。例えば、ランダムに生成された無意味な文字列であっても、出現確率が低ければ数学的な情報量は非常に大きくなります。AIのシステムを設計する際には、数式上の情報量の高さが、必ずしも実用上の重要性に直結するわけではない点に注意が必要です。