現象から理解する：何が起こり、なぜ起こる？
起こりにくい事象ほど、その観測がもたらす情報量は大きい。確率0の事象は観測できず、確率1の事象は情報量0。
現象を表す公式・定義
この単元は内容確認中です。以下の式は学習の出発点であり、公式を適用できる条件を例題・教科書などで確認してください。
考え方の出発点：発生確率1/8の事象の自己情報量は3 bit。
検討すべき条件：対数の底2なら単位はbit。
現象を図で理解する
模式図は法則を理解するための補助です。実際に代入する数値や条件は、公式と問題文で確認してください。
式が成り立つ理由・導出の流れ
冒頭に示した公式を使う前に、問題が要求する量と単位を整理しましょう。成立条件が不明なときに式だけを暗記して代入しないことが大切です。
よくあるミス・検算の観点
- 対数の底2なら単位はbit。
単位、符号、初期条件、ベクトルの向きを最後に確認しましょう。
例題1（基本）｜何を求めるかから始める
発生確率1/8の事象の自己情報量は3 bit。
対数の底2なら単位はbit。
演習問題（基本・標準・発展）
基本から段階的に考えるオリジナル問題です。内容確認中の単元には共通の復習問題も残しています。
確率1/4の事象が発生したときの情報量を求めよ。
解答・解説を開く
2 bit。−log₂(1/4)=2。
公式・定義「I(x)=-\log_2 p(x)」を、単元の用語を使って言葉で説明しよう。
解答・解説を開く
起こりにくい事象ほど、その観測がもたらす情報量は大きい。確率0の事象は観測できず、確率1の事象は情報量0。
例題の計算・推論の手順を、模範解説を閉じて再現しよう。
解答・解説を開く
発生確率1/8の事象の自己情報量は3 bit。
なぜこの考え方が使えるのか、前提となる条件や注意点を述べよう。
解答・解説を開く
対数の底2なら単位はbit。
公式と例題を使い、結果がどの量に依存するか説明しよう。
解答・解説を開く
発生確率1/8の事象の自己情報量は3 bit。 見通し：起こりにくい事象ほど、その観測がもたらす情報量は大きい。確率0の事象は観測できず、確率1の事象は情報量0。
別の設定へ応用する際、元の条件を外した場合に検討すべき点を挙げよう。
解答・解説を開く
対数の底2なら単位はbit。 起こりにくい事象ほど、その観測がもたらす情報量は大きい。確率0の事象は観測できず、確率1の事象は情報量0。
問題に添えた図は考えるための模式図です。数値や関係を判断するときは必ず問題文の条件を優先してください。
この単元の学習を記録する
例題・演習を終えたら記録しましょう。結果はこのブラウザにのみ保存され、ログインや外部送信は不要です。
未完了関連単元・参考資料
前後の単元を続けて読むと、定義から応用までのつながりを確認できます。院試の過去問は大学の公式公開先を参照し、当サイトには独自解説・オリジナル練習問題を掲載します。