Какое количество информации содержится в одном символе сообщения, состоящего из алфавита, в котором символы встречаются

Для определения количества информации, содержащегося в одном символе сообщения, нам потребуется использовать понятие информационной энтропии \(H\).

1. Для первого случая, где символы встречаются с равными вероятностями, количество информации содержащейся в одном символе сообщения можно выразить как:
\[H = -\sum_{i=1}^{n} p_i \cdot \log_2(p_i)\]
где \(n\) - количество символов в алфавите, \(p_i\) - вероятность встречи символа \(i\).

В данном случае у нас алфавит из букв, поэтому \(n = 26\) (если мы рассматриваем только английский алфавит). Вероятность встречи каждой буквы будет равна \(1/26 = 0.0385\).

Подставляя значения в формулу, получим:
\[H = -26 \cdot (0.0385 \cdot \log_2{0.0385}) \approx 4.7 \, \text{бит}\]

2. Для второго случая, где символы встречаются с вероятностями \(p_1 = 0.8\), \(p_2 = 0.15\), \(p_3 = 0.03\), \(p_4 = 0.015\), \(p_5 = 0.005\), мы можем использовать ту же формулу:
\[H = -\sum_{i=1}^{n} p_i \cdot \log_2(p_i)\]

В данном случае у нас алфавит также из букв, поэтому \(n = 26\), и нам нужно подставить значения \(p_i\), предоставленные в задаче.

Подставляя значения в формулу и суммируя, получим:
\[H = -(0.8 \cdot \log_2{0.8} + 0.15 \cdot \log_2{0.15} + 0.03 \cdot \log_2{0.03} + 0.015 \cdot \log_2{0.015} + 0.005 \cdot \log_2{0.005}) \approx 2.47 \, \text{бит}\]

Таким образом, в первом случае, где символы встречаются с равными вероятностями, количество информации в одном символе сообщения составляет около 4.7 бит, а во втором случае, где символы встречаются с разными вероятностями, количество информации составляет около 2.47 бит.