Какова степень неопределенности (энтропия) после приема одного из пяти сообщений, если вероятность получения первого

Для решения этой задачи, нам необходимо воспользоваться формулой для вычисления энтропии.

Энтропия — это мера неопределенности в информации, которую мы получаем. Чем больше неопределенность, тем выше энтропия.

Формула для расчета энтропии выглядит следующим образом:

\[ H = -\sum_{i=1}^{n} p_i \cdot \log_2 p_i \]

где \( H \) - энтропия, \( p_i \) - вероятность получения сообщения/события, \( n \) - количество возможных сообщений/событий.

Теперь приступим к решению первой задачи:

1. По условию, вероятности получения первого, второго, третьего, четвертого и пятого сообщений составляют соответственно 0,3, 0,2, 0,14, \( p_4 \) и \( p_5 \).
2. Поскольку вероятности всех сообщений должны в сумме давать 1, мы можем записать уравнение:
\[ 0,3 + 0,2 + 0,14 + p_4 + p_5 = 1 \]
3. Из уравнения получаем, что \( p_4 + p_5 = 1 - 0,3 - 0,2 - 0,14 = 0,36 \).
4. Поскольку вероятности \( p_4 \) и \( p_5 \) равны между собой, мы можем записать еще одно уравнение:
\[ p_4 = p_5 = \frac{0,36}{2} = 0,18 \].
5. Теперь можно использовать формулу для расчета энтропии:
\[ H = -0,3 \cdot \log_2(0,3) - 0,2 \cdot \log_2(0,2) - 0,14 \cdot \log_2(0,14) - 0,18 \cdot \log_2(0,18) - 0,18 \cdot \log_2(0,18) \]
Пожалуйста, внимательно проверьте на правильность округления всех значений в формуле.
6. Подставляя значения и вычисляя, получаем:
\[ H \approx 2,064 \]

Таким образом, после приема одного из пяти сообщений степень неопределенности (энтропия) составляет около 2,064.

Теперь рассмотрим вторую задачу:

1. По условию, вероятности первого, второго, третьего, четвертого, пятого и шестого событий составляют соответственно 0,15, 0,25, 0,2, 0,12, 0,12 и 0,1.
2. Запишем уравнение для суммы вероятностей всех шести событий:
\[ 0,15 + 0,25 + 0,2 + 0,12 + 0,12 + 0,1 = 0,94 \]
3. Из уравнения получаем, что нетрудно вычислить вероятность шестого события:
\[ 0,1 = 1 - 0,15 - 0,25 - 0,2 - 0,12 - 0,12 = 0,16 \]
4. Теперь приступим к расчету энтропии:
\[ H = -0,15 \cdot \log_2(0,15) - 0,25 \cdot \log_2(0,25) - 0,2 \cdot \log_2(0,2) - 0,12 \cdot \log_2(0,12) - 0,12 \cdot \log_2(0,12) - 0,16 \cdot \log_2(0,16) \]
5. Подставляя значения и вычисляя, получаем:
\[ H \approx 2,512 \]

Таким образом, после реализации одного из шести событий степень неопределенности (энтропия) опыта составляет около 2,512.