1. Найти энтропию физической системы, имеющей 10 состояний, с вероятностями состояний равными: 0,01; 0,05; 0,13; 0,04

1. Найти энтропию физической системы, имеющей 10 состояний, с вероятностями состояний равными: 0,01; 0,05; 0,13; 0,04; 0,15; 0,1; 0,2; 0,25; 0,03; 0,04. Найти количество информации на символ сообщения, составленного из этого алфавита.
2. Вычислить количество информации на 1 символ сообщения, составленного из алфавита, который содержит 13 символов и где вероятность появления каждого символа равна.
Petya_3429

Petya_3429

Конечно, я могу помочь вам с этими задачами по теории информации. Давайте начнем с первой задачи.

1. Для нахождения энтропии физической системы, нам необходимо использовать формулу энтропии, которая выглядит следующим образом:

H=i=1npilog2(pi)

где pi - вероятность появления состояния i, а n - количество состояний в системе.

Для данной задачи, у нас есть 10 состояний и соответствующие вероятности состояний:

p1=0.01, p2=0.05, p3=0.13, p4=0.04, p5=0.15, p6=0.1, p7=0.2, p8=0.25, p9=0.03, p10=0.04.

Подставляя значения в формулу энтропии, мы получаем:

H=0.01log2(0.01)0.05log2(0.05)0.13log2(0.13)0.04log2(0.04)0.15log2(0.15)0.1log2(0.1)0.2log2(0.2)0.25log2(0.25)0.03log2(0.03)0.04log2(0.04)

Выполнив вычисления, найдем значение энтропии H.

2. Вторая задача требует нахождения количества информации на 1 символ сообщения, составленного из алфавита, содержащего 13 символов, где вероятность появления каждого символа равна.

Для этой задачи нам также понадобится использовать формулу количества информации:

I=log2(pi)

где pi - вероятность появления символа i.

В данном случае, у нас имеется 13 символов с одинаковой вероятностью появления. Таким образом, вероятность каждого символа будет равна:

p1=p2==p13=113.

Подставляя значение вероятности в формулу количества информации, мы получаем:

I=log2(113)

Выполнив вычисление, мы найдем количество информации на 1 символ сообщения.

Пожалуйста, дайте мне знать, если у вас возникнут какие-либо вопросы по этим задачам или если вам нужна помощь в чем-то еще.
Знаешь ответ?
Задать вопрос
Привет!
hello