ТИК_2_БойцоваМП_321Б
.DOCXПрактична робота 2
Завдання 2.5.1
Якщо є чотири рівно ймовірних події, то ймовірність кожної з них дорівнює 1/4.
Таким чином, ентропія буде максимальною:
біт/повідомлення
Завдання 2.5.2
Н=
Тоді абсолютна надмірність джерела дорівнює 0.
Обчислимо відносну надмірність:
Завдання 2.5.3
Х3 х3 = 1
1 Х2 х2 = 01
0 1 х1 = 001
!х3 х1 х4 = 000
0 1
!х2 0
!х1=х4
Завдання 2.5.4
Для задачі 1
I = біт для всіх Х
Для задачі 3
I(x1) = 3 (кодується 3-знаковою комбінацією)
I(x2) = 2
I(x3) = 1
I(x4) = 3
Завдання 2.5.5
Обчислимо середню довжину як математичне сподівання:
0.25*3*2 + 0.25*2 + 0.25 = 2.25 біт/символ
H(X) =
Завдання 2.5.6
Обчислимо продуктивність джерела:
R=
R = 88888888.9 біт/с = 11111111.1 байт/с = 10850.69 Кбайт/с = 10.5964 Мбайт/с
Завдання 2.5.7
X1
0.2 X2
0.8 0.375
!x1 x3
0.625 0.8
!x2 0.2
!x3=x4
Розрахунки наведено нижче:
P1(x2) = 0.3 : 0.8 = 0.375
P1(x3) = 0.4 : 0.8 = 0.5
P1(x4) = 0.1 : 0.8 = 0.125
Перевірка: 0.375 + 0.5 + 0.125 = 1
P2(x3) = 0.5 : 0.625 = 0.8
P2(x4) = 0.125 : 0.625 = 0.2
Перевірка: 0.8 + 0.2 = 1
Перевірка правильності розкладу (рухаємось за графом):
Р(х4) = 0.8*0.625*0.2 = 0.1
Р(х3) = 0.8*0.625*0.8 = 0.4
Р(х2) = 0.8*0.375 = 0.3
Р(х1) = 0.2
Обчислимо ентропію (рухаємось за графом):
H = біт/повідомлення
Максимальна ентропія з завдання 1 буде більшою за обчислену вище
2>1.84652