2. Исследование тракта кодер – декодер источника.

Рис. 2. Схема источника сообщений.

М – размер алфавита источника;

- i-й символ, передаваемый источником;

- вероятность выдачи i-го символа источником.

1. Рассчитаем энтропию, избыточность, производительность источника (M=16 – число символов в алфавите источника).

Энтропия источника - предел среднего количества информации, отнесённый к одному символу последовательности:

Избыточность источника:

Производительность источника (энтропия в единицу времени):

.

2. Производится примитивное двоичное кодирование. Найдём минимально необходимое число разрядов кодового слова и среднее количество двоичных символов, приходящееся на один символ источника.

Минимально необходимое число разрядов кодового слова :

(символа).

10

Среднее количество двоичных символов : для случая примитивного кодирования среднее количество двоичных символов, приходящееся на один символ источника, будет равно , т. е. ==4 (поскольку все символы представляются комбинациями с одинаковым числом разрядов).

3. Производится экономное кодирование двоичным (т=2) кодом Хаффмана. Построим кодовое дерево, запишем кодовые комбинации для всех 16 символов источника, найдём число разрядов каждой полученной комбинации (таблица 1).

Таблица 1.

Номер i	Символ	Вероятность	Код
0	А	0,279	11	2	0,558	0	2
1	В	0,232	01	2	0,464	1	1
2	М	0,166	101	3	0,498	1	2
3	И	0,150	100	3	0,45	2	1
4	Л	0,040	0011	4	0,16	2	2
5	К	0,039	0001	4	0,156	3	1
6	Р	0,025	00101	5	0,125	3	2
7	Д	0,018	00001	5	0,09	4	1
8	П	0,0165	001001	6	0,099	4	2
9	Б	0,010	000001	6	0,06	5	1
10	Г	0,009	0010001	7	0,063	5	2
11	О	0,006	0010000	7	0,042	6	1
12	Е	0,005	0000001	7	0,035	6	1
13	З	0,002	00000001	8	0,016	7	1
14	Н	0,0015	000000001	9	0,0135	8	1
15	С	0,001	000000000	9	0,009	9	0

11

Рисунок 3. Кодовое дерево.

Среднее количество двоичных символов, приходящееся на один символ источника:

.

Избыточность на выходе кодера:

Где m=2.

Вывод: При экономном кодирования среднее число двоичных символов, приходящееся на один символ источника меньше, чем в примитивном кодировании, что говорит об эффективности использования экономного кодирования. Так же из рассчитанной избыточности при экономном кодировании мы заметили, что она меньше, чем в примитивном кодировании. Примитивный равномерный код не может обеспечить эффективного согласования источника с каналом связи.

12

4. Вероятности выдачи двоичных символов на выходе кодера источника:

; .

На каждый символ источника на входе, кодер в среднем выдаёт двоичных кодовых символов на выходе. Следовательно, средняя скорость выдачи кодовых символов на выходе кодера источника будет в раз больше скорости выдачи символов источником сообщений (.

[Симв/с].

5. Кодирование и декодирование.

При кодировании происходит процесс преобразования элементов сообщения в соответствующие им кодовые символы. Каждому элементу сообщения присваивается определённая совокупность кодовых символов, которая называется кодовой комбинацией.

Рис. 3. Схема кодера.

На вход кодера поступает последовательность информационных символов - информационная комбинация , длинной к. При кодировании каждая информационная комбинация заменяется соответствующей кодовой комбинацией длиной .

При кодировании экономным кодом Хаффмана, каждый символ источника заменяется соответствующей кодовой комбинацией длины (в соответствии с таблицей 2). Для однозначного декодирования, кодовые комбинации экономного кода должны удовлетворять условию префиксности, которое состоит в том, что ни одна кодовая комбинация не должна быть началом любой другой кодовой комбинации. При декодировании из всей последовательности кодовых символов выделяются кодовые комбинации экономного кода, каждая из которых на выходе декодера заменяется соответствующим символом источника (то есть происходит процедура обратная кодированию). В результате устранения избыточности из сообщения, при возникновении одиночной ошибки в кодовом символе приведёт к тому, что оставшаяся (следующая за ошибочным символом) часть сообщения восстановится декодером неверно.

13