3. Избыточность источника дискретных сообщений и сжатие его данных.
Из вышесказанного следует, что наиболее экономичным и информативным является источник без памяти, выбирающий из ансамбля символы сообщений равновероятно и независимо.
Любой другой ансамбль (при том же объёме алфавита) потребует большого числа символов сообщения для передачи того же объёма информации.
Пусть сообщение состоит из n символов ансамбля с энтропией H(A).
Очевидно,
что количество информации, содержащееся
в этом сообщении равно
Для
передачи такого же объёма информации
при использовании символов ансамбля
с максимальной энтропией
(при том же объёме алфавита K
потребовалось бы меньшее число символов
,
которое определяется из равенства:
|
|
|
|
откуда
|
(3) |
|
|
где
|
(4) |
|
|
|
|
–
коэффициент,
характеризующий допустимую степень
сжатия сообщения.
Тогда величина избыточности источника определяется по следующей формуле:
|
(5) |
Формулу (5) можно представить в эквивалентной форме:
|
(6) |
|||
|
||||
где |
|
– |
избыточное число символов, необходимых для передачи некоторого объёма информации символами ансамбля с энтропией H(A). |
|
В сравнении со случайным, если бы эта же информация предавалась символами ансамбля с максимальной энтропией .
Очевидно,
что
удовлетворяет неравенству
.
Производительность источника ДС
Если
источник дискретных сообщений выдаёт
(выбирает) сообщения из ансамбля с
одинаковой скоростью,
затрачивая
секунд
на каждое сообщение, тогда суммарная
энтропия сообщений, передаваемых за
единицу времени:
|
(7) |
называется производительностью (бит/с) источника ДС.
У других источников скорость передачи сообщений определяется самой системой связи.
Для таких источников с управляемой скоростью производительность может регулироваться в широких пределах путем изменения величины .
Примером источника с фиксированной скоростью является датчик на космическом корабле, передающий каждые 10 секунд значения температуры, давления воздуха и т.д.
Источником с управляемой скоростью является написанный на бумаге текст, подлежащий передаче по телеграфу.
Выводы:
В результате изучения Лекции № 3 удалось:
1.Установить, что в процессе первичной классификации могут быть разные пути упорядочивания в зависимости от характера данных и исследовательских целей.
2. Рассмотреть аналитическую составляющую первичного кодирования
сообщений.
3. Разобрать коды МТК-2, ASCII, КОИ-8 и их характеристики.
4. Произвести аналитический анализ избыточности и производительности источника сообщений.
Литература
Основная:
Передача дискретных сообщений. Учебник для вузов / Под ред. В. П. Шувалова. – М.: Радио и связь, 1990. – 464 с.
Дополнительная:
Основы передачи дискретных сообщений. Учебник для вузов / Под ред. В.М. Пушкина. – М.: Радио и связь, 1992. – 288 с.
Телекоммуникационные системы и сети. Т. 1. Учеб. пособие / Крук Б. И. и др. – Новосибирск.: СП «Наука» РАН, 1998. – 536 с.
Емельянов Г.А., Шварцман В.О. Передача дискретной информации. Учебник для вузов. – М.: Радио и связь, 1982. – 240 с.
ГОСТ 19768-93 «Информационная технология. Наборы 8-битных кодированных символов. Двоичный код обработки информации».
Разработал: преподаватель кафедры
О.Р. Кивчун
«___»__________ 2012 года