21.1 Критерій найбільшого припустимого відхилення. Загальний підхід.

Выбор шага дискретизации с использованием данного критерия производится в предположении, что исходное сообщение восстанавливается с помощью полинома степени n. На некотором отрезке времени [t₀, t_n] для равноотстоящих отсчетов восстановленное сообщение х'(t) может быть представлено выражением:

Вводя сокращенную запись, получим:

Для восстановления функции х(t) c помощью полинома степени n необходимо иметь n + 1 отсчетов.

Погрешность восстановления исходного сообщения в этом случае определится остаточным членом:

где — значение (n + 1)-й производной сообщения х (t) взятой в некоторой точке ξ, лежащей внутри интервала t_n — t₀. Поскольку положение точки ξ неизвестно, для оценки используют модуль максимального значения производной М_n+1 на заданном интервале. Тогда

Введя ограничение

где ε₀ — допустимая погрешность дискретизации по времени, можно найти шаг дискретизации или длину интервала t_n — t₀, на котором-нужно определить п + 1 отсчетных значений непрерывного сообщения. При этом интервал t_n — t₀ является некоторой функцией погрешности ε₀, степени воспроизводящего полинома и т. д.

Интерес представляет определение шага дискретизации при использовании воспроизводящих полиномов нулевой и первой степени.

Нулевой степени воспроизводящего полинома соответствует ступенчатая аппроксимация непрерывного сообщения. В этом случае (1-90) примет вид:

откуда

При n = 1 (линейная аппроксимация) остаточный член определится

Максимизируя произведение

получим откуда

21.2 Пропускна спроможність дискретного каналу без завад.

Под дискретным каналом передачи информации принято понимать совокупность средств, предназначенных для передачи дискретных сигналов.

Пропускная способность дискретного канала без помех, в котором используется m символов с длительностью . Символы считаются независимыми и любая последовательность символов представляет некоторое сообщение. Взяв в качестве исходного выражение , определим количество информации в сообщении и найдем пропускную способность.

Общее количество сообщений L, имеющих длительность , определяется как сумма количеств сообщений, оканчивающихся символами

,

Найдем значение пропускной способности:

- корень характеристического уравнения

Когда , то

21.3 Обмінні співвідношення у каналах передачі інформації

за счет расширения полосі частот и уменьшения длительности сообщения можно оставить прежнюю пропускную способность

22.1 Оптимальное кодирование. Критерий оптимальности кода

Если источник вырабатывает сообщения, состоящие из фиксированного набора символов х с вероятностями появления р(х_і), то при оптимальном кодировании они заміняються символами кода z или комбинациями кода так, чтобы количество информации на один символ кода было максимальным.

Оптимальные коды: код Шеннона- Фано и код Хаффмена.

Код Шеннона-Фано рассчитан на использование двоичного алфавита. Хаффменом предложена методика, позволяющая построить оптимальный код с минимальной избыточностью при любом основании кода m.

Оптимальное статистическое кодирование обеспечивает минимизацию среднего количества кодовых символов на один элемент сообщения. Этим обеспечивается получение максимально возможного количества информации, передаваемого кодовыми комбинациями при заданной длительности работы канала, а следовательно, и пропускной способности канала.

Критерий оптимальности кода.

Оптимальное согласование сообщения с каналом будет при выборе длительностей символов сообщения в соответствии с выражением

(II1-60}

или в другой записи для случая, когда

(111-61)

Из (II1-60) следует, что длительности символов сообщения должны быть пропорциональны логарифму вероятности их появления, т. е. наиболее вероятные символы должны иметь наименьшую длительность, а наименее вероятные — большую длительность. Если символы данного сообщения не удовлетворяют условиям оптимального согласования, они могут быть при согласовании заменены другими символами в соответствии с условиями (111-60) или (111-61). Такая замена называется оптимальным кодированием.