12.3 Информационные характеристики источников непрерывных сообщений

Энтропию источника непрерывных сообщений можно вычислять аналогично энтропии источника дискретных сообщений, если осуществить предельный переход:

где - энтропия отсчета непрерывного сообщения при его преобразовании в цифровую форму;

- число уровней квантования;

- шаг квантования;

- вероятность появления в квантованном сообщении -ого уровня;

- дифференциальная плотность распределения вероятности непрерывной СВ ;

- отсчет непрерывного сообщения в некоторый момент времени .

Рисунок 12.1 – График .

Энтропия непрерывного источника бесконечна, т. к. непрерывное сообщение принимает бесконечное число значений как по времени, так и по уровню.

- дифференциальная энтропия – часть энтропии непрерывного источника, которая зависит от функции . Является относительной мерой неопределенности непрерывного сообщения, т.е. информационный смысл имеет не сама энтропия, а разность двух дифференциальных энтропий.

Свойства :

- величина вещественная, ограниченная, может принимать и отрицательные значения;

- ее значение зависит от выбора единицы измерения СВ:

;

- наибольшую энтропию имен величина с нормальным распределением:

;

- аддитивна, т.е. дифференциальная энтропия нескольких сечений СП равна сумме их дифференциальных энтропий.

Производительность источника:

,

где - частота дискретизации.

Если уровни квантования равновероятны:

.

13 Информационные характеристики каналов связи

13.1 Скорость передачи информации по каналу

Скорость передачи информации по каналу – среднее количество информации, получаемое на выходе канала в единицу времени. Размерность: бит/с.

Скорость передачи информации по идеальному (без помех и искажений) каналу вычисляется аналогично производительности источника. При вычислении скорости передачи информации в канале с помехами необходимо учитывать потери информации.

Для дискретного канала с помехами она определяется выражением:

,

где - энтропия передаваемого дискретного первичного сигнала;

- энтропия потерь в канале для дискретного первичного сигнала;

- длительность дискретного первичного сигнала.

Для непрерывного канала с помехами скорость передачи информации определяется выражением:

,

где - дифференциальная энтропия передаваемого непрерывного сигнала;

= энтропия потерь в канале для непрерывного первичного сигнала;

- максимальная частота спектра непрерывного первичного сигнала.

Потери информации определяются вероятностью ошибки в дискретном канале и уровнем помех в непрерывном канале и для практических расчетов скорости передачи информации по каналу их можно не учитывать при и отношении сигнал-помеха больше 20 дБ.

13.2 Пропускная способность канала

Пропускная способность канала – наибольшая скорость передачи информации по каналу:

.

Размерность: бит/с.

Пропускная способность дискретного канала вычисляется по формуле:

,

где - скорость модуляции, Бод;

- вероятность ошибки в канале.

Пропускная способность непрерывного канала определяется по формуле Шеннона:

,

где - ширина полосы пропускания канала;

- средняя мощность сигнала;

- средняя мощность помехи в полосе частот канала.

Из формулы видно, что пропускная способность пропорциональна ширине полосы частот канала и отношению сигнал-помеха. Формула указывает на возможность обмена ширины полосы пропускания на мощность сигнала при сохранении пропускной способности.