7.2 Эффективная ширина спектра стационарного случайного процесса

При анализе случайных процессов с неравномерным спектром часто пользуются понятием эквивалентной или эффектив­ной ширины спектра

По правилу эквивалентного прямоугольника рассматривается как основание прямоугольника с высотой равной максимальному значению спектральной плотности и площадью равной площади под кривой спектральной плотности сообщения:

Также пользуясь преобразованием Винера-Хинчина, можно выразить эффективную ширину спектра через корреляционную функцию:

.

Эффективную ширину спектра также можно выразить с помощью интервала корреляции следующим образом

7.3 Построение неразделимого циклического кода

Циклический код предназначен для того, чтобы выявлять ошибки и в некоторых случаях исправлять их. Циклические коды характеризуются тем, что при циклической перестановке всех символов кодовой комбинации этого кода возникает другая кодовая комбинация этого же кода, т.е. если комбинация является комбинацией циклического кода, то тоже комбинация этого кода (n - длина кодовой комбинации). Определение ошибки с помощью циклического кода обеспечивается тем, что в качестве разрешенных комбинаций избираются такие, которые делятся без остатка на некоторый заранее выбранный полином . Если принятая комбинация содержит искаженный символ, то деление на полином осуществляется с остатком. При этом формируется сигнал, который свидетельствует об ошибке. Полином называется образующим.

В неразделимом циклическом коде мы не знаем, где расположены контрольные символы (а в разделимом циклическом коде контрольные символы будут расположены в младших разрядах). Построение комбинаций циклического кода может быть осуществлена путем умножения первоначальной кодовой комбинации на образующий полином с приведением подобных членов по модулю 2. Если старшая степень произведения не превышает , тогда полученный полином будет представлять кодовую комбинацию циклического кода. Если старшая степень произведения больше или равна , тогда полином произведения делится на заранее выбранный полином степени , и результатом умножения будет считаться полученный остаток от деления. Таким образом, все полиномы, отражающие комбинации циклического кода, будут иметь степень ниже .

Например

8.1 Энтропия дискретных сообщений. Свойства энтропии

Энтропия – это количество информации приходящейся на один символ сообщения. Энтропия характеризует источник сообщений с заданным алфавитом и является мерой неопределенности, которая имеется в ансамбле сообщений этого источника. Чем больше энтропия, тем больше информации несет в себе сообщение источника, тем большая неопределенность снимается при получении сообщения.

Энтропия определяется выражением:

, где - вероятность появления i-го символа.

Дискретным называется сигнал состоящий из отдельных элементов (букв, символов, импульсов) принимающих конечное число различных значений.

Свойства энтропии:

1. Энтропия является величиной вещественной ограниченной и отрицательной, т. е. H>0. Это свойство следует из выражения с учетом того, что величины р_i являются неотрицательными величинами и заключены в промежутке 0 ≤ р_i ≤ 1.

2. Энтропия минимальна и равна нулю, если сообщение известно заранее, т. е. если р_i= 1, а р₁ = р₂ = ... = р_i-1 =р_i+1 = ...=р_n.=0.

3. Энтропия максимальна, если все состояния элементов сообщений равновероятны. Данное свойство энтропии легко доказывается с помощью методов вариационного исчисления. Мы воспользуемся конечным результатом, согласно которому Н = Н_тах, если

,

4. Энтропия бинарных сообщений может изменяться от нуля до единицы. Бинарные сообщения характеризуются использованием двоичного алфавита, т. е. т=2. Для таких сообщений