2 Принимаемый сигнал – как случайный процесс; виды случайных процессов, законы и числовые характеристики; корреляционные характеристики и свойства процессов; преобразования Винера-Хинчина; белый шум

Случайный процесс Х(t) представляет собой функцию, которая отличается тем, что принимаемые ею значения в любые произвольные моменты времени по координате t являются случайными. Строго с теоретических позиций, случайный процесс X(t) следует рассматривать как совокупность временных функций x_k(t), имеющих определенную общую статистическую закономерность. При регистрации случайного процесса на определенном временном интервале осуществляется фиксирование единичной реализации x_k(t) из бесчисленного числа возможных реализаций процесса X(t). Эта единичная реализация называется выборочной функцией случайного процесса X(t). Примеры выборочных функций модельного случайного процесса X(t) приведены на рисунке 5. В дальнейшем без дополнительных пояснений при рассмотрении различных параметров и характеристик случайных процессов для сопровождающих примеров будем использовать данную модель процесса.

Рисунок 5 – Выборочные функции случайного процесса

С практической точки зрения выборочная функция является результатом отдельного эксперимента, после которого данную реализацию x_k(t) можно считать детерминированной функцией. Сам случайный процесс в целом должен анализироваться с позиции бесконечной совокупности таких реализаций, образующих статистический ансамбль. Полной статистической характеристикой такой системы является N-мерная плотность вероятностей р(x_n;t_n). Однако, как экспериментальное определение N-мерных плотностей вероятностей процессов, так и их использование в математическом анализе представляет значительные математические трудности. Поэтому на практике обычно ограничиваются одно- и двумерной плотностью вероятностей процессов.

Функциональные характеристики случайного процесса. Допустим, что случайный процесс X(t) задан ансамблем реализаций {x₁(t), x₂(t),… x_k(t),…}. В произвольный момент времени t₁ зафиксируем зафиксируем значения всех реализаций {x₁(t₁), x₂(t₁),… x_k(t₁),…}. Совокупность этих значений представляет собой случайную величину X(t₁) и является одномерным сечением случайного процесса X(t). Примеры сечений по 100 выборкам случайного процесса X(t) в точках t₁ и t₂ (рисунок 5) приведены на рисунке 6. Случайные процессы и их функции характеризуются неслучайными функциями математического ожидания (среднего значения), дисперсии и корреляции:

Рисунок 6 – Сечения случайного процесса X(t)

Математическое ожидание (mean value) представляет собой статистическое усреднение случайной величины X(t_i), под которым понимают усреднение по ансамблю реализаций в каком либо фиксированном сечении t_i случайного процесса. Соответственно, функция математического ожидания является теоретической оценкой среднего взвешенного значения случайного процесса по временной оси:

m_x(t)  M{Х(t)} = x p(x;t) dx,

Математическое ожидание m_x(t) представляет собой неслучайную составляющую случайного процесса X(t). На рисунка 5 и 6 неслучайные составляющие m(t) модели случайного процесса X(t) выделены пунктиром и соответствуют выборкам N  .

Функция дисперсии (variance) случайного процесса является теоретической оценкой среднего взвешенного значения разности Х(t)-m_x(t), которая называется флюктуационной частью процесса:

D_x(t) = M{[Х(t)-m_x(t)]²} = M{X²(t)} - m_x²(t) = [x_o(t)]² p(x;t) dx,

x_o(t) = x(t)-m_x(t).

Функция среднего квадратического отклонения (standard deviation) служит амплитудной мерой разброса значений случайного процесса по временной оси относительно математического ожидания процесса:

σ_x(t) = .

Рисунок 7

Учитывая последнее выражение, дисперсия случайной величины обычно обозначается индексом σ_x². На рисунке 7 приведен пример флюктуационной составляющей процесса X(t) (рисунок 5) в одной из реализаций в сопоставлении со средним квадратическим отклонением ±σ случайных величин от математического ожидания m(t).

Классификация случайных процессов. Случайные процессы различают по степени однородности их протекания во времени (по аргументу).

Нестационарные процессы. В общем случае значения функций математического ожидания, дисперсии и корреляции могут быть зависимыми от момента времени t, т.е. изменяться во времени. Такие процессы составляют класс нестационарных процессов.

Стационарные процессы. Процесс называют стационарным, если плотность вероятностей процесса не зависит от начала отсчета времени и если на интервале его существования выполняются условия постоянства математического ожидания и дисперсии, а корреляционная функция является функцией только разности аргументов τ = t₂-t₁, т.e.:

m_Х(t₁) = m_Х(t₂) = m_Х = const,

D_Х(t₁) = D_Х(t₂) = D_Х = const,

R_Х(t₁,t₁+τ)  R_x(t₂-τ,t₂) = R_Х(τ)  R_Х(-τ),

r_x(τ) = R_x(τ)/D_x, r_x(0) = 1, |r_x(τ)| ≤ 1, r_x(-τ) = r_x(τ).

Последние выражения свидетельствует о четности корреляционной (а равно и ковариационной) функции и функции корреляционных коэффициентов. Из него вытекает также еще одно свойство смешанных моментов стационарных процессов:

|R_x(τ)|  R_x(0), |K_x(τ)|  K_x(0)  D_x.

Чем медленнее по мере увеличения значений τ убывают функции R_x(τ) и r_x(τ), тем больше эффективный интервал корреляции случайного процесса, и тем медленнее изменяются во времени его реализации.

Среди стационарных процессов выделяют строго стационарные процессы, для которых постоянны во времени не только математическое ожидание, дисперсия и корреляция, но и все остальные моменты высших порядков (в частности, асимметрия и эксцесс).

Стационарные случайные процессы наиболее часто встречаются при решении физических и технических задач. Теория стационарных случайных функций разработана наиболее полно и для ее использования обычно достаточно определения стационарности в широком смысле: случайная функция считается стационарной, если ее математическое ожидание постоянно, а корреляционная функция зависит только от одного аргумента. Случайные процессы, удовлетворяющие условиям стационарности на ограниченных, интересующих нас интервалах, также обычно относят к числу стационарных в широком смысле и называют квазистационарными.

Взаимно-корреляционная функция. Корреляция (correlation), и ее частный случай для центрированных сигналов – ковариация, является методом анализа сигналов. Приведем один из вариантов использования метода. Допустим, что имеется сигнал s(t), в котором может быть (а может и не быть) некоторая последовательность x(t) конечной длины Т, временное положение которой нас интересует. Для поиска этой последовательности в скользящем по сигналу s(t) временном окне длиной Т вычисляются скалярные произведения сигналов s(t) и x(t). Тем самым мы "прикладываем" искомый сигнал x(t) к сигналу s(t), скользя по его аргументу, и по величине скалярного произведения оцениваем степень сходства сигналов в точках сравнения.

Корреляционный анализ дает возможность установить в сигналах (или в рядах цифровых данных сигналов) наличие определенной связи изменения значений сигналов по независимой переменной, то есть, когда большие значения одного сигнала (относительно средних значений сигнала) связаны с большими значениями другого сигнала (положительная корреляция), или, наоборот, малые значения одного сигнала связаны с большими значениями другого (отрицательная корреляция), или данные двух сигналов никак не связаны (нулевая корреляция).

Корреляционные функции случайных процессов. Одномерные законы плотности распределения вероятностей случайных процессов не несут каких-либо характеристик связи между значениями случайных величин для различных значений аргументов.

Двумерная плотность вероятностей p(x₁,x₂; t₁,t₂) определяет вероятность совместной реализации значений случайных величин Х(t₁) и Х(t₂) в произвольные моменты времени t₁ и t₂ и в какой-то мере уже позволяет оценивать динамику развития процесса. Двумерная плотность вероятностей описывает двумерную случайную величину {X(t_i), X(t_j)} в виде функции вероятности реализации случайной величины X(t_i) в бесконечно малом интервале dx_i в окрестностях x_i в момент времени t_i при условии, что в момент времени t_j значение X(t_j) будет реализовано в бесконечно малом интервале dx_j в окрестностях x_j:

p(x_i,x_j; t_i,t_j) dx_i dx_j = P{|X(t_i-x_i|≤dx_i/2, |X(t_j-x_j|≤dx_j/2}.

Характеристикой динамики изменения двумерной случайной величины {X(t_i), X(t_j)} является корреляционная функция, которая описывает случайный процесс в целом:

R_X(t_i,t_j) = M{X(t₁) X(t₂)}.

Корреляционная функция представляет собой статистически усредненное произведение значений случайного процесса X(t) в моменты времени t_i и t_j по всем значениям временных осей t_i и t_j, а следовательно тоже является двумерной функцией. В терминах теории вероятностей корреляционная функция является вторым начальным моментом случайного процесса.

На рисунке 8 приведены примеры реализаций двух случайных процессов, которые характеризуются одной и той же функцией математического ожидания и дисперсии.

Рисунок 8

На рисунке видно, что хотя пространство состояний обоих процессов практически одно и то же, динамика развития процессов в реализациях существенно различается. Единичные реализации коррелированных процессов в произвольный момент времени могут быть такими же случайными, как и некоррелированных, а в пределе, во всех сечениях оба процесса могут иметь один и тот же закон распределения случайных величин. Однако динамика развития по координате t (или любой другой независимой переменной) единичной реализации коррелированного процесса по сравнению с некоррелированным является более плавной, а, следовательно, в коррелированном процессе имеется определенная связь между последовательными значениями случайных величин. Оценка степени статистической зависимости мгновенных значений какого-либо процесса Х(t) в произвольные моменты времени t₁ и t₂ и производится функцией корреляции. По всему пространству значений случайного процесса X(t) корреляционная функция определяется выражением:

R_Х(t_i,t_j) = x(t_i)x(t_j) p(x_i,t_j; x_i,t_j) dx_i dx_j,

Рисунок 10 – Двумерная плотность вероятностей и корреляционная функция процесса X(t)

На рисунке 10 приведена форма модельного случайного процесса X(t) в одной выборке со значительной и изменяющейся неслучайной составляющей. Модель задана на интервале 0-Т (Т=100) в дискретной форме с шагом Δt=1. Корреляционная функция вычислена по заданной плотности вероятностей модели

При анализе случайных процессов второй момент времени t_j удобно задавать величиной сдвига τ относительно первого момента, который при этом может быть задан в виде координатной переменной:

R_Х(t,t+τ) = M{Х(t)Х(t+τ)}.

Функция, задаваемая этим выражением, обычно называется автокорреляционной функцией случайного процесса.

Белый шум является стационарным случайным процессом x(t) с постоянной спектральной плотностью G_x(f) = σ², равной дисперсии значений x(t). Другими словами, все спектральные составляющие белого шума имеют одинаковую энергию (как белый цвет содержит все цвета видимого спектра).

По своему физическому смыслу спектральная плотность – это мощность процесса, которая приходится на 1 Гц полосы частот. Но тогда идеального белого шума на практике не может существовать, так как для него должно было бы выполняться условие:

R_x(0) = G_x(f) df = (σ²/2)δ(0) = ,

т.е. мощность белого шума и его дисперсия равны бесконечности, а значения шума не коррелированны для любых |τ|  0, так как корреляционная функция представляет собой идеальный дельта-импульс. Тем не менее многие помехи в радиотехнике, в технике связи и в других отраслях рассматривают как белый шум, если выполняется соотношение между шириной спектров полезных сигналов и шумов B_{k сигнал}/B_k.шум << 1, и спектральная плотность шумов слабо изменяется в интервале спектра сигнала.

Рисунок 11 – Функции корреляции белого шума в частотном интервале 0-В.

Если частотный диапазон спектра, на котором рассматриваются сигналы и помехи, равен 0-В, то спектральная плотность шума задается в виде:

G_x(f) = σ², 0  f  B; G_x(f) = 0, f > B.

При этом корреляционная функция шума определяется выражением:

R_x(τ) = σ²Bsin(2πBτ) / 2πBτ.

Эффективная шумовая ширина спектра:

B_k = R_x(0)/G_x(f)_max = B.

Эффективное шумовое время ковариации:

T_k = 2 |R_x(τ)|dτ /R_x(0).

Реальное шумовое время ковариации целесообразно определить по ширине главного максимума функции R_x(τ), в котором сосредоточена основная часть энергии шумов, при этом T_k = 1/В и B_kT_k = 1, т.е. соотношение неопределенности выполняется.

Как следует из всех этих выражений и наглядно видно на рисунке, при ограничении частотного диапазона в шумах появляется определенная ковариация между значениями и чем меньше частотный диапазон шумов, тем больше их радиус ковариации. По существу, ограничение частотного диапазона шумов определенным диапазоном эквивалентно фильтрации белого шума частотным фильтром с соответствующей шириной полосы пропускания, при этом корреляционная функция импульсного отклика фильтра переносится на шум.

Теорема Хинчина-Колмогорова (также известная как Теорема Винера-Хинчина и иногда как Теорема Винера-Хинчина-Эйнштейна) утверждает, что спектральной плотностью мощности стационарного в широком смысле случайного процесса является преобразование Фурье соответствующей автокорреляционной функции.

Непрерывный случай:

где есть автокорреляционная функция, определённая через математическое ожидание, и где – спектральная плотность мощности функции  . Отметим, что автокорреляционная функция определена через математическое ожидание от произведения и что преобразования Фурье от   не существует в общем случае, так как стационарные случайные функции не инегрируемы в квадратичном. Звёздочка означает комплексное сопряжение, оно может быть опущено, если случайный процесс вещественный.

Дискретный случай:

где и где – спектральная плотность мощности с дискретными значениями  . Являясь упорядоченной по дискретным отсчётам времени, спектральная плотность – периодическая функция в частотной области.

Теорема удобна для анализа линейных стационарных систем, где входные и выходные значения не интегрируемы в квадратичном, из-за чего преобразований Фурье не существует. Как следствие, преобразование Фурье автокорреляционной функции выходного сигнала системы равно произведению преобразования Фурье автокорреляционной функции входного сигнала системы на квадрат модуля преобразования Фурье её импульсной характеристики. Это выполняется даже когда преобразований Фурье входных и выходных сигналов не существует, из-за того что они не интегрируемы. Поэтому входные и выходные параметры не могут быть прямо связаны преобразованием Фурье импульсной передаточной функции.

Из того, что преобразование Фурье автокорреляционной функции сингала есть спектр мощности сигнала, следует, что спектр мощности выходного сигнала равен произведению спектра мощности входного и передаточной функции системы. Это следствие используется в нахождении спектра мощности параметрическим методом.