- •Обобщенная структура системы связи. 3. Характеристики систем связи.
- •Помехи в системах связи. Характеристики помех.
- •Информация. Понятие информации. Меры информации.
- •5. Мера Хартли
- •Вероятностный подход к измерению информации.
- •8. Статистическая мера количества информации.
- •Типичные сообщения, их свойства.
- •10. Семантический подход к оценке информации.
- •Энтропия дискретных сообщений.
- •Свойства энтропии.
- •Энтропия непрерывных сообщений.
- •14. Распределения с максимальной энтропией.
- •Непрерывные и дискретные сообщения. Общность и различие.
- •Характеристики случайных процессов.
- •18. Понятие стационарности случайного процесса (ссп).
- •Свойство эргодичности ссп.
- •20. Свойства корреляционной функции стационарного случайного процесса
- •23. Эффективная ширина спектра случайного процесса 21. Интервал корреляции.
- •Дискретизация по времени. Факторы, влияющие на выбор интервала дискретизации.
- •25. Теорема котельникова
- •26. Корреляционный критерий
- •Критерий наибольшего допустимого отклонения.
- •Оценка погрешности восстановления сигнала по дискретным отсчетам.
- •Функция отсчетов. Ее свойства.
- •Энтропия статистически зависимых сообщений.
- •31. Квантование по уровню
- •32. Тепловой, дробовый и фликкер шумы
- •Количество информации при наличии помех. 34. Как проявляется действие помех при передаче непрерывных и дискретных сообщений.
- •Скорость передачи информации.
- •Согласование источников сообщений с каналом связи.
- •Цели и задачи кодирования.
- •Оптимальное кодирование.
- •45. Критерий оптимальности кода.
- •Код Шеннона-Фано. Код Хаффмена.
- •Кодирование блоков сообщений.
-
Свойство эргодичности ссп.
Существует класс случайных процессов, обладающих важным для практических приложений свойством эргодичности.
Случайный процесс называется эргодическим, если усреднение по множеству с вероятностью, сколь угодно близкой к единице, равно усреднению по времени.
Следовательно, для эргодических процессов справедливы равенства
(3.35)
Развернув выражения средних по множеству и по времени, получим
Эргодическое свойство случайного процесса имеет большое практическое значение. При исследовании таких процессов нет необходимости изучать большую совокупность реализаций, а достаточно лишь одной реализации, наблюдаемой в течение длительного промежутка времени. Например, статистические свойства флюктуационных шумов на выходе электронных усилителей можно изучать в течение достаточно продолжительного времени на одном усилителе, а затем результаты этого исследования распространить на все идентичные устройства.
20. Свойства корреляционной функции стационарного случайного процесса
Определим, как ведет себя корреляционная функция при неограниченном увеличении разностного временного интервала τ = t2 - t1.
По мере увеличения временного интервала τ зависимость между величинами х (t) и х (t + τ) ослабевает. В пределе при t -> ∞ эти величины становятся независимыми. Тогда с учетом того, что математическое ожидание произведения случайных независимых величин равно произведению математических ожиданий сомножителей и что для стационарного процесса математическое ожидание не зависит от времени, получим
Таким образом, при неограниченном увеличении аргумента t корреляционная функция стремится к квадрату математического ожидания случайного процесса.
Следовательно, при t -> ∞ корреляционная функция равна мощности постоянной составляющей реализации случайного стационарного процесса.
При уменьшении временного интервала τ зависимость между величинами х (t) и к (t + τ) усиливается и в пределе при τ →0 получим
3.26
Таким образом, при τ = 0 корреляционная функция равна начальному моменту второго порядка функции x(t). Физически начальный момент второго порядка выражает, как известно, полную среднюю мощность случайного процесса.
Следовательно, дисперсия стационарного случайного процесса
(3.27)
В силу независимости функции распределения плотности вероятности стационарного случайного процесса от начала отсчета времени корреляционная функция является четной функцией t, т. е. (3.28)
Можно показать, что корреляционная функция по абсолютному значению максимальная при τ = 0. Действительно, если рассмотреть математическое ожидание квадрата суммы или разности величин х (t) и х (t + t), то получим
Так как среднее значение положительной величины (квадрата суммы или разности двух величин) не может быть отрицательным, то
откуда
(3.29)
На рис. 3.4 показаны типичные кривые корреляционной функции Кхх(т). Как видно из рис. 3.4, асимптотическое приближение Функции К.хх (т) к установившемуся значению а2 (х) может происходить как монотонно (рис. 3.4, а), так и немонотонно (рис. 3.4, б).
На практике часто вместо случайного процесса x(t) рассматривают его отклонение от математического ожидания х0 (t) = х (t) — -а (х), называемое пульсациями или флюктуациями процесса.
Корреляционная функция пульсаций стационарного случайного процесса равна
Из (3.30) следует, что математическое ожидание пульсаций равно нулю, а их дисперсия
, D0(x) = K°xx(0). (3.31)
Отношение
(3.32)
называется нормированной корреляционной функцией (коэффициентом корреляции) пульсаций случайного процесса (или случайного процесса с нулевым средним). Типичные кривые нормированной корреляционной функции пульсаций показаны на рис. 3.5.
Для чисто случайного стационарного процесса всегда можно указать значение интервала τ = τ 0, что при τ > τ 0 величины х (t) и х (t + τ) можно считать практически независимыми, причем практическая независимость понимается в том смысле, что при τ > τ0 абсолютная величина коэффициента корреляции остается меньше заданной величины δ (3.33)
Величина δ обычно принимаетсяравной 0,05. Интервал τ 0 называют временем корреляции случайного процесса. Время корреляции иногда определяется как половина ширины основания прямоугольника единичной высоты, площадь которого равна площади под графиком коэффициента корреляции (рис. 3.5, а), т. е.