- •Н.Н. Куцый теория информации
- •1. О понятии "информация"
- •2. Этапы обращения информации
- •3. Информационные системы
- •4. Система передачи информации: основные понятия и определения
- •5. Уровни проблем передачи информации
- •6. Теория информации
- •7. Понятия сигнала и его модели
- •8. Формы представления детерминированных сигналов
- •9. Ортогональные представления сигналов
- •10. Временная форма представления сигнала
- •11. Частотная форма представления сигнала. Спектры периодических сигналов
- •12. Распределение энергии в спектре периодического сигнала
- •13. Частотная форма представления сигнала. Спектры непериодических сигналов
- •14. Распределение энергии в спектре непериодического сигнала
- •15.Соотношения между длительностью импульсов и шириной их спектра
- •16.Спектральная плотность мощности детерминированного сигнала
- •17.Функция автокорреляции детерминированного сигнала
- •18.Случайный процесс как модель сигнала
- •19.Стационарные и эргодические процессы
- •20.Спектральное представление случайных сигналов
- •21.Частотное представление стационарных случайных процессов (дискретный спектр)
- •22.Частотное представление стационарных случайных сигналов. Непрерывные спектры
- •23.Основные свойства спектральной плотности
- •24.Преимущества цифровой формы представления сигналов
- •25.Общая постановка задачи дискретизации
- •26.Способы восстановления непрерывного сигнала
- •27.Критерии качества восстановления
- •28.Методы дискретизации посредством выборок
- •29.Равномерная дискретизация. Теорема котельникова
- •30.Теоретические и практические аспекты использования теоремы котельникова
- •31.Дискретизация по критерию наибольшего отклонения
- •32.Адаптивная дискретизация
- •33.Квантование сигнала
- •34.Квантование сигналов при наличии помех
- •35.Геометрическая форма представления сигналов
- •36.Энтропия как мера неопределенности выбора
- •37.Свойства энтропии
- •38.Условная энтропия и её свойства
- •39.Энтропия непрерывного источника информации (дифференциальная энтропия)
- •40.Свойства дифференциальной энтропии
- •41.Количество информации как мера снятой неопределенности
- •42.Эпсилон-энтропия случайной величины
- •43.Информационные характеристики источника сообщений и канала связи. Основные понятия и определения
- •44.Информационные характеристики источника дискретных сообщений
- •45.Информационные характеристики дискретных каналов связи
- •46.Информационные характеристики источника непрерывных сообщений
- •47.Информационные характеристики непрерывных каналов связи
23.Основные свойства спектральной плотности
Отметим, что в формулах (22.5) и (22.6), т.е.
,
определена как для положительных, так и для отрицательных частот. Перейдем к одностороннему спектру, ограничиваясь только положительными частотами. Воспользовавшись формулой Эйлера, представим соотношение для , состоящим из двух слагаемых
.
В силу четности функции второе слагаемое равно нулю, а первое можно преобразовать к виду
.
Из этой формулы следует, что является действительной и четной функцией, т.е.
.
Это позволяет ограничиться положительными частотами и в выражении для корреляционной функции
.
Соотношения для и являются парами интегрального преобразования Фурье, причем выражения (23.1) и (23.3) для случая четной функции. Поэтому корреляционная функция и спектральная плотность подчинены закономерности: чем протяженнее кривая , тем ỳже корреляционная функция (тем меньше время корреляции), и наоборот.
Площадь, которая ограниченная непрерывной кривой на спектральной диаграмме, очевидно, должна равняться дисперсии случайного процесса . Действительно, положив в формуле (23.3) получим
.
Будем подразумевать под случайным процессом напряжение, тогда можно рассматривать как среднюю мощность, выделяемую этим напряжением на резисторе с сопротивлением в 1 Ом
Следовательно, величина
представляет собой долю средней мощности, выделяемой составляющими спектра, относящимися к интервалу частот .
В связи с этим спектральную плотность называют еще спектральной плотностью мощности, а также энергетическим спектром стационарного случайного процесса, поскольку имеет размерность энергии.
Спектральная плотность мощности случайного процесса является средней характеристикой множества реализаций. Её можно получить и путём усреднения спектральной мощности реализации по множеству реализаций
Рассмотрим с этой целью одну реализацию стационарного случайного процесса сначала на ограниченном интервале времени . Для неё можно записать преобразование Фурье
.
В соответствии с формулой для спектральной плотности мощности сигнала ограниченного во времени
,
имеем
.
Найдем среднее значение по множеству реализаций . Имеем
или
.
Так как мы предполагаем, что случайный процесс стационарный, то
где
При выполнении этого условия, т.е. (23.10), для выражения (23.9) существует предел при
,
что и требовалось доказать.
24.Преимущества цифровой формы представления сигналов
В любую систему информация поступает в виде сигналов. различные параметры физических процессов с помощью датчиков обычно преобразуются в электрические сигналы. Как правило, ими являются непрерывно изменяющиеся ток или напряжение, но возможно поступление и импульсных сигналов. Печатный текст отображается буквами, цифрами и другими знаками.
Хотя поступающую информацию можно хранить, передавать и обрабатывать как в виде непрерывных, так и в виде дискретных сигналов, на современном этапе развития информационной техники предпочтение отдается дискретным сигналам, поэтому сигналы, как правило, преобразуются в дискретные. С этой целью каждый непрерывный сигнал подвергается операциям квантования по времени (дискретизации) и по уровню.
Под дискретизацией подразумевают преобразование функции непрерывного времени в функцию дискретного времени, которая представляется совокупностью величин, называемых координатами, по значениям которых исходная непрерывная функция может быть восстановлена с заданной точностью. Роль координат часто выполняют мгновенные значений функции, которые отсчитываются в определенные моменты времени.
Под квантованием подразумевают образование некоторой величины с непрерывной шкалой значений в величину, которая имеет дискретную шкалу значений. Оно сводится к замене любого мгновенного значений одним из конечного множества разрешенных значений, называемых уровнями квантования.
Изменение вида сигнала (рис…..) в результате проведения операции дискретизации показано на рис…., а в результате совместного проведения операций дискретизации и квантования – на рис….
Рис….
Рис…..
Рис….
Число уровней квантования здесь равно 8. Обычно их значительно больше. Передача такого множества различных по уровню импульсов даже на небольшие расстояния применяется крайне редко. если провести нумерацию уровней, то их передача сведется к передаче чисел. Тогда, выразив эти числа в какой-либо системе счисления, можно обойтись меньшим множеством передаваемых сигналов. Как правило, дискретный сигнал преобразуется в последовательность чисел, выраженных в двоичном коде. Каждое дискретное значение сигнала представляется в этом случае последовательностью сигналов двух уровней. Наличие или отсутствие импульса на определенном месте интерпретируется единицей или нулей в соответствующем разряде двоичного числа.
Цифровая форма представления сигнала показана на рис…. Так для восьми уровней достаточно трех двоичных разрядов. Импульсы старших разрядов расположены крайними справа.
Причины перехода к дискретному и цифровому выражению информации заключается в следующем.
Для конкретных задач управления или исследования интересующего нас объекта обычно требуется значительно меньше информации, чем её поступает с датчиков в виде сигналов, которые изменяются во времени непрерывно. Учет априорных сведения об этих сигналах и целях их получения позволяет ограничиваться отсчетами, взятыми через определенные моменты времени.
При неизбежных флуктуациях во времени интересующих нас параметров и конечной погрешности средств измерения информация о величине сигнала в каждый момент отсчета всегда ограничена, что и выражается в конечном числе уровней квантования. Кроме того, специфика решаемых задач часто такова, что целесообразно ограничится значительно меньшим числом уровней. чем следует из указанных выше ограничений.
Во многих случаях информация извлекается и передается с целью дальнейшей обработки средствами цифровой техники, в первую очередь ЭВМ и микропроцессорами. рациональное выполнение дискретизации и квантования при этом приводит к значительному экономическому эффекту как за счет снижения затрат на хранение и обработку получаемой информации, так и вследствие сокращения времени обработки информации, что ведет к улучшению качества управления.
При передаче и обработке информации в цифровой технике существует принципиальная возможность снижения вероятности получения ошибочного результата до весьма малых значений. Она возникает потому, что при использовании дискретных сигналов, во-первых применимы такие методы кодирования, которые обеспечивают обнаружение и исправление ошибок, а во-вторых, можно избежать свойственного аналоговым сигналам эффекта накопления искажения в процессе их передачи и обработки, поскольку квантованный сигнал легко восстановить до первоначального уровня всякий раз, когда величина накопленных искажения приблизится к половине кванта. Практическая реализация указанных методов наиболее эффективна при минимальном числе уровней, равном двум.
Выражение информации в цифровой форме облегчает унификацию операций её преобразования на всех этапах обращения. Массовость изготовления типовых узлов и блоков, простота их настройки, отсутствие необходимости регулировки в процессе эксплуатации позволяют, в свою очередь, улучшить такие важнейшие технико-экономические показатели средств цифровой техники, как стоимость изготовления и эксплуатации, а также надежность.