- •1.1 Помехи в электронных системах. Характеристики помех.
- •1.2 Свойства эргодичности ссп.
- •1.3 Код с парным количеством единиц.
- •2.1 Помехи. Характеристики помех.
- •1) Источники помех, которые находятся вне системы;
- •2) Источники помех, которые находятся в системе.
- •2.2 Свойства стационарности ссп.
- •2.3 Ошибки и искажения в системах передачи
- •3.1 Структура системы с линейно независимыми сигналами.
- •3.2 Квантование по уровню
- •3.3 Код Хемминга.
- •4.1 Построение неразделимого циклического кода
- •4.2 Энтропия статистически зависимых сообщений
- •4.3 Амплитудная модуляция
- •5.1 Понятие информации. Измерение информации.
- •5.2 Спектр ссп
- •5.3 Условие линейной независимости
- •6.1 Количество информации, ее связь со сложностью структуры источника
- •6.2 Интервал корреляции, суть понятия
- •6.3 Обнаружение двукратных ошибок кодом Хэмминга
- •7.1 Статистический подход к измерению информации
- •7.2 Эффективная ширина спектра стационарного случайного процесса
- •7.3 Построение неразделимого циклического кода
- •8.1 Энтропия дискретных сообщений. Свойства энтропии
- •8.2 Определение количества информации при наличии помех
- •8.3 Код, обнаруживающий пакетную ошибку
- •9.1 Энтропия непрерывных сообщений
- •9.2 Скорость передачи информации
- •9.3 Виды ошибок при передаче и воспроизведении информации
- •10.1 Распределения с максимальной энтропией
- •10.2 Корреляционный критерий дискретизации
- •10.3 Системы с частотным уплотнением
- •11.1 Непрерывные сообщения. Случайный или детерминированный процесс?
- •11.2 Какие характеристики сигналов определяют выбор интервала дискретизации?
- •11.3 Системы с временным уплотнением
- •12.1 Типичные сообщения. Свойства типичных сообщений
- •12.2 Корреляционная функция ссп. Свойства корреляционной функции
- •12.3 От чего зависят корректирующие свойства циклического кода?
- •13.1 Основные характеристики случайных процессов
- •13.2 Пропускная способность канала связи
- •13.3. Уплотнение информации в системах передачи и регистрации информации
- •14.1 Понятие стационарности случайного процесса.
- •14.2 Теорема Котельникова-Шеннона.
- •15.1 Мера Хартли. Свойство аддитивности.
- •15.2 Дискретизація повідомлень.
- •15.3 Условия ортогональности и взаимности.
- •16.1 Шумы и помехи в системах связи. Характеристики шумов и помех.
- •16.2 Функция отсчетов. Её свойства.
- •16.3 Дельта-модуляция.
- •17.1 Энтропия объединения двух случайно зависимых источников.
- •17.2 Восстановительные функции. Требования к ним.
- •17.3 Фазова маніпуляція. Застосування у цифрових системах передачі.
- •18.1 Факторы, определяющие пропускную способность канала связи.
- •18.2 Функция отсчетов. Её свойства.
- •18.3 Условия исправления ошибок циклическим кодом.
- •19.1 Пропускна спроможність неперервного каналу зв”язку
- •19.2 Поняття ефективної ширини спектра свп.
- •19.3 Кратність помилки, кодова відстань, пакетна помилка. Поняття.
- •20.1 Залежність пропускної спроможності неперервного каналу зв’язку від смуги частот.
- •20.2 Мета і завдання кодування
- •20.3 Семантичний підхід до визначення кількості інформації
- •21.1 Критерій найбільшого припустимого відхилення. Загальний підхід.
- •21.2 Пропускна спроможність дискретного каналу без завад.
- •21.3 Обмінні співвідношення у каналах передачі інформації
- •22.1 Оптимальное кодирование. Критерий оптимальности кода
- •22.2 Семантичний підхід до визначення кількості інформації
- •22.3 Построение циклического кода
- •23. 1 Понятие стационарности (ссп).
- •23.2 Условная Энтропия .Понятие.
- •23.3 Оптимальное кодирование. Критерий оптимальности кода
- •24.1 Код Шеннона-Фано.
- •24.2 Свойства корреляционной функции стационарного случайного процесса
- •24.3 Правила построения кода Хеминга
- •25.1 Код Хаффмена
- •25.2 Властивості ентропії
- •25.3 Перетворення сигналів при ущільненні повідомлення.
- •26.1 Кодування блоків повідомлень. Переваги та недоліки
- •26.2 Оцінка похибки відновлення дискретизованих повідомлень
- •26.3 Відносна фазова маніпуляція
9.2 Скорость передачи информации
При передаче информации скорость передачи является составляющей. Есть причины которые ограничивают скорость передачи информации.
Если количество информации в принимаемых сообщениях равно I, а общая длительность сообщения равна t, то скорость передачи информации будет равна:
V=I/t, бит/с или же , где – средняя длительность символов сообщения.
Если , то
Скорость передачи можно повышать увеличением энтропии источника или уменьшением длительности символов сообщения. Но энтропия ограничена своим максимальным значением , а уменьшение длительностей символов ограничена шириной полосы пропускания канала, так как при уменьшении длительности символов происходит расширение спектра передаваемого сигнала. Значит и скорость не может повышаться бесконечно.
В реальности не существует идеальных каналов связи. В реальных каналах присутствует определенное количество помех. Формула скорости передачи информации в реальном канале:
,
где – энтропия принятого сообщения,
– энтропия помехи,
– длительность сообщения.
Максимально возможная скорость передачи информации в канале определяет пропускную способность канала связи:
9.3 Виды ошибок при передаче и воспроизведении информации
В реальном канале сигнал при передаче искажается, и сообщение воспроизводится с некоторой ошибкой. Причиной таких ошибок являются искажения, вносимые каналом и помехами, действующими на сигнал. Ошибка это неправильный прием одного или нескольких символов. В двоичных каналах, ошибка представляет собой переход 0→1 или 1→0. Кратность ошибки определяет количество неправильно принятых символов.
Пример однократной ошибки:
Для частичной характеристики взаимного расположения искаженных символов используется понятие пакетная ошибка, которая определяет расстояние между первым и последним неправильно принятым символами. Внутри пакета могут находиться неискаженные символы.
Пример пакетной ошибки:
l – длинна пакета
Ошибки делятся на четные и нечетные, в зависимости от количества искаженных символов, четные ошибки – искажено парное количество символов, и наоборот.
10.1 Распределения с максимальной энтропией
Энтропия - это количество информации, приходящейся на 1 символ сообщения. Энтропия показывает неопределенность источника.
Для дискретных сообщений
Энтропия максимальна Н = Нтах, если все состояния элементов сообщений равновероятны если , - алфавит.
,
График зависимости величины одного слагаемого от
В непрерывных сообщениях вероятность появления каждого отдельного символа равна нулю.
ДЛЯ НОРМАЛЬНОГО ЗАКОНА РАСПРЕДЕЛЕНИЯ:
Среднеквадратичное значение сообщения ограничено:
,
где – дисперсия случайной величины.
Также условие полной вероятности:
С ообщение будет максимально информативным, когда оно имеет нормальный закон распределения: ,
и для него
ДЛЯ РАВНОМЕРНОГО ЗАКОНА РАСПЕРЕДЕЛЕНИЯ
Значения сообщений ограничены некоторым интервалом ( ).
Так же соблюдается: .
Функция распределения в этом случае
В этом случае :