- •Тема 1. Предмет и методы теории информации и кодирования
- •1.1. Введение
- •1.2. Основные понятия и определения
- •1.3. Системы передачи информации
- •Тема 2. Математическая теория информации
- •2.1. Количество информации, и ее мера
- •2.2. Свойства количества информации
- •2.3. Энтропия информации
- •5.2. График энтропии для двух альтернативных событий
- •2.4. Свойства энтропии сообщений
- •2.5. Безусловная энтропия и ее свойства
- •2.6. Условная энтропия.
- •2.5. Энтропия объединения
- •Энтропия объединения (совместная энтропия) находится при помощи матрицы ( табл.3) путем суммирования по строкам или столбцам всех вероятностей вида
- •Уяснению взаимосвязи между рассмотренными видами энтропий дискретных систем способствует их графическое изображение.
- •Тема 3. Основы теории кодирования
- •3.1.Основные понятия и определения
- •3.2. Классификация кодов
- •3.3. Способы представления кодов
- •Тема 4. Каналы связи
- •4.1. Каналы связи, их классификация и характеристики
- •Пропускная способность дискретного канала связи
- •Дискретный канал связи без помех
- •Дискретный канал связи с помехами
- •Пример. По каналу связи передаются сообщения, вероятности которых соответственно равны:
- •Пропускная способность бинарного, симметричного канала
- •Избыточность сообщений
- •Тема 5. Оптимальное кодирование
- •5.1. Основные понятия и определения
- •5.2. Код Шеннона-Фано
- •5.3. Код Хаффмена
- •Тема 6. Помехоустойчивое кодирование
- •6.1. Общие положения
- •6.2. Обнаруживающие коды
- •Тема 7. Корректирующие коды
- •7.1. Основные понятия
- •7.2 Линейные групповые коды
- •7.3. Код хэмминга
- •Тема 8. Циклические коды
- •8.1. Операции над циклическими кодами
- •8.2. Циклические коды, исправляющие одиночную ошибку
- •Если задана длина кодовой комбинации, то число контрольных разрядов определяем по формуле
- •Так как частное q(X) имеет такую же степень, как и кодовая комбинация g(X) , то q(X) является кодовой комбинацией того же k - значного кода.
- •8.3. Матричная запись циклического кода
- •8.4. Циклические коды, обнаруживающие трехкратные ошибки
- •Тема 9. Коды боуза-чоудхури- хоквингема
- •Сигнальные символы это вспомогательные данные, облегчающие декодирование: служебные сигналы, сигналы синхронизации и т. Д.
- •Тема 10. Введение в криптологию
- •0 1 2 3 4 5 6 7 8 9 25 Ключ
- •4 7 9 2 3 5 1 6 8 Ключ
- •Функция дискретного логарифма обратная
Тема 8. Циклические коды
Циклическим кодом называется код, в котором кодовая комбинация, полученная путем циклического сдвига кодовой комбинации, является также разрешенной кодовой комбинацией. Такой код называется также полиномиальным или кодом с циклическими, избыточными проверками (ЦИП). Циклический сдвиг осуществляется справа налево, при этом крайний левый символ переносится в конец комбинации. Циклический код является: линейным, блочным, корректирующим, равномерным, систематическим. Каждый блок кодируется самостоятельно.
В циклических кодах кодовые комбинации представляются в виде полиномов (многочленов), что позволяет свести действия над кодовыми комбинациями к действиям над многочленами (используя аппарат полиномиальной алгебры).
8.1. Операции над циклическими кодами
При описании циклических кодов - разрядные кодовые комбинации представляются в виде полиномов фиктивной переменной . Показатели степени у соответствуют номерам разрядов (начиная с нулевого), а коэффициенты при будут двоичные числа 0 и 1.Например, кодовая комбинация 01011 запишется в виде:
Наибольшую степень в слагаемом с ненулевым коэффициентом называют степенью полинома. Действия над кодовыми комбинациями сводятся к операциям над многочленами.
Сдвиг справа налево (циклический сдвиг) осуществляется путем умножения полинома на множитель x:
G(x) = x4 +x2+1 => 0010101;
G(x)x = x5+x3+x => 0101010.
2. Операции сложения и вычитания выполняются по модулю 2 и являются эквивалентными (1 1 = 0 и 1 = -1) и ассоциативными:
G1(x)+G2(x)=>G3(x); G1(x) –G2(x)=>G3(x); G2(x)+G1(x)=>G3(x).
Можно при сложении двоичных чисел переносить слагаемые из одной части в другую без изменения знака. Поэтому равенство можно записать как , и как , т.е. а и имеют одинаковую четность. Если:
G1(x) = x5 +x3+x;
G2(x) = x4 +x3 +1 то G3(x) = x5 +x4+x+1.
3. Операция деления является обычным делением многочленов, только вместо вычитания используется сложение по модулю 2:
G1(x) = x6+x4+x3;
G2(x) = x3+x2+1.
Результатом деления многочленов является частное Q(x) и остаток R(x).
. Например:
x6+x4+x3 x3+x2+1 1011000 1101 1100
x6+x5+x3 x3 +x2 1101 1100 1101
x5 + x4 1100 1100
x5 + x4 +x2 1101 11000
x2 100 1100
1011100
100
1011000
При этом: Q(x)= x3 +x2 = 1100; R(x) = x2 = 100.
Все операции над циклическими кодами легко реализуются аппаратно на регистрах сдвига с обратными связям.