- •Теорія інформації та кодування
- •Загальні положення, які необхідно знати для успішного вирішення задач теорії інформації та кодування
- •Тема 1 Кількісна оцінка інформації
- •Математичні основи теорії інформації. Міра Хартлі. Ентропія.
- •Оскільки основа логарифма дорівнює основі системи числення, для перевірки правильності розрахунків можна визначити всі можливі комбінації двійкового коду довжиною 4 біта:
- •Як видно, обидва варіанти рішення дали однаковий результат. Завдання для закріплення матеріалу заняття 1
- •Кількісна оцінка інформації в системах з нерівномірним розподілом імовірностей
- •Завдання для закріплення матеріалу заняття 2
- •Тема 2 Надлишковість повідомлень та оптимальне кодування
- •Оцінка недовантаження та надлишковості повідомлень
- •Згідно з формулою (3.1) визначаємо абсолютне недовантаження двійкового шестирозрядного повідомлення:
- •Завдання для закріплення матеріалу заняття 3
- •Оптимальне кодування повідомлень (стиск інформації)
- •Завдання для закріплення матеріалу заняття 4
- •Тема 3 Перешкодостійке кодування
- •Основи перешкодостійкого кодування. Оцінка перевіряючої та корегуючої здатності кодів
- •Завдання для закріплення матеріалу заняття 5
- •Паритетні коди. Кодування за парністю та непарністю повідомлень і блоків даних
- •Завдання для закріплення матеріалу заняття 6
- •Код Хеммінга
- •Завдання для закріплення матеріалу заняття 7
- •Циклічні коди
- •Завдання для закріплення матеріалу заняття 8
- •Значення двійкових логарифмів цілих та дробових чисел
- •Значення десяткових логарифмів цілих та дробових чисел
- •Приклади мінімальних неприводимих в полі двійкових чисел многочленів
- •Перелік використаних джерел
- •Додаткова література
Завдання для закріплення матеріалу заняття 5
Завдання 1. Визначити кодову відстань між кодовими комбінаціями 101110001 та 111000111.
Завдання 2. Визначити кодову відстань між кодовими комбінаціями 10001101 та 11011001.
Завдання 3. Визначити мінімальну кодову відстань для коду, що складається з кодових комбінацій: 11000111, 01011101, 11111111, 00000000.
Завдання 4. Визначити мінімальну кодову відстань для коду, що складається з кодових комбінацій: 0000001, 1000100, 0010001, 1111000, 1011111.
Завдання 5. Визначити мінімальну кодову відстань для коду, що складається з кодових комбінацій: 10100101, 00011110, 11111101, 11101111, 11111100, 11001100.
Завдання 6. Визначити, яку максимальну кількість помилок може виявляти код, мінімальна кодова відстань якого дорівнює трьом.
Завдання 7. Визначити, яку максимальну кількість помилок може виявляти код, мінімальна кодова відстань якого дорівнює п’яти.
Завдання 8. Визначити, яку максимальну кількість помилок може корегувати код, мінімальна кодова відстань якого дорівнює чотирьом.
Завдання 9. Визначити, які перевіряючі та корегуючі властивості може мати код (для виявлення помилок; для корегування помилок; для виявлення помилок та корегування помилок), мінімальна кодова відстань якого дорівнює восьми.
Завдання 10. Визначити, які перевіряючі та корегуючі властивості може мати код (для виявлення помилок; для корегування помилок; для виявлення помилок та корегування помилок), мінімальна кодова відстань якого дорівнює семи.
Завдання 11. Визначити, яку максимальну кількість помилок може виявляти код, що складається з кодових комбінацій: 11111011, 11100111, 11010100, 01100110, 11011111, 10110010. Скільки помилок може виправляти такий код?
Завдання 12. Охарактеризувати максимальну корегуючу здатність коду, що складається з кодових комбінацій: 1000011, 1111111, 0000000, 1110010, 1010101, 0101010.
Завдання 13. Визначити, які перевіряючі та корегуючі властивості може мати код (для виявлення помилок; для корегування помилок; для виявлення помилок та корегування помилок), що складається з кодових комбінацій: 1111111111, 0000000000, 1111100000, 0000011111, 0101010101, 1010101010.
Завдання 14. Визначити, скільки контрольних розрядів необхідно додати до десяти інформаційних, щоб надати отриманому коду здатність виявляти дві помилки.
Завдання 15. Визначити, скільки контрольних розрядів необхідно додати до шести інформаційних, щоб надати отриманому коду здатність виявляти дві помилки.
Завдання 16. Визначити, скільки контрольних розрядів необхідно додати до трьох інформаційних, щоб надати отриманому коду здатність виявляти три помилки.
Завдання 17. Визначити, скільки контрольних розрядів необхідно додати до семи інформаційних, щоб отримати код, мінімальна кодова відстань якого дорівнює трьом.
Завдання 18. Визначити, скільки контрольних розрядів необхідно додати до п’яти інформаційних, щоб отримати код, мінімальна кодова відстань якого дорівнює трьом.
Завдання 19. Визначити, чи може виявляти три помилки код, який складається з восьми інформаційних та чотирьох контрольних розрядів.
Завдання 20. Визначити, чи може виправляти дві помилки код, який складається з шести інформаційних та чотирьох контрольних розрядів.
Завдання 21. Код складається з восьми розрядів. Визначити, яка максимальна кількість з них може бути інформаційними, якщо цей код має здатність виявляти одну помилку.
Завдання 22. Код складається з десяти розрядів. Визначити, яка максимальна кількість з них може бути інформаційними, якщо мінімальна кодова відстань коду дорівнює п’яти.
Заняття 6