- •Теорія інформації та кодування
- •Загальні положення, які необхідно знати для успішного вирішення задач теорії інформації та кодування
- •Тема 1 Кількісна оцінка інформації
- •Математичні основи теорії інформації. Міра Хартлі. Ентропія.
- •Оскільки основа логарифма дорівнює основі системи числення, для перевірки правильності розрахунків можна визначити всі можливі комбінації двійкового коду довжиною 4 біта:
- •Як видно, обидва варіанти рішення дали однаковий результат. Завдання для закріплення матеріалу заняття 1
- •Кількісна оцінка інформації в системах з нерівномірним розподілом імовірностей
- •Завдання для закріплення матеріалу заняття 2
- •Тема 2 Надлишковість повідомлень та оптимальне кодування
- •Оцінка недовантаження та надлишковості повідомлень
- •Згідно з формулою (3.1) визначаємо абсолютне недовантаження двійкового шестирозрядного повідомлення:
- •Завдання для закріплення матеріалу заняття 3
- •Оптимальне кодування повідомлень (стиск інформації)
- •Завдання для закріплення матеріалу заняття 4
- •Тема 3 Перешкодостійке кодування
- •Основи перешкодостійкого кодування. Оцінка перевіряючої та корегуючої здатності кодів
- •Завдання для закріплення матеріалу заняття 5
- •Паритетні коди. Кодування за парністю та непарністю повідомлень і блоків даних
- •Завдання для закріплення матеріалу заняття 6
- •Код Хеммінга
- •Завдання для закріплення матеріалу заняття 7
- •Циклічні коди
- •Завдання для закріплення матеріалу заняття 8
- •Значення двійкових логарифмів цілих та дробових чисел
- •Значення десяткових логарифмів цілих та дробових чисел
- •Приклади мінімальних неприводимих в полі двійкових чисел многочленів
- •Перелік використаних джерел
- •Додаткова література
Завдання для закріплення матеріалу заняття 7
Завдання 1. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з чотирьох інформаційних розрядів.
Завдання 2. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з трьох інформаційних розрядів.
Завдання 3. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з п’яти інформаційних розрядів.
Завдання 4. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з шести інформаційних розрядів.
Завдання 5. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з десяти інформаційних розрядів.
Завдання 6. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з вісьми інформаційних розрядів.
Завдання 7. Закодувати кодом Хеммінга повідомлення 1101.
Завдання 8. Закодувати кодом Хеммінга повідомлення 1111111.
Завдання 9. Закодувати кодом Хеммінга повідомлення 00001101.
Завдання 10. Закодувати кодом Хеммінга всі можливі дворозрядні повідомлення двійкового коду. Визначити перевіряючу та корегуючу здатність отриманого коду.
Завдання 11. Закодувати кодом Хеммінга всі можливі трирозрядні повідомлення двійкового коду. Визначити перевіряючу та корегуючу здатність отриманого коду.
Завдання 12. Закодувати кодом Хеммінга всі можливі дворозрядні повідомлення трійкового коду. Визначити перевіряючу та корегуючу здатність отриманого коду.
Завдання 13. Закодувати кодом Хеммінга всі можливі чотирьохрозрядні повідомлення двійкового коду. Визначити перевіряючу та корегуючу здатність отриманого коду.
Завдання 14. Закодувати кодом Хеммінга повідомлення 00111. Ввести помилку в четвертий розряд (зі сторони молодших) закодованого повідомлення. Спробувати виправити помилку. Повторити операцію для сьомого розряду.
Завдання 15. Закодувати кодом Хеммінга повідомлення 1100101. Ввести помилку в будь-який розряд закодованого повідомлення. Спробувати виправити помилку. Ввести в повідомлення дві помилки і спробувати виправити їх.
Завдання 16. Закодувати кодом Хеммінга повідомлення 1011111. Ввести помилку в будь-який розряд закодованого повідомлення. Спробувати виправити помилку. Ввести в повідомлення дві помилки і спробувати виправити їх.
Завдання 17. Закодоване кодом Хеммінга повідомлення має вигляд: 1010011. Перевірити отримане повідомлення на наявність помилки та, за умови наявності помилки, виправити її.
Завдання 18. Закодоване кодом Хеммінга повідомлення має вигляд: 111111111. Перевірити отримане повідомлення на наявність помилки та, за умови наявності помилки , виправити її.
Завдання 19. Закодоване кодом Хеммінга повідомлення має вигляд: 110000. Перевірити отримане повідомлення на наявність помилки та, за умови наявності помилки, виправити її.
Завдання 20. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з семи інформаційних розрядів.
Завдання 21. Визначити позиції контрольних розрядів та їх кількість в коді Хеммінга, якщо повідомлення, що кодується, складається з дев’яти інформаційних розрядів.
Завдання 22. Закодувати кодом Хеммінга всі можливі однорозрядні повідомлення двійкового коду. Визначити перевіряючу та корегуючу здатність отриманого коду.
Заняття 8