- •Теорія інформації та кодування
- •Загальні положення, які необхідно знати для успішного вирішення задач теорії інформації та кодування
- •Тема 1 Кількісна оцінка інформації
- •Математичні основи теорії інформації. Міра Хартлі. Ентропія.
- •Оскільки основа логарифма дорівнює основі системи числення, для перевірки правильності розрахунків можна визначити всі можливі комбінації двійкового коду довжиною 4 біта:
- •Як видно, обидва варіанти рішення дали однаковий результат. Завдання для закріплення матеріалу заняття 1
- •Кількісна оцінка інформації в системах з нерівномірним розподілом імовірностей
- •Завдання для закріплення матеріалу заняття 2
- •Тема 2 Надлишковість повідомлень та оптимальне кодування
- •Оцінка недовантаження та надлишковості повідомлень
- •Згідно з формулою (3.1) визначаємо абсолютне недовантаження двійкового шестирозрядного повідомлення:
- •Завдання для закріплення матеріалу заняття 3
- •Оптимальне кодування повідомлень (стиск інформації)
- •Завдання для закріплення матеріалу заняття 4
- •Тема 3 Перешкодостійке кодування
- •Основи перешкодостійкого кодування. Оцінка перевіряючої та корегуючої здатності кодів
- •Завдання для закріплення матеріалу заняття 5
- •Паритетні коди. Кодування за парністю та непарністю повідомлень і блоків даних
- •Завдання для закріплення матеріалу заняття 6
- •Код Хеммінга
- •Завдання для закріплення матеріалу заняття 7
- •Циклічні коди
- •Завдання для закріплення матеріалу заняття 8
- •Значення двійкових логарифмів цілих та дробових чисел
- •Значення десяткових логарифмів цілих та дробових чисел
- •Приклади мінімальних неприводимих в полі двійкових чисел многочленів
- •Перелік використаних джерел
- •Додаткова література
Значення двійкових логарифмів цілих та дробових чисел
(з точністю до 0.01)
Табл.1.1. Значення двійкових логарифмів цілих чисел від 0 до 99
log2 |
0 |
10 |
20 |
30 |
40 |
50 |
60 |
70 |
80 |
90 |
0 |
∞ |
3.32 |
4.32 |
4.91 |
5.32 |
5.64 |
5.91 |
6.13 |
6.32 |
6.49 |
+1 |
0 |
3.46 |
4.39 |
4.95 |
5.36 |
5.67 |
5.93 |
6.15 |
6.34 |
6.51 |
+2 |
1 |
3.58 |
4.46 |
5 |
5.39 |
5.70 |
5.95 |
6.17 |
6.36 |
6.52 |
+3 |
1.58 |
3.70 |
4.52 |
5.04 |
5.43 |
5.73 |
5.98 |
6.19 |
6.38 |
6.54 |
+4 |
2 |
3.81 |
4.58 |
5.09 |
5.46 |
5.75 |
6 |
6.21 |
6.39 |
6.55 |
+5 |
2.32 |
3.91 |
4.64 |
5.13 |
5.49 |
5.78 |
6.02 |
6.23 |
6.41 |
6.57 |
+6 |
2.58 |
4 |
4.70 |
5.17 |
5.52 |
5.81 |
6.04 |
6.25 |
6.43 |
6.58 |
+7 |
2.81 |
4.09 |
4.75 |
5.21 |
5.55 |
5.83 |
6.07 |
6.27 |
6.44 |
6.60 |
+8 |
3 |
4.17 |
4.81 |
5.25 |
5.58 |
5.86 |
6.09 |
6.29 |
6.46 |
6.61 |
+9 |
3.17 |
4.25 |
4.86 |
5.29 |
5.61 |
5.88 |
6.11 |
6.30 |
6.48 |
6.63 |
Табл.1.2. Значення двійкових логарифмів дробових чисел від 0 до 0.99
log2 |
0 |
0.1 |
0.2 |
0.3 |
0.4 |
0.5 |
0.6 |
0.7 |
0.8 |
0.9 |
0 |
∞ |
-3.32 |
-2.32 |
-1.74 |
-1.32 |
-1 |
-0.74 |
-0.51 |
-0.32 |
-0.15 |
+0.01 |
-6.64 |
-3.18 |
-2.25 |
-1.69 |
-1.29 |
-0.97 |
-0.71 |
-0.49 |
-0.30 |
-0.14 |
+0.02 |
-5.65 |
-3.06 |
-2.18 |
-1.64 |
-1.25 |
-0.94 |
-0.69 |
-0.47 |
-0.29 |
-0.12 |
+0.03 |
-5.06 |
-2.94 |
-2.12 |
-1.60 |
-1.22 |
-0.92 |
-0.67 |
-0.45 |
-0.27 |
-0.10 |
+0.04 |
-4.64 |
-2.84 |
-2.06 |
-1.56 |
-1.18 |
-0.89 |
-0.64 |
-0.43 |
-0.25 |
-0.09 |
+0.05 |
-4.32 |
-2.74 |
-2 |
-1.51 |
-1.15 |
-0.86 |
-0.62 |
-0.42 |
-0.23 |
-0.07 |
+0.06 |
-4.06 |
-2.64 |
-1.94 |
-1.47 |
-1.12 |
-0.84 |
-0.60 |
-0.40 |
-0.22 |
-0.06 |
+0.07 |
-3.84 |
-2.56 |
-1.89 |
-1.43 |
-1.09 |
-0.81 |
-0.58 |
-0.38 |
-0.20 |
-0.04 |
+0.08 |
-3.64 |
-2.47 |
-1.84 |
-1.40 |
-1.06 |
-0.79 |
-0.56 |
-0.36 |
-0.18 |
-0.03 |
+0.09 |
-3.47 |
-2.40 |
-1.79 |
-1.36 |
-1.03 |
-0.76 |
-0.54 |
-0.34 |
-0.17 |
-0.01 |
Додаток 2.