Методические указания
.pdfОпределить энтропию и избыточность команд для следующих случаев их распределения: а) равновероятного и независимого; б) неравновероятного и независимого; в) неравновероятного и зависимого.
Решение.
а) Определение энтропии и избыточности оптимальных команд, т.е. при равновероятном и независимом распределении:
H S |
= H |
0 |
S |
=log3 =1,58; |
ϕ |
S |
=0 |
( )max |
|
( ) |
|
|
0( ) |
|
б) Определение энтропии и избыточности команд при неравноверо-
ятном и независимом распределении: |
j ) |
|
|
|
|
||||
1( ) |
3 |
|
j |
( |
|
|
|
|
|
H S =− ∑ |
p(S |
|
)log p S |
|
= |
|
|
|
|
|
j=1 |
|
|
|
|
|
|
|
|
=−0,3log0,3−0,6log0,6−0,1log0,1 1,3 |
|
дв.ед. |
|||||||
|
|
; |
|||||||
|
|||||||||
|
|
|
|
|
|
|
|
команда |
ϕ 1(S)=1−11,58,3 =0,18.
в) Определение энтропии и избыточности команд в случае неравновероятного и зависимого распределения команд:
H2(S)=−1 ∑∑ p(Si ;S j )log p(Si ;S j ).
2 i j
Таблица 10.2.
|
p S |
;S |
j |
) |
= p S p S |
j |
/ S |
i ) |
|
p S |
=∑ p(S |
,S |
j |
) |
|
||||||
|
|
|
|||||||||||||||||||
|
( i |
|
( |
i ) ( |
|
|
|
|
( |
i ) |
j |
i |
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Si |
|
|
|
|
|
S j |
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
S1 |
|
|
S2 |
|
S3 |
|
|
|
|
|
|
|
|
|
|||
|
|
S1 |
|
|
0,24 |
|
0 |
|
|
0,06 |
|
0,3 |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
S2 |
|
|
0 |
|
0,3 |
|
|
0,3 |
|
0,6 |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
S3 |
|
|
0,01 |
|
0,,05 |
|
0,04 |
|
0,1 |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ p(Si )=1 |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
169 |
|
|
|
|
|
|
|
H2(S)=−12(0,24log0,24+0,06log0,06+2 0,3log0,3+
+0,01log0,01+0,05log0,05+0,04log0,04) 1,12;
ϕ(S)=1−11,,1258 0,29.
170
|
Содержание. |
Предисловие. |
3 |
Введение. |
4 |
1. Выбор математического аппарата для анализа информационных процес-
сов. |
7 |
|
1.1. |
|
7 |
1.2. |
|
11 |
1.3. |
|
12 |
1.4. |
|
14 |
2. Основные положения статистической теории информации. |
16 |
|
2.1. Основные понятия и определения. |
|
16 |
2.2. Основные свойства энтропии. |
|
18 |
2.3. Физические характеристики сигналов и каналов. |
|
19 |
2.4. Информационные характеристики сигналов и каналов. |
|
20 |
2.5. |
|
25 |
2.6. |
|
26 |
2.7. |
|
28 |
3. Представление информации. |
|
40 |
3.1. Исходные положения. |
|
40 |
3.2. Физические и математические параметры аналоговой и цифровой формы
представления информации. |
42 |
3.3. Представление информации в зависимости от используемых параметров
физического носителя. |
44 |
3.4. Представление информации в зависимости от используемой системы счис-
ления. |
47 |
3.5. Представление информации в циклическом коде Грея. |
49 |
3.6. Выбор оптимальной системы счисления. |
52 |
3.7. Представление информации в зависимости от статистических свойств со-
общений. |
53 |
4. Формирование информации. |
62 |
4.1. Исходные положения. |
62 |
4.2.Датчик и его основные технические характеристики.
4.3.Основные обобщенные физические параметры — источника информации.
4.4.Основные информационные параметры источника информации.
5. Преобразование информации. |
72 |
5.1. Исходные положения. |
72 |
5.2. Методы аналого-цифрового преобразования сигналов. |
73 |
5.3. Обобщенная модель преобразования сигналов. |
76 |
5.4. Оценка точности и скорости преобразования сигналов. |
78 |
5.5. Выбор разрядности АЦП при заданной погрешности входной аналоговой
величины. |
80 |
|
5.6. Особенности многоканального преобразования сигналов. |
|
83 |
6. Сбор, распределение и хранение информации. |
|
90 |
6.1. Исходные положения. |
|
90 |
6.2. Обобщенная структура коммутирующего устройства (КУ). |
90 |
|
6.3. Информационные характеристики КУ. |
|
93 |
6.4. Оценка информационной емкости ЗУ. |
|
96 |
6.5. Информационный критерий построения многоступенчатого ЗУ. |
97 |
7. Измерение информации. |
99 |
7.1. Исходные положения. |
99 |
7.2. Оценка измерительного процесса без учета помех. |
99 |
7.3. Оценка измерительного процесса с учетом помех. |
102 |
7.4. Количественная оценка интервала снятия отсчета. |
109 |
8. Передача информации. |
113 |
8.1. Исходные положения. |
113 |
8.2. Обобщенные входные и выходные характеристики канала передачи ин-
формации. |
114 |
8.3. Передача непрерывных сигналов с дискретизацией во временном представ-
лении. |
117 |
8.4. Передача непрерывных сигналов с дискретизацией в частотном представ-
лении. |
123 |
8.5. Информационный критерий оценки помехоустойчивости передачи инфор-
мации (β – критерий). |
130 |
9. Обработка информации. |
136 |
9.1. Исходные положения. |
136 |
9.2. Основные виды помех и их характеристики. |
139 |
9.3. Выделение полезной информации посредством корректирующих кодов.
10. Использование информации. |
150 |
162 |
|
10.1. Исходные положения. |
162 |
10.2. Регистрация информации. |
163 |
10.3. Отображение информации. |
164 |
10.4. Формирование и исполнение управляющих воздействий. |
166 |
Заключение. |
171 |
Приложения. |
|
Список литературы. |
|