Примеры решения задач
Пример 1 (структурный подход). Рассчитать количество информации, которое содержится в шестнадцатеричном и двоичном представлении ASCII-кода для числа 1.
Пример 2 (структурный подход). Рассчитать количества информации для сообщений «Информатика» и «30-е годы 20-ого века» без учета кавычек.
Пример 3. Какое количество вопросов достаточно задать вашему собеседнику, чтобы наверняка определить месяц, в котором он родился?
Пример 4 (статистический подход). Определить количество информации, содержащейся в сообщении о результате сдачи экзамена для студента из (4) и (5).
Пример 5 (статистический подход). Определить среднее количество информации, получаемое студентом из (4) и (5), по всем результатам сдачи экзамена.
Пример 6 (статистический подход). Рассчитать количества информации для сообщений «Информатика» и «30-е годы 20-ого века» без учета кавычек.
Буква |
Частота |
Буква |
Частота |
Буква |
Частота |
о |
0,090 |
м |
0,026 |
й |
0,010 |
е (ё) |
0,072 |
д |
0,025 |
х |
0,009 |
а |
0,062 |
п |
0,023 |
ж |
0,007 |
и |
0,062 |
у |
0,021 |
ю |
0,006 |
т |
0,053 |
я |
0,018 |
ш |
0,006 |
н |
0,053 |
ы |
0,016 |
ц |
0,004 |
с |
0,045 |
з |
0,016 |
щ |
0,003 |
р |
0,040 |
ь,ъ |
0,014 |
э |
0,003 |
в |
0,038 |
б |
0,014 |
ф |
0,001 |
л |
0,035 |
г |
0,013 |
пробелы и знаки препинания |
0,175 |
к |
0,028 |
ч |
0,012 |
|
|
Задание
Для выбранной в соответствии с вариантом задания задачи:
Рассчитать количество информации в сообщении по формуле Хартли. Расписать подробно.
Рассчитать количество информации в сообщении по формуле Шеннона. Расписать подробно.
Выполнить сравнительный анализ результатов расчетов.
Сделать выводы.
Содержание отчета
Определение понятия «Количество информации».
Мера Р.Хартли.
Подробный расчет количества информации, содержащейся в сообщении по формуле Хартли.
Мера К.Шеннона.
Подробный расчет количества информации, содержащейся в сообщении по формуле Хартли (привести таблицу вероятностей появления букв русского алфавита в сообщениях)
Анализ результатов и выводы.
Варианты задания
Вариант задания формируется каждым студентом индивидуально следующим образом. От источника к приемнику передается следующее сообщение: «Фамилия Имя Отчество ДД.ММ.ГГГГ город-рождения». Каждый студент использует в качестве варианта задания свои фамилию, имя и отчество, далее – день, месяц, год и город рождения. Все семь частей сообщения разделены одним пробелом. Например: «Иванов Семен Петрович 10.11.1992 Москва».