15. Определите количество информации в данном билете, исполь­зуя алфавитный подходы.

Инф-ция (Тараканов)-концептуал. связанные м/д собой свед-я, данные, понятия, изменяющие наши представл-я о явлении или объекте окруж. мира; упорядоченная последоват-ть знаний, кот-е активизируются (сжимаются, регистрируются) с помощью некотор-х знаков.

Данные-неиспотльзуемая инф-я в дан. момент

Знания-усвоенная инф-я в процессе обуч-я

Сообщение-форма представл.инф-и в виде речи, текста, изображ-я

Прочитав статью в журнале или просмотрев новости, можно не получили инф-и, или наоборот, краткое сообщение может оказаться информативным. В то же время для другого чел-а та же самая статья может оказаться чрезвычайно иноформативной, а сообщение-нет. Информативными сообщения являются тогда, когда они новы, понятны, своевременны, полезны. Но то, что для одного понятно, для др.-нет. То, что для одного полезно, ново, для др.-нет-это проблема определения и измерения инф-и.

К определению понятия инф-и, с позиции измерения есть 2 подхода:определение Шеннона, примен. в мат. теории инф-и (содерж. подход), и опред. Колмогорова, примен. в отраслях информатики, связанных с использ. ПК(алфавитный подход).

Содерж. подход

Согласно Шеннону, информативность сообщ-я хар-ся содержащейся в нем полезной инф-й-той частью сообщения, кот. снимает полностью или уменьшает неопределенность к-л ситуации.

По Шеннону, инф-я-уменьшение неопределенности наших знаний.

Неопределенность некот. события-колич. возможных исходов дан. события. Если из колоды карт наугад выбирают карту, то неопределенность равна кол. карт в колоде. При бросании монеты неопределенность равна 2.

Содерж. подход часто называют субъективным, т.к.разные люди инф-ю об одном и том же предмете оценивают по-разному.

Но если число исходов не зависит от суждений людей (случай бросания кубика или монеты), то инф-я о наступлении одного из возможных исходов является объективной.

Если сообщение уменьшило неопределеность знаний ровно в два раза, то говорят, что сообщение несет 1 бит информации.

1 бит — объем информации такого сообщения, которое уменьшает неопределенность знания в два раза.

Рассмотрим, как можно подсчитать количество информации в сообщении, используя содержательный подход.

Пусть в некотором сообщении содержатся сведения о том, что произошло одно из N равновероятных (равновозможных) событий. Тогда колич. инф-и i, заключенное в этом сообщении, и число событий N связаны формулой: 2ⁱ = N; i=log₂N Эта формула носит назв. формулы Хартли. Получена она в 1928 г. американским инженером Р. Хартли.

Если N равно целой степени двойки (2, 4, 8, 16), то вычисления легко произвести "в уме". В противном случае колич. инф-и становится нецелой величиной, и для решения задачи придется воспользоваться таблицей логарифмов либо определять значение логарифма приблизительно (ближайшее целое число, большее).

Например, если из 256 одинаковых, но разноцветных шаров наугад выбрали один, то сообщение о том, что выбрали красный шар несет 8 бит информации (28=256). Для угадывания числа (наверняка) в диапазоне от 0 до 100, если разрешается задавать только двоичные вопросы (с ответом "да" или "нет"), нужно задать 7 вопросов, так как объем информации о загаданном числе больше 6 и меньше 7 (26<100>27)

Алф. подход

Алфавитный подход основан-всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.

Алфавит-упорядочен. набор символов, используемый для кодирования сообщений на некотором языке.

Мощность алфавита-колич. символов алфавита. Двоичный алфавит содержит 2 символа, его мощность равна двум. Сообщения, запис-е с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.

С позиций computer science носителями инф-и явл. любые последовательности символов, которые хранятся, передаются и обрабат. с помощью ПК. Согласно Колмогорову, информативность последовательности символов не зависит от содержания сообщения, алф. подход явл. объективным, т.е. он не зависит от субъекта, воспр-его сообщение. Чтобы определить объем инф-и в сообщении при алф. подходе, нужно последовательно решить задачи:

Определить кол. инф-и (i) в одном символе по формуле 2ⁱ = N, где N — мощность алфавита

Определить количество символов в сообщении (m)

Вычислить объем инф-и по формуле: V = i * m.

Например, если текстовое сообщение, закодированное по системе ASCII, содержит 100 символов, то его информац. объем составляет 800 бит. Для двоичного сообщения той же длины информац. объем сост. 100 бит. В комп. технике бит соответствует физич. состоянию носителя инф-и: намагничено-не намагничено, есть отверстие-нет отверстия. При этом одно состояние принято обозначать цифрой 0, а другое-цифрой 1.

Единицы измерения инф-и

основная единица измерения инф-и — бит. 8 бит составляют 1 байт. Наряду с байтами для измерения колич. инф-и используются более крупные единицы: 1 Кбайт=2¹⁰ байт=1024 байта; 1 Мбайт=2¹⁰ Кбайт=1024 Кбайта; 1 Гбайт=2¹⁰ Мбайт=1024 Мбайта.

Алфавитный подход

2ⁱ=N

2ⁱ=30

I=loq₂30

i=4,90бит=0,61байт (1 байт=8бит)