Единицы измерения количества информации на синтаксическом уровне

Существуют меры информации синтаксического, семантического и прагматического уровней. В нашем курсе нас будет интересовать прежде всего мера информации синтаксического уровня.

На этом уровне содержательная сторона информации не имеет значения. Для измерения информации вводятся два параметра: объем информации (данных) V (объемный подход) и количество информации S (энтропийный подход).

При объемном подходе учитывается, что информация (по сути - данные) передается в виде некоторого сообщения, состоящего из совокупности символов какого-либо алфавита. Если количество информации, содержащейся в сообщении из одного символа, принять за единицу, то полное количество информации в сообщении равно количеству символов в нем. В двоичной системе счисления единицей измерения информации является бит (bit – binary digit – двоичный разряд). Тогда сообщение, состоящее из n-разрядного двоичного числа, имеет объем V=n бит.

Энтропийный подход к измерению информации основан на том, что факт получения наблюдателем информации о каком-то источнике этой информации связан, вообще говоря, с уменьшением неопределенности (энтропии) состояния источника с позиции наблюдателя. Пусть источник информации может находиться в N различных равновероятных состояниях. В качестве единицы измерения информации принято такое ее количество, которое уменьшает неопределенность знания о состоянии источника в 2 раза. Такая единица носит уже введенное выше название бит. Тогда

или .

Примеры. 1. Бросание четырехгранной пирамиды. N=4, I=2 бита. Бросок кости сообщает наблюдателю количество информации, равное 2 битам.

2. Шахматный пешечный дебют. N=16, I=4 бита – столько информации несет первый ход.

Байт - 1 байт равен = 8 битам. Слово - 2 взаимосвязанных байта, удвоенное слово- 4 байта, учетверенное слово – 8 байт (64 бита).

Кратные байту единицы - Кбайт, Мбайт, Гбайт, Тбайт .

Историческая справка

Компьютер – это электронное устройство для автоматизации процессов создания, хранения, воспроизведения, обработки и транспортировки данных. Компьютер представляет собой комплекс аппаратного и программного обеспечения.

Механические предшественники.

«Суммирующие часы» Вильгельма Шикарда(1623 г., Германия).

Калькулятор Блеза Паскаля (1642 г., Франция).

Калькулятор Готфрида Вильгельма Лейбница (1673 г., Германия).

Аналитическая машина Чарльза Бэббиджа (1832 г., Англия). Впервые реализован принцип разделения информации на команды и данные (склад и мельница). Огаста Ада Лавлейс – ей принадлежит идея использования перфорированных карт для программирования вычислительных операций.

Вычислительная техника на основе электромагнитных реле. Счетно-перфорационные комплексы Г.Холлерита (1887 г.) для обработки результатов переписи населения, универсальные вычислительные машины с программным управлением (модель Z-3 К. Цузе,1941 г., модель MARK-2 Г. Айкена, 1947 г.).

Математические основы электронных устройств. Двоичная система Лейбница и математическая логика Джорджа Буля (создатель логической алгебры или булевой алгебры) (первая половина XIX века, Англия).

Первая ЭВМ – на электронных лампах (1946 г., США, ENIAC, вес – 30 тонн, 18 тыс. электронных ламп, мощность 140 кВт, размеры: 4 x 30 x 6 м, 5000 операций сложения/с, оперативная память – 600 бит, проработала почти 10 лет).

Первая отечественная ЭВМ - на электронных лампах (1950 г., СССР, МЭСМ, 5000 операций сложения/с, оперативная память – 1800 бит).

Первый персональный компьютер (1976 г., фирма Apple, частота процессора 1 МГц, оперативная память – 48 Кбайт).

Персональный компьютер IBM – IBM PC/XT (1983 г., процессор Intel 8086, частота процессора 10 МГц, оперативная память – 640 Кбайт, НЖМД – 10 Мбайт, НГМД – 360 Кбайт).

Информационные революции.

В истории цивилизации выделяют несколько информационных революций, в ходе которых существенно менялись средства и способы хранения и распространения информации, доступность информации активной части населения.

Первая информационная революция. Около 10 тыс. лет до н.э. Появление языка и членораздельной речи.

Вторая информационная революция. Появление письменности. Письменность шумеров – 5 тыс. лет назад, алфавит в Греции – 700 лет до н.э.

Третья информационная революция. Изобретение книгопечатания. Первая книга появилась в Китае в конце VII в.

Четвертая информационная революция. Связана с широким распространением электрической связи в виде телеграфа, телефона, радио. Началась в конце XIX в. Здесь же надо упомянуть фотографию (1839 г.), фонограф Эдисона (1889 г.) и кино (1895 г.). Вершина этой революции – телевидение (!933 г).

Пятая информационная революция. Появление в середине XX в. электронной цифровой вычислительной техники. Предыдущие революции развивали средства хранения и распространения информации. Пятая революция привела к небывалому развитию средств и способов обработки информации.