4. Меры информации.

Информационные меры отвечают трем основным направлениям в теории информации: структурному, статистическому, семантическому.

Структурная теория применяется: для оценки возможностей аппаратуры ИС (каналов связи, запоминающих и регистрирующих устройств) вне зависимости от условий их применения. В структурной теории различаются геометрическая, комбинаторная и аддитивная меры информации.

Геометрическая мера. Определение количества информации геометрическим методом сводится к измерению длины линии, площади или объема геометрической модели данного информационного комплекса в количестве дискретных единиц – определенных выше квантов. Геометрическим методом определяется потенциальное, максимально возможное количество информации в заданных структурных габаритах - информационной емкости исследуемой части ИС. Информационная емкость может быть представлена числом, показывающим, какое количество квантов содержится в полном массиве информации.Геометрическую меру можно применять не только для оценки информационной емкости, но и для оценки количества информации, содержащейся в отдельном сообщении. Если о величине, отображаемой сообщением, известно, что она имеет максимальное значение из того ряда сообщений, которое она уже принимала ранее, то можно считать, что количество информации, содержащейся как в этом, так и в более ранних сообщениях, определяется числом квантов, содержащихся в максимальном значении.

К комбинаторной мере целесообразно прибегать тогда, когда требуется оценить возможность передачи информации при помощи различных комбинаций информационных элементов. Количество информации вычисляется как количество комбинаций элементов. Комбинирование возможно в комплексах с неодинаковыми элементами, переменными связями или разнообразными позициями. Одинаковые по всем своим признакам элементы могут стать неодинаковыми, если учесть их положение, позицию. В комбинаторике рассматриваются различные виды соединений элементов: Сочетание из h элементов по l различается составом элементов, Сочетание с повторениями также различаются составом элементов, но элементы могут повторяться до l раз, Перестановка с повторением, Размещение из h элементов по l элементов различаются и составом элементов и их порядком, размещение с повторениями по l из h элементов.

Аддитивная мера (мера Хартли). Глубиной h числа называется количество различных элементов (знаков), содержащееся в принятом алфавите. Глубина числа соответствует основанию системы счисления и кодирования. Один полный алфавит занимает одно числовое гнездо, глубина которого равна h. В каждый данный момент реализуется только один какой-либо знак из h возможных.

Синтаксические меры информации. Объем данных в сообщении измеряется количеством символов (разрядов) принятого алфавита в этом сообщении. Часто информация кодируется числовыми кодами в той или иной системе счисления. Естественно, что одно и то же количество разрядов в разных системах счисления способно передать разное число состояний отображаемого объекта.

Семантическая мера информации. Для измерения смыслового содержания информации, то есть ее количества на семантическом уровне, наибольшее признание получила тезаурусная мера информации, которая связывает семантические свойства информации со способностью пользователя воспринимать поступившее сообщение.

Прагматическая мера информации Прагматическая мера информации — это полезность информации, ее ценность для пользователя (управления). Эта мера также является величиной относительной, обусловленной особенностями использования информации в той или иной системе управления. Ценность информации целесообразно измерять в тех же самых единицах (или близких к ним), в которых измеряется целевая функция.