4. Меры информации (синтаксическая, семантическая, прагматическая).

Ввиду того, что информация носит субъективный характер и представлена различными видами, нельзя однозначно судить о её количестве. Количество информации - степень её адекватности, т.е. соответствие действительности и потребностям. Выделяют следующие виды адекватности: синтаксическая, семантическая, прагматическая. Синтаксическая отражает соответствие структуре или образу, не затрагивая смысла. Семантическая отражает смысловое содержание и соответствие образу. Прагматическая отражает степень важности и нужности информации для принятия решений. Каждой форме адекватности соответствует своя мера количества информации. Синтаксическая мера отражает физические характеристики информации: объем, способ представления и кодирования, тип носителя, скорость передачи. На этом уровне объем данных в сообщении измеряется количеством символов в этом сообщении. В современных ЭВМ минимальной единицей измерения данных является бит — один двоичный разряд. Биты записываются с помощью нолей и единиц. Это позволяет кодировать всю информацию в двоичной системе исчисления. Широко используются также более крупные единицы измерения: байт, равный 8 битам; килобайт, равный 1024 байтам; мегабайт, равный 1024 килобайтам, и т. д. Но синтаксической меры недостаточно, если требуется определить не объем данных, а кол-во нужной в сообщении информации. Тогда рассматривается семантический аспект. Семантическая мера информации используется для измерения смыслового содержания информации. Наибольшее распространение здесь получила тезаурусная мера. Тезаурус — это совокупность сведений, которыми располагает пользователь или система. Максимальное количество семантической информации потребитель получает при согласовании ее смыслового содержания со своим тезаурусом, когда поступающая информация понятна пользователю и несет ему ранее не известные сведения. С семантической мерой количества информации связан коэффициент содержательности, определяемый как отношение количества семантической информации к общему объему данных. Прагматическая мера информации определяет ее полезность в достижении потребителем своей цели. Для этого достаточно определить вероятность достижения цели до и после получения сообщения и сравнить их.

4. Информация и неопределенность. Измерение неопределенности.

Н еопределенность или энтропия - степень незнания до получения информации. При синтаксическом подходе под кол-м информации в 1 бит понимают кол-во информации, уменьшающую энтропию в 2 раза. Пример светофор:а)

б )

а) При переключении любого сигнала светофора получается 1 бит информации. б)Возможна одна ситуация, которая заранее известна.

Формула кол-ва информации для синтаксического подхода. Получена Хартли. I=log₂k, где I - кол-во информации в бит; k- кол-во символов (вариант исхода). Но синтаксической меры недостаточно, если требуется определить не объем данных, а кол-во нужной в сообщении информации. Тогда рассматривается семантический аспект. Семантическая мера информации используется для измерения смыслового содержания информации. Наибольшее распространение здесь получила тезаурусная мера. Тезаурус — это совокупность сведений, которыми располагает пользователь или система. Максимальное количество семантической информации потребитель получает при согласовании ее смыслового содержания со своим тезаурусом, когда поступающая информация понятна пользователю и несет ему ранее не известные сведения.

Формула Шеннона - кол-во информации для вероятностного подхода: I= - Ʃ^N_i=1 pi log₂pi= - (p1 log₂ р₁+р₂log₂p₂+...+p_nlog₂p_n), где I - кол-во инф. в бит; N- кол-во событий; pi - вероятность наступления i-го события.

Формула Харкевича иллюстрирует прагматический подход: I=log₂p₁/p₀, где I - кол-во инф. в бит; p_{0 -} вероятность достижения цели до получения информации; p₁ - вероятность достижения цели после получения информации. Развитие прагматического подхода было выполнено Шрейдером, который кол-во информации рассматривал в тесной связи от возможности приемника информации с его Тезаурусом: I=I(Q,T), где I - кол-во инф. в бит; Q - св-во приемника (цели получения информации); Т - Тезаурус приемника.

4. Система счисления. Операции над числами в различных системах исчисления. Система счисления – способ наименования и записи чисел. Разделяется на непозиционные и позиционные. В непозиционной каждая цифра сохраняет своё значение независимо от места положения в числе. Пример: римская сист. исчисления – I, V, X, L, C, D, М и т.д.. В позиционной значение каждой цифры зависит от её места положения. К числу таких систем относится современная десятичная система счисления, возникновение которой связано со счётом на пальцах. Число единиц какого-либо разряда, объединяемых в единицу более старшего разряда, называют основанием позиционной системы счисления. Если количество таких цифр равно P, то система счисления называется P-ичной. В десятичной системе основание равно десяти, в двоичной системе — двум, в восьмеричной и шестнадцатеричной — восьми и шестнадцати. Запись произвольного числа x в P-ичной позиционной системе счисления основывается на представлении этого числа в виде многочлена:

x = a_nPⁿ + a_n-1P^n-1 + ... + a₁P¹ + a₀P⁰ + a_-1P^-1 + ... + a_-mP^-m

Арифметические дей-я над числами в любой позиции выполняются по правилам аналогичным 10 системе счисления. При этом нужно только пользоваться теми таблицами сложения и умножения, которые соответствуют данному основанию P системы счисления. 1. При переводе чисел из десятичной системы счисления в систему с основанием P > 1 обычно используют следующий алгоритм: Если переводится целая часть числа, то она делится на P, после чего запоминается остаток от деления. Полученное частное вновь делится на P, остаток запоминается. Процедура продолжается до тех пор, пока частное не станет равным нулю. Остатки от деления на P выписываются в порядке, обратном их получению. Если переводится дробная часть числа, то она умножается на P, после чего целая часть запоминается и отбрасывается. Вновь полученная дробная часть умножается на P и т.д. Процедура продолжается до тех пор, пока дробная часть не станет равной нулю. Целые части выписываются после двоичной запятой в порядке их получения. Результатом может быть либо конечная, либо периодическая двоичная дробь. Поэтому, когда дробь является периодической, приходится обрывать умножение на каком-либо шаге и довольствоваться приближенной записью исходного числа в системе с основанием P. 2. При переводе чисел из системы счисления с основанием P в десятичную систему счисления необходимо пронумеровать разряды целой части справа налево, начиная с нулевого, и в дробной части, начиная с разряда сразу после запятой слева направо (начальный номер -1). Затем вычислить сумму произведений соответствующих значений разрядов на основание системы счисления в степени, равной номеру разряда. Это и есть представление исходного числа в десятичной системе счисления. Например: разложение десятичного числа по разрядам: 444=4*100+4*10+4*1.