лекция по информатике 3 - 1

Измерение информации

Процесс познания можно наглядно изобразить в виде расширяющегося круга знания (такой способ придумали еще древние греки). Вне этого круга лежит область незнания, а окружность является границей между знанием и незнанием. Парадокс состоит в том, что чем большим объемом знаний обладает человек (чем шире круг знаний), тем больше он ощущает недостаток знаний (тем больше граница нашего незнания, мерой которого в этой модели является длина окружности).

То, что мы не знаем, для нас

неопределённо, это невозможно количественно оценить. Если некоторое сообщение, полученное человеком, содержит для него информацию, то оно приводит к уменьшению неопределённости наших знаний, т.е.

происходит переход от незнания к знанию. Именно такой подход к информации как

мере уменьшения неопределённости знаний позволяет её количественно измерить.

Неизмеримость информации в быту

(см. рукописный конспект)

Вероятностный (содержательный) подход

(см. рукописный конспект)

Базовые понятия теории вероятностей

(см. рукописный конспект)

Рассмотрим опыт. Возьмём правильную (правильной формы, из однородного материала) монету, сложим ладони коробочкой, потрясём в них монету, бросим её на широкий стол.

При таких условиях на результат подбрасывания влияют многие факторы: исходное положение монеты, величина и направление меняющихся сил, положение монеты в момент падения, неровность и упругость стола в точках соприкосновения его с монетой, изменение движения воздуха и пр.

Очевидно, что невозможно определить все эти факторы и однозначно рассчитать результат. Результаты такого опыта — события «выпал герб» и «выпала решка»

— являются случайными.

(см. рукописный конспект)