9. Расчёт изменения энтропии Марковской системы

МИНОБРНАУКИ РОССИИ

Санкт-Петербургский государственный

электротехнический университет

«ЛЭТИ» им. В.И. Ульянова (Ленина)

Кафедра информационных систем

отчЁт

по практической работе №9

по дисциплине «Теория информации, данные, знания»

Тема: Расчёт изменения энтропии Марковской системы. Уравнение А. Н. Колмогорова.

Студент гр. 93—		—
Преподаватель		Писарев И. А.

Санкт-Петербург

2020

Цель работы

Сформулировать ответы на вопросы с указанием источников информации.

Вопросы по теме:

1. Дайте определение Марковского случайного процесса.

2. Что понимается под предельными вероятностями марковского случайного процесса с непрерывным временем (непрерывная цепь Маркова)?

3. Как вычислить предельные вероятности состояний с использованием системы уравнений Колмогорова?

Решить задачи:

1. Дан граф переходов системы из одного состояния в другое. Граф задан в виде таблицы соответственно варианту. В табл. 1 обозначено: «Исх.» - начало дуги графа, «Вх.» - конец дуги. Под весом дуги понимается интенсивность перехода системы из одного состояния в другое.

Исх.	1	2	5	6	3	1	6	4
Вх.	2	3	1	5	5	4	4	6
Вес	0,1	0,2	0,1	0,8	0,9	0,7	0,2	0,6

Требуется:

1. Построить по исходным данным граф состояний;

2. Рассчитать энтропию системы в исходном состоянии, приняв все состояния равновероятными;

3. Составить систему алгебраических уравнений для расчёта предельных вероятностей состояний в установившемся режиме;

4. Решить систему уравнений (с помощью MatLab, Excel или др.).

2. Для предыдущей задачи определить энтропию системы в установившемся режиме и изменение энтропии.

Выполнение работы

Вопрос 1.

Случайный процесс, протекающий в какой-либо физической системе , называется марковским, если он обладает следующим свойством: для любого момента времени вероятность любого состояния системы в будущем (при ) зависит только от её состояния в настоящем (при ) и не зависит от того, когда и каким образом система S пришла в это состояние (иначе: при фиксированном настоящем будущее не зависит от предыстории процесса — от прошлого). (1, С. 311)

Вопрос 2.

Пусть имеется физическая система с дискретными состояниями, в которой протекает марковский случайный процесс с непрерывным временем (непрерывная цепь Маркова).

Предположим, что все интенсивности потоков событий, переводящих систему из состояния в состояние, постоянны, другими словами, все потоки событий — простейшие потоки.

Записав систему дифференциальных уравнений Колмогорова для вероятностей состояний и проинтегрировав эти уравнения при заданных начальных условиях, мы получим вероятности состояний, как функции времени, т. е. функций, при любом дающих в сумме единицу.

Что будет происходить с системой при ? Будут ли функции стремиться к каким-то пределам? Эти пределы, если они существуют, называются предельными вероятностями состояний. (2, С. 164)

Вопрос 3.

Для этого в системе уравнений Колмогорова, описывающих вероятности состояний, нужно положить все левые части (производные) равными нулю. В предельном (установившемся) режиме все вероятности состояний постоянны, значит, их производные равны нулю.

Если все левые части уравнений Колмогорова для вероятностей состояний положить равными нулю, то система дифференциальных уравнений превратится в систему линейных алгебраических уравнений. Совместно с условием эти уравнения дают возможность вычислить все предельные вероятности (2, С. 165)

Задача 1.

Построим граф состояний:

Рассчитаем энтропию системы, приняв все состояния равновероятными:

Составим систему алгебраических уравнений для расчёта предельных вероятностей состояний в установившемся режиме:

Решая эту систему, получаем:

Задача 2.

Энтропия уменьшилась на 0,997 бит.

СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ

1. Вентцель Е. С., Овчаров Л. А. Прикладные задачи теории вероятностей. М.: Радио и связь, 1983. 416 с.

2. Вентцель Е. С. Исследование операций. М.: «Советское радио», 1972. 552 с.

3. Бережная Е. В., Бережной В. И. Математические методы моделирования экономических систем. М.: Финансы и статистика, 2006. 432 с.