9. Расчёт изменения энтропии Марковской системы
.docxМИНОБРНАУКИ РОССИИ
Санкт-Петербургский государственный
электротехнический университет
«ЛЭТИ» им. В.И. Ульянова (Ленина)
Кафедра информационных систем
отчЁт
по практической работе №9
по дисциплине «Теория информации, данные, знания»
Тема: Расчёт изменения энтропии Марковской системы. Уравнение А. Н. Колмогорова.
Студент гр. 93— |
|
— |
Преподаватель |
|
Писарев И. А. |
Санкт-Петербург
2020
Цель работы
Сформулировать ответы на вопросы с указанием источников информации.
Вопросы по теме:
Дайте определение Марковского случайного процесса.
Что понимается под предельными вероятностями марковского случайного процесса с непрерывным временем (непрерывная цепь Маркова)?
Как вычислить предельные вероятности состояний с использованием системы уравнений Колмогорова?
Решить задачи:
Дан граф переходов системы из одного состояния в другое. Граф задан в виде таблицы соответственно варианту. В табл. 1 обозначено: «Исх.» - начало дуги графа, «Вх.» - конец дуги. Под весом дуги понимается интенсивность перехода системы из одного состояния в другое.
-
Исх.
1
2
5
6
3
1
6
4
Вх.
2
3
1
5
5
4
4
6
Вес
0,1
0,2
0,1
0,8
0,9
0,7
0,2
0,6
Требуется:
Построить по исходным данным граф состояний;
Рассчитать энтропию системы в исходном состоянии, приняв все состояния равновероятными;
Составить систему алгебраических уравнений для расчёта предельных вероятностей состояний в установившемся режиме;
Решить систему уравнений (с помощью MatLab, Excel или др.).
Для предыдущей задачи определить энтропию системы в установившемся режиме и изменение энтропии.
Выполнение работы
Вопрос 1.
Случайный процесс, протекающий в какой-либо физической системе , называется марковским, если он обладает следующим свойством: для любого момента времени вероятность любого состояния системы в будущем (при ) зависит только от её состояния в настоящем (при ) и не зависит от того, когда и каким образом система S пришла в это состояние (иначе: при фиксированном настоящем будущее не зависит от предыстории процесса — от прошлого). (1, С. 311)
Вопрос 2.
Пусть имеется физическая система с дискретными состояниями, в которой протекает марковский случайный процесс с непрерывным временем (непрерывная цепь Маркова).
Предположим, что все интенсивности потоков событий, переводящих систему из состояния в состояние, постоянны, другими словами, все потоки событий — простейшие потоки.
Записав систему дифференциальных уравнений Колмогорова для вероятностей состояний и проинтегрировав эти уравнения при заданных начальных условиях, мы получим вероятности состояний, как функции времени, т. е. функций, при любом дающих в сумме единицу.
Что будет происходить с системой при ? Будут ли функции стремиться к каким-то пределам? Эти пределы, если они существуют, называются предельными вероятностями состояний. (2, С. 164)
Вопрос 3.
Для этого в системе уравнений Колмогорова, описывающих вероятности состояний, нужно положить все левые части (производные) равными нулю. В предельном (установившемся) режиме все вероятности состояний постоянны, значит, их производные равны нулю.
Если все левые части уравнений Колмогорова для вероятностей состояний положить равными нулю, то система дифференциальных уравнений превратится в систему линейных алгебраических уравнений. Совместно с условием эти уравнения дают возможность вычислить все предельные вероятности (2, С. 165)
Задача 1.
Построим граф состояний:
Рассчитаем энтропию системы, приняв все состояния равновероятными:
Составим систему алгебраических уравнений для расчёта предельных вероятностей состояний в установившемся режиме:
Решая эту систему, получаем:
Задача 2.
Энтропия уменьшилась на 0,997 бит.
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ
Вентцель Е. С., Овчаров Л. А. Прикладные задачи теории вероятностей. М.: Радио и связь, 1983. 416 с.
Вентцель Е. С. Исследование операций. М.: «Советское радио», 1972. 552 с.
Бережная Е. В., Бережной В. И. Математические методы моделирования экономических систем. М.: Финансы и статистика, 2006. 432 с.