Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

651_Zelentsov_B.P._Matrichnye_modeli_funktsionirovanija_

.pdf
Скачиваний:
2
Добавлен:
12.11.2022
Размер:
736.72 Кб
Скачать

Матрица и столбец среднего числа шагов нахождения в состояниях:

 

(n)

(n)

–1

(n)

=

(n)

·e,

(3.6)

 

= θii

= (E Pdg)

; θ

 

где e – столбец, все элементы которого равны 1.

Если полумарковский процесс сформирован на основе однородного марковского процесса, то матрица вероятностей прохождений эргодического полумарковского процесса выражается через матрицу интенсивностей следующим образом:

1

1

,

(3.7)

P = dg

( dg) = E dg

где dg – матрица, диагональные элементы которой равны соответствующим

диагональным элементам матрицы , а остальные равны нулю.

Матрица и столбец средних времен нахождения в состояниях имеет вид:

 

(t)

(t)

1

;

(t)

(t)

.

(3.8)

 

= θii

= dg

θ

= θi

3.5.ВЫВОДЫ

1.Полумарковский процесс может быть образован на основе марковской

цепи или марковского процесса.

2.Вероятности прохождения между двумя состояниями эргодического полумарковского процесса пропорциональны переходной вероятности цепи Маркова и соответственно интенсивности перехода процесса Маркова, если полумарковский процесс образован из них.

3.Исходными матричными характеристиками эргодического полумарковского процесса являются матрица вероятностей прохождений и матрица (столбец) среднего числа шагов или среднего времени нахождения в состояниях.

3.6.ПРИМЕР ПОЛУМАРКОВСКОГО ПРОЦЕССА С ТРЕМЯ СОСТОЯНИЯМИ

Рассмотрим переход от цепи Маркова и процесса Маркова к полумарковскому процессу на примере системы из трех состояний, приведенных в разделах 1.11 и 2.12. Исходные матрицы переходных вероятностей P и интенсивностей имеют вид:

1 p1 q1

q1

p1

 

 

(λ μ ) μ

λ

 

 

p2

1 p2

0

 

 

1 1

1

1

 

P =

; =

λ2

λ2

0

.

 

q3

p3

 

 

 

μ3

λ3

 

 

 

1 p3 q3

 

3 μ3)

Матрица вероятностей прохождений полумарковского процесса на основе цепи Маркова:

 

 

0

 

q /(p q )

p /(p q )

 

 

 

 

1

1

1

1

1

1

 

P = (E Pdg)–1·(P Pdg) =

 

1

 

 

0

 

 

0

 

.

q / p q

p / p q

 

0

 

 

 

3

3

3

3

3

3

 

 

 

 

 

 

41

 

 

 

 

 

 

 

 

Матрица и столбец среднего числа шагов нахождения в состояниях:

1/(p1 q1)

(n)= (EPdg)–1= 0

0

0

1/ p2 0

 

0

 

 

 

0

 

 

 

 

; θ

1/ p

q

3

 

 

3

 

 

 

 

1/(p

q

)

(n)

= (n)·e

 

1

1

 

 

=

1/ p2

 

.

 

 

1/ p

q

 

 

 

 

 

3

3

 

Матрица вероятностей прохождений полумарковского процесса на основе процесса Маркова:

 

 

 

0

μ

/(λ

μ )

λ

/(λ

μ

)

1

 

 

1

1

1

1

1

1

1

 

P=E dg

=

 

 

0

 

 

0

 

.

 

 

μ3

/(λ3 μ3)

λ3 /(λ3

μ3)

 

0

 

 

 

 

 

 

 

Матрица и столбец среднего времени нахождения в состояниях:

 

 

 

1/(λ

μ )

0

 

(t)

1

 

1

1

1/λ2

 

= dg

=

0

 

 

 

 

0

0

 

 

 

 

0

 

(t)

0

 

;

θ

1/(λ3 μ3)

1/(λ1 μ1)

= (t)·e = 1/λ2 .

1/ λ3 μ3

Для значений исходных параметров p1 = 0,1; p2 = 0,2; p3 = 0,3; q1 = 0,4;

q3 = 0,5 и λ1 = 0,01; λ2 = 0,02; λ3 = 0,03; μ1 = 0,04; μ3 = 0,05 получаем мат-

рицу вероятностей прохождений в числовом виде:

 

0

0,800

0,200

 

 

1

0

0

 

P=

.

 

0,625

0,375

0

 

 

 

42

Глава 4. ВЕРОЯТНОСТНЫЕ ХАРАКТЕРИСТИКИ ПОДМНОЖЕСТВА СОСТОЯНИЙ

4.1. ПОСТАНОВКА ЗАДАЧИ

Выделим на множестве W возможных состояний системы подмножество U несущественных состояний. Будем обозначать состояния подмножества U через

ui, uj, где i и j – номера состояний, то есть ui U, uj U. За некоторое время система может перейти в какое-то другое подмножество, то есть выйти из подмно-

жества U. Такой переход возможен при любом начальном состоянии ui. Обычно подмножество U формируют таким образом, чтобы в состояниях

этого подмножества система обладала некоторым наперед заданным свойством. Например, при исследовании надежности это может быть подмножество работоспособных или подмножество неработоспособных состояний.

Если множество W возможных состояний системы является эргодическим, то состояния подмножества U характеризуются предельными вероятностями. На основе предельных вероятностей могут быть вычислены некоторые обобщенные характеристики системы. Например, если U – подмножество работоспособных состояний, то сумма предельных вероятностей по всем состояниям этого подмножества представляет собой коэффициент готовности системы. Аналогичная ситуация для коэффициента простоя системы. Однако эти показатели не всегда достаточны для исследования сложных систем. Некоторые обобщенные характеристики телекоммуникационных систем и их оборудования строятся на таких характеристиках подмножеств состояний, как математическое ожидание и дисперсия времени (или числа шагов) нахождения в подмножестве состояний. Этим характеристикам придается инженерно-техни-ческий смысл. Например, при исследовании надежности нахождение системы в подмножестве работоспособных состояний позволяет вычислять среднее время и дисперсию времени безотказной работы системы.

В данной главе находятся характеристики подмножества несущественных состояний на основе марковской цепи, марковского процесса и полумарковского процесса.

4.2. СРЕДНЕЕ ЧИСЛО ШАГОВ НАХОЖДЕНИЯ В ПОДМНОЖЕСТВЕ СОСТОЯНИЙ

Обозначим через nU(i,j) математическое ожидание числа шагов нахождения цепи Маркова в состоянии uj до выхода из подмножества U при условии, что состояние ui является начальным. Из состояния ui система может перейти на одном шаге в некоторое состояние uk или выйти из подмножества U. Если сис-

тема выходит из подмножества U, то она в состояние uj не попадет. Если же она перейдет в некоторое состояние uk, то при начальном состоянии uk она будет пребывать в состоянии uj в среднем nU(k,j)шагов. Отсюда следует, что

43

nU(i,j) = pU (i,k) n(k, j), i j.

(4.1)

uk U

 

 

В случае i = j к левой части

(4.1) следует прибавить 1, так как состояние

является начальным:

pU (i,k) n(k,i).

 

nU(i,i) = 1 +

(4.2)

uk U

В матричной форме эти уравнения записываются следующим образом:

NU = E + PUU ·NU,

откуда

 

 

NU = (E PUU)–1.

(4.3)

U

Таким образом, нахождение цепи Маркова в состояниях подмножества

описывается матрицей NU средних условных шагов нахождения в состояниях. Если известно начальное распределение rU вероятностей состояний подмножества U, то получаем строку среднего числа шагов нахождения в состояниях подмножества U:

n

U = nU(j) =

rU ·NU,

(4.4)

где nU(j) – среднее число шагов нахождения в состоянии uj до выхода из U при заданном начальном распределении.

Если просуммировать строки матрицы NU, то получим столбец среднего

числа шагов нахождения в состояниях подмножества U:

 

nU = nU(i) = NU·e,

(4.5)

где nU(i) среднее число шагов нахождения в подмножестве U при условии, что состояние ui является начальным; e– столбец, все элементы которого равны 1.

Просуммировав средние числа шагов нахождения в состояниях по всем состояниям, получим среднее число шагов нахождения в подмножестве U при за-

данном начальном распределении:

 

nU = rU ·NU·e.

(4.6)

4.3.ВЕРОЯТНОСТЬ НАХОЖДЕНИЯ В ПОДМНОЖЕСТВЕ СОСТОЯНИЙ МАРКОВСКОГО ПРОЦЕССА

Рассмотрим процесс до выхода из подмножества U несущественных состояний (или до перехода в другое подмножество состояний). Для этого обозначим через pU(i,j,t) вероятность того, что в момент времени t система будет в состоя-

нии uj при условии, что в начальный момент времени при t = 0 система находи-

лась в состоянии ui и в течение времени t система оставалась в подмножестве U.

Напомним, что для любых состояний ui и uj подмножества несущественных состояний

lim pU(i,j,t) = 0. t

Итак, система пребывает некоторое случайное время в подмножестве U, а затем покидает его. Найдем распределение этого времени.

44

Будем полагать, что переходы системы от состояния к состоянию на всем множестве состояний описываются однородным марковским процессом.

Подматрица интенсивностей переходов на подмножестве U, UU, получается из матрицы интенсивностей для всего множества состояний удалением из нее строк и столбцов состояний, не относящихся к подмножеству U.

Система дифференциальных уравнений А.Н. Колмогорова в матричном виде, описывающая переходы между состояниями подмножества U, имеет вид, приведенный в разделе 2.8:

PU(t) = PU(t)· ΛUU,

(4.7)

PU(t) = ||pU(i,j,t)|| – матрица вероятностей состояний подмножества U;

PU(t) – матрица, каждый элемент которой является производной соответствующего элемента матрицы PU(t).

Применим к этому матричному уравнению преобразование Лапласа. Тогда

матрица – изображение по Лапласу матрицы PU(t) при начальном

условии

PU(0) = E имеет вид:

 

PU(s) = (sE – ΛUU)–1.

(4.8)

Матрицу – оригинал PU(t) получают с помощью обратного преобразования Лапласа.

Матрица PU(t) содержит вероятности всех состояний uj при условии, что любое состояние ui может быть начальным. Если известно начальное распределение rU = ||rU(1) rU(2) rU(3) … rU(mU) ||, где mU – число состояний подмножества U, то вероятности состояний в момент времени t до выхода из U в соответствии с формулой полной вероятности запишутся как

pU(j,t) = rU (ipU(i,j,t)

ui

 

или в матричной форме

 

pU (t) = pU(j,t) =rU ·PU(t).

(4.9)

Вероятность того, что в момент времени t система будет находиться в состояниях подмножества U, определяется суммированием вероятностей состояний по всему подмножеству U:

pU(t) = pU ( j,t) uj

или в матричном виде

 

 

 

pU(t) =

p

U (te

=

rU ·PU(te,

(4.10)

где e – столбец, все элементы которого равны 1.

 

4.4. СРЕДНЕЕ ВРЕМЯ НАХОЖДЕНИЯ В ПОДМНОЖЕСТВЕ СОСТОЯНИЙ

Очевидно, что среднее время нахождения системы в состояниях подмножества U вычисляется по правилу математического ожидания:

tU = pU (t)dt

=

rU ·[ PU (t)dte.

(4.11)

0

0

 

 

45

 

Итак, по матрице PU(t) можно получить распределение времени нахождения системы в подмножестве U и далее – характеристики этого времени, например, математическое ожидание и дисперсию. Но для этого следует предварительно найти матрицу–изображение по Лапласу PU(s). Вычисление распределения времени нахождения системы в подмножестве состояний таким путем является трудоемкой процедурой, связанной с прямым и обратным преобразованием Лапласа. Приведем метод прямого вычисления математического ожидания и дисперсии времени нахождения в подмножестве состояний с учетом начальных условий без решения самого матричного уравнения.

Преобразуем матрицу–изображение, разложив ее в матричный степенной ряд:

 

1

 

1

–1

 

1

 

k

k

 

 

k

k 1

 

 

PU(s) =

 

(E

 

ΛUU)

=

 

UU /s

 

=

UU /s

 

.

(4.12)

s

s

s

 

 

 

 

 

 

k 0

 

 

 

k 0

 

 

 

 

Учитывая, что изображению 1/sk +1 соответствует оригинал tk/k!, имеем:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

PU(t) = kUU tk /k! = exp(ΛUU·t).

 

 

 

(4.13)

k 0

Таким образом, решение исходного матричного уравнения записано в виде экспоненты матрицы [Кель09]. Очевидно, что интегрирование матричной экспоненты приводит к матрице средних условных времен нахождения в состояниях множества U:

 

 

1

 

 

TU = ||tU(i,j)|| = PU (t)dt =

exp( UU t)dt

,

(4.14)

= – UU

0

0

 

 

 

где tU(i,j) – среднее время нахождения в состоянии uj до выхода из U при усло-

вии, что состояние ui является начальным; время t отсчитывается от момента вхождения в подмножество U.

Итак, нахождения в состояниях подмножества U описываются матрицей TU средних условных времен нахождения в состояниях марковского процесса. Если известно начальное распределение rU вероятностей состояний в подмножестве U, то получаем строку средних времен нахождения в состояниях системы этого подмножества:

 

 

 

 

 

 

1

,

(4.15)

 

 

tU = tU(j) = rU ·TU, = – rU · UU

где tU(j) – среднее время нахождения в состоянии uj до выхода из U при заданном начальном распределении.

Если просуммировать строки матрицы TU, то получим столбец средних времен нахождения в состояниях подмножества U:

t

= tU(i) = TU·e

1

·e,

(4.16)

= –

UU

U

 

 

 

 

где e – столбец, все элементы которого равны 1; tU(i) –

среднее время нахож-

дения в подмножестве U при условии, что состояние ui является начальным.

46

Просуммировав средние времена нахождения в состоянии по всем состояниям, получим среднее время нахождения в состояниях множества U при заданном начальном распределении rU

 

 

·e

 

 

·t

=

r

·T ·e.

tU = t

=

r

 

U

 

U

U

 

U

U

Таким образом, среднее время нахождения в множестве U при заданных начальных вычисляется по формуле:

1

·e.

(4.17)

tU = – rU · UU

4.5. ДИСПЕРСИЯ ВРЕМЕНИ НАХОЖДЕНИЯ В ПОДМНОЖЕСТВЕ СОСТОЯНИЙ

Перейдем к дисперсии времени нахождения в множестве U. Обозначим случайное время нахождения в множестве U через τU. По определению дисперсия этого времени

Очевидно, что

 

DU = MU2 ) – M 2U).

(4.18)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

MU2 ) = pU (t)dt2 = – t2 pU (t)dt =

rU ·( PU (t)dt2 e,

 

 

 

 

0

 

0

 

0

 

 

2

 

 

2

1

2

 

 

где

PU (t)dt

=

exp( UUt)dt

 

 

 

 

= 2( UU ) . Отсюда следует, что

 

0

 

 

0

 

 

 

 

 

MU2 ) = 2rU ·TU2·e = 2rU ·( UU1 )2·e.

Квадрат математического ожидания времени получается из формулы для tU:

M 2U) = (tU)2 = (rU · UU1 ·e)2 = rU · UU1 ·RU· UU1 ·e,

где RU = e·rU – матрица, каждая строка которой равна строке rU . Подставимпоследниедвеформулывформулудлядисперсии(4.18). Получим:

 

 

1

1

·e.

(4.19)

 

 

DU = rU · UU

·(2E RUUU

Пояснение. В формуле (4.19) матрица RU, вычитаемая из матрицы 2Е, имеет равные строки, при этом каждая ее строка равна начальному распределению состояний подмножества U.

Таким образом, исходными характеристиками для вычисления математического ожидания и дисперсии времени нахождения в подмножестве состояний является матрица интенсивностей и начальное распределение вероятностей состояний этого подмножества. Вычисление этих характеристик сводится к обращению и умножению матриц, порядок которых равен числу состояний подмножества U. Следует отметить, что эти вычисления возможны только при известном начальном распределении вероятностей состояний подмножества U. Определение этого распределения в данной главе не рассматривается.

Для лучшего понимания природы полученного результата найдем среднее время нахождения в одном состоянии после вхождения в него как частный случай полученных формул, то есть подмножество U состоит из одного состояния

ui.

47

Подставив в формулы (4.14) и (4.19) ii вместо ΛUU, 1 вместо rU , e, E, RU, получим математическое ожидание и дисперсию случайного времени нахожде-

ния в состоянии ui:

θii(t) = 1/ ii, Di = 1/λii2 .

В разделе 2.4 показано, что случайное время однородного марковского процесса в одном состоянии распределено по показательному закону с плотностью

распределения fii(t) = F ii(t) = ii exp( iit), t ≥ 0. Поэтому случайное время на-

хождения в состоянии ui имеет приведенные характеристики.

4.6. ОТНОСИТЕЛЬНЫЕ ЧАСТОТЫ СОСТОЯНИЙ

Исходной матричной характеристикой является матрица вероятностей прохождений PUU на подмножестве несущественных состояний U: PUU = pU (i, j) ,

где pU (i, j) вероятность прохождения ui uj.

До выхода из U система попадает в каждое состояние uj случайное число раз. Найдем среднее число попаданий в состояния подмножества U до выхода из него. Начальный вклад каждого состояния учитывается единичной матрицей

Е.

После

первой перемены состояния

распределение вероятностей

будет

P

 

 

 

и т.д. Тогда среднее число попаданий в состояния оп-

, после второй – P2

UU

 

 

UU

 

 

 

 

ределяется матрицей:

 

 

 

 

 

 

 

 

 

 

(4.20)

 

 

 

NU = E + PUU + PUU2 + PUU3 + … =

PUUn .

Очевидно, что

 

 

 

n 0

 

 

NU = (E PUU )–1,

 

 

 

 

 

 

 

(4.21)

если lim

= O, где О – нулевая матрица. Действительно,

 

Pn

 

 

 

UU

 

 

 

 

 

n

(E P

)·( E + P

 

 

 

+ P3

+…+Pn

) = E Pn 1.

UU

UU

UU

UU

UU

Поскольку U – подмножество несущественных состояний, то

lim Pn 1= O,

UU

n

что доказывает существование обратной матрицы (4.21).

Матрицу NU = nU(i,j) будем называть матрицей относительных частот, элемент которой nU(i,j) является средней относительной частотой состояния uj U на подмножестве U или математическим ожиданием числа вхождений в состояние uj до выхода из U при условии, что состояние ui U является начальным. Смысл относительной частоты nU(i,j) заключается в том, что она пред-

ставляет собой среднее число попаданий в состояние uj до выхода из U при ус-

ловии, что состояние ui U является начальным.

48

Если известно начальное распределение rU вероятностей состояний подмножества U, то получим строку средних относительных частот состояний

подмножества U: nU = nU(j) = rU ·NU , где nU(j) – средняя относительная час-

тота состояния uj при заданном начальном распределении или математическое ожидание числа вхождений (попаданий) в состояние uj до выхода из U при заданном начальном распределении.

Обозначим через tU(i, j) среднее время нахождения в состоянии uj до выхода системы из подмножества U при условии, что состояние ui является начальным. Очевидно, что это время определяется средней относительной частотой со-

стояния uj и средним временем нахождения в этом состоянии θ(jjt) при одно-

кратном попадании в него tU(i, j) = nU(i, j)·θ(jjt).

Отсюда следует, что матрица средних условных времен нахождения в со-

стояниях подмножества U до выхода из U имеет вид:

 

 

 

 

 

TU = tU(i, j) = N

U

· (t),

 

(4.22)

 

 

 

 

 

 

 

 

 

 

U

 

 

 

 

где –

(t) подматрица матрицы (t), соответствующая подмножеству U.

 

U

 

 

 

 

 

 

 

 

 

 

 

 

Строка средних времен нахождения в состояниях подмножества U до выхо-

да из U при заданном начальном распределении

rU

вычисляется по формуле:

 

 

 

 

 

 

· (t) =

r

·N

 

 

· (t).

(4.23)

 

t

= tU(j) =

n

 

U

 

 

U

 

U

U

 

U

 

U

 

Среднее время нахождения в подмножестве U до выхода из него определяется

суммированием времен tU(j) по всем uj U:

 

 

 

 

 

 

 

tU =

 

 

U ·e =

rU ·NU · U(t)· e,

(4.24)

 

tU ( j) = t

 

 

 

 

uj U

 

 

 

 

 

 

 

 

 

где e

– столбец, все элементы которого равны 1.

 

 

 

 

Если процесс задан в непрерывном времени и описывается однородным

марковским процессом, то матрицы P

 

, N

U

, (t)

и TU

могут быть вычислены

 

UU

 

 

 

 

U

 

 

напрямую по матрице интенсивностей:

 

1

 

 

 

 

 

 

 

 

UU ;

(4.25)

PUU = E UU dg

 

1

UUdg

;

 

(4.26)

NU = UU

 

(t)

= –

 

1

 

;

 

(4.27)

U

UUdg

 

 

 

 

(t)

= –

1

 

(4.28)

TU = NU · U

UU .

49

4.7. ХАРАКТЕРИСТИКИ ПОДМНОЖЕСТВА СОСТОЯНИЙ

Для удобства пользования сведем полученные формулы в таблицы. Формулы описывают характеристики нахождения в подмножестве несущественных состояний.

Табл. 4.1. Характеристики подмножества, описываемые марковской цепью

 

Название характеристики

 

 

Формула

1.

Матрица переходных вероятностей подмножества

PUU = pU(i, j)

2.

Матрица среднего числа шагов нахождения в

NU = nU(i, j) =

 

состояниях

= (E PUU)–1

3.

Строка среднего числа шагов нахождения в состояниях

n

= nU(j) =

r

·NU

 

при заданном начальном распределении

U

 

 

U

 

 

 

 

 

 

4.

Столбец среднего числа шагов нахождения в

nU

= nU(i) = NU·e

 

подмножестве при заданном начальном состоянии

 

 

 

 

 

5.

Среднее число шагов нахождения в подмножестве при

nU =

rU ·NU·e

 

заданном начальном распределении

 

 

 

 

 

Табл. 4.2. Характеристики подмножества, описываемые марковским процессом

 

Название характеристики

 

 

 

 

 

Формула

 

 

 

 

1.

Матрица интенсивностей подмножества

ΛUU = λU(i, j)

 

 

 

 

2.

Матрица среднего времени нахождения в

 

 

 

 

 

 

 

 

1

 

TU = tU(i, j) = – UU

 

состояниях подмножества

 

 

 

 

 

 

 

 

 

 

 

3.

Строка среднего времени нахождения в состояниях

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

t

= tU(j) = – r

 

·

UU

 

при заданном начальном распределении

 

U

 

 

 

U

 

 

 

 

 

 

 

 

 

 

 

 

 

 

4.

Столбец среднего времени нахождения в

t

 

 

 

1

·e

= tU(i) = –

UU

 

подмножестве при заданном начальном состоянии

 

U

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

5.

Среднее время нахождения в подмножестве

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

tU = – rU · UU ·e

 

 

 

 

 

при заданном начальном распределении

 

 

 

 

 

 

 

 

 

 

 

Замечание. Формула для вычисления дисперсии времени нахождения в подмножестве состояний в таблицу не включены.

Табл. 4.3. Характеристики подмножества, описываемые полумарковским процессом

 

Название характеристики

 

 

Формула

1.

Матрица вероятностей прохождений

PUU = pU (i, j)

2.

Матрица средних относительных частот

 

NU = nU(i,j) = = (E PUU )–1

 

состояний

 

 

 

 

3.

Строка средних относительных частот

 

 

 

 

 

состояний при заданном начальном

 

 

U = nU(j) =

rU ·NU

 

 

n

 

распределении

 

 

 

 

 

50