Випадкова послідовність
Нагадаємо що для випадкової послідовності або неперервного процесу з дискретним часом область означення, як і для дискретної випадкової послідовності, є дискретна множина , де може бути скінченим, а може прямувати і до . Фазовий же простір є деяким відрізком числової вісі (континуум), тобто . Далі для, спрощення викладок, будемо розглядати випадок, коли є ціле скінчене число. Тим більше, що на практиці, у системах обробки інформації розглядаються саме такого виду сигнали.
Отже випадкова послідовність може розглядатися як упорядкована за часом послідовність неперервних випадкових величини , заданих на одному і тому ж імовірнісному просторі . Як і для дискретної випадкової послідовності, покладемо, що . Окрім того, будемо вважати, що вказані випадкові величини мають одну і ту ж область значень . Таке припущення є виправданим, оскільки, якщо область значень деякої випадкової величини обмежена інтервалом , то будемо вважати, що ймовірності .
Імовірнісні властивості таких випадкових послідовностей повністю характеризуються -вимірною сумісною функцією розподілу ймовірностей
(2.29)
.
На основі -вимірної сумісної функції розподілу ймовірностей (2.29) можна знаходити функції розподілу менших розмінностей. Так, послідовність одновимірних функцій розподілу може бути отримана, якщо в (2.29) «непотрібні» змінні спрямувати до нескінченності, а саме
;
;
…………………………………………………..
.
Для двовимірних функцій розподілу потрібно в (2.29) спрямовувати до нескінченності «непотрібні» змінних. Наприклад, двовимірна функція розподілу випадкової послідовності в точках і визначається так:
.
Рівноцінною -вимірній сумісній функції розподілу ймовірностей (2.29) повною імовірнісною характеристикою випадкової послідовності є також -вимірна сумісна щільність розподілу ймовірностей, яка визначається так:
, (2.30)
.
Щільність розподілу ймовірностей є невід’ємною функцією, тобто
при будь-яких значеннях і задовольняє умові нормування
.
Окрім того, сумісна -вимірна щільність розподілу ймовірностей (2.30) дозволяє найти ймовірність того, що реалізація випадкової послідовності в момент часу лежить в межах інтервалу і в момент часу лежить в межах інтервалу і т. д. до моменту часу . Маємо
.
Співвідношення (2.30) дає можливість на основі -вимірної сумісної функції розподілу ймовірностей (2.29) знайти -вимірну сумісну щільність розподілу ймовірностей . Обернене співвідношення має вигляд:
.
На основі -вимірної сумісної щільності розподілу ймовірностей також можна знаходити щільності розподілу менших розмінностей шляхом інтегрування по «непотрібним» змінним. Так, послідовність одновимірних щільностей розподілу випадкової послідовності знаходяться шляхом -кратного інтегрування, тобто
. (2.31)
Двовимірні щільності розподілу ймовірностей випадкової послідовності знаходяться шляхом -кратного інтегрування -вимірної щільності (2.30), тобто
(2.32)
.
Для випадкової послідовності можна знаходити, якщо вони існують, початкові та центральні дискретні моментні функції. Початкова змішана моментна функція -го порядку
,
де .
Серед початкових моментних функцій найбільш широкого застосування в практиці обробки сигналів знаходять моментна функція першого порядку та змішана моментна функція другого порядку. Перша носить назву математичного сподівання або середнього випадкової послідовності і знаходиться на основі одновимірної щільності розподілу ймовірностей (2.31) шляхом однократного інтегрування, або на основі змішаної щільності розподілу ймовірностей (2.30) шляхом -кратного інтегрування,
тобто
,
(2.33)
Таким чином, математичне сподівання випадкової послідовності представляє собою -вимірний вектор
,
елементи якого знаходяться згідно з формулою (2.33).
Змішана моментна функція другого порядку носить назву коваріації або коваріаційного моменту і знаходиться за наступною формулою:
, (2.34)
Коваріаційна моментна функція випадкової послідовності утворює квадратну симетричну матрицю розміром
. (2.35)
Центральна змішана моментна функція -го порядку
,
де .
Найбільш відомими в практиці обробки випадкових сигналів є центральний момент другого порядку – дисперсія і змішаний центральний момент другого порядку – кореляційна функція . Оскільки дисперсія у загальному випадку залежить від одного моменту часу, то для її визначення достатньо одновимірної щільності розподілу ймовірностей (2.31), тобто
, (2.36)
хоча можна скористатись і -вимірною щільністю розподілу (2.30) випадкової послідовності, аналогічно, як це показано в правій частині виразу (2.33) для математичного сподівання. В цілому для випадкової послідовності дисперсія представляє собою -вимірний вектор
, (2.37)
елементи якого знаходяться згідно з формулою (2.36).
Оскільки кореляційна функція у загальному випадку залежить від двох моментів часу, то її елементи знаходяться на основі двовимірної щільності розподілу ймовірностей, а саме
Кореляційну функцію можна записати у вигляді квадратної симетричної матриці розміром
, (2.38)
на головній діагоналі якої розташовані елементи зі співпадаючими моментами часу і, отже, представляють собою вектор-дисперію (2.37).
Якщо значення випадкової послідовності стохастично незалежні, то одновимірних функції розподілу або щільностей розподілу ймовірностей (2.31) достатньо для її повного опису. Це обумовлено тим, що у цьому випадку -вимірні і функція розподілу (2.29), і щільність розподілу ймовірностей (2.30) можуть бути записані через відповідні одновимірні розподіли. Так функція розподілу запишеться так:
.
Щільність розподілу ймовірностей
.
Оскільки із стохастичної незалежності випливає і некорельованість значень випадкової послідовності , то кореляційна матриця (2.38) набуде вигляду:
.
Але, як відомо, із некорельованості значень випадкової послідовності у загальному випадку не слідує стохастична незалежність.
Для випадкової послідовності теж можна розглядати поняття марківського процесу. Для цього знову розглянемо моментів часу , яким відповідають значення випадкової послідовності , . Розглянемо умовну функцію розподілу ймовірність значення випадкової послідовності відносно попередніх її значень , :
.
Якщо для такої ймовірності виконується співвідношення:
=
, (2.39)
то випадкова послідовність називається марковським процесом з дискретним часом і неперервним фазовим простором або просто дискретним процесом Маркова.
Подібно до співвідношення (2.39) можна записати вираз і для умовних щільностей розподілу ймовірностей
=
. (2.40)
Умовна щільність розподілу ймовірностей випадкової послідовності
(2.41)
носить назву перехідної щільності ймовірностей дискретного процесу Маркова. Як і будь-які умовні щільності, перехідні щільності задовольняють умовам
і
.
Окрім того, перехідні щільності (2.41) дискретного процесу Маркова задовольняють рівнянню Колмогорова-Чепмена, яке описує співвідношення для умовних щільностей ймовірностей трьох значень випадкової послідовності , , , де і . Використовуючи відоме в теорії ймовірностей правило множення ймовірностей, запишемо трьохвимірну щільність розподілу ймовірностей для випадкових величин , ,
.
Якщо тепер про інтегрувати ліву і праву частини останнього співвідношення за змінною та врахувати властивість марковості (2.40) для умовної щільності ймовірностей, отримаємо вираз
, (2.42)
що і зображає собою рівнянню Колмогорова-Чепмена.
Для повного теоретико-ймовірнісного опису дискретного процесу Маркова окрім перехідних щільностей ймовірностей потрібно задати також початкову щільність ймовірностей . Тоді -вимірна щільність ймовірностей
.
Процеси типу мартингалів та напівмартингалів (субмартінгали та супермартінгали) для випадкової послідовності визначаються аналогічними виразами, як і для дискретної випадкової послідовності. Різниця полягає лише в тому, що для знаходження умовних математичних сподівань дискретної випадкової послідовності використовуються умовні розподіли ймовірностей, а для випадкової послідовності – умовні щільності розподілу ймовірностей.