Aké procesy možno pripísať Markovovým procesom. Markovove procesy: príklady

Prihlásiť sa na odber
Pripojte sa ku komunite koon.ru!
V kontakte s:

Štruktúra a klasifikácia systémov radenia

Systémy radenia

Často je potrebné vyriešiť pravdepodobnostné problémy spojené so systémami radenia (QS), ktorých príkladmi môžu byť:

Predajne lístkov;

Opravovne;

Obchod, doprava, energetické systémy;

Komunikačné systémy;

Spoločnosť takýchto systémov sa prejavuje v jednote matematických metód a modelov používaných pri štúdiu ich aktivít.

Ryža. 4.1. Hlavné oblasti použitia TMT

Prúd požiadaviek na službu prichádza na vstup do QS. Napríklad klienti alebo pacienti, poruchy zariadení, telefonáty. Žiadosti sú prijímané nepravidelne, v náhodných časoch. Dĺžka trvania služby je tiež náhodná. To vytvára nezrovnalosti v práci QS, je dôvodom jeho preťaženia a nedostatočného zaťaženia.

Systémy radenia majú rôzne štruktúry, ale zvyčajne sa dajú rozlíšiť štyri hlavné prvky:

1. Prichádzajúci prúd požiadaviek.

2. Akumulátor (front).

3. Zariadenia (servisné kanály).

4. Odchádzajúci prúd.

Ryža. 4.2. Všeobecná schéma radiacich systémov

Ryža. 4.3. Model prevádzky systému

(šípky ukazujú momenty prijatia reklamácií v

systém, obdĺžniky - servisný čas)

Obrázok 4.3a zobrazuje model systému s pravidelným tokom požiadaviek. Keďže je známy interval medzi príchodmi požiadaviek, čas obsluhy je zvolený tak, aby sa systém plne zaťažil. Pre systém so stochastickým tokom zákazníkov je situácia úplne iná – zákazníci prichádzajú v rôznych časoch a čas obsluhy je tiež náhodná veličina, ktorú možno popísať určitým distribučným zákonom (obrázok 4.3 b).

V závislosti od pravidiel na vytváranie frontu sa rozlišujú tieto CMO:

1) systémy s poruchami , v ktorom, keď sú všetky obslužné kanály obsadené, požiadavka ponechá systém neobslúžený;

2) neobmedzené frontové systémy v ktorej požiadavka vstúpi do frontu, ak v momente jej príchodu boli všetky obslužné kanály obsadené;

3) systémy s čakaním a obmedzeným radom , v ktorej je čakacia doba obmedzená niektorými podmienkami alebo sú obmedzenia na počet žiadostí v poradí.

Zvážte charakteristiky prichádzajúcich požiadaviek.

Prúd požiadaviek je tzv stacionárne , ak pravdepodobnosť určitého počtu udalostí pripadajúcich na časový úsek určitej dĺžky závisí len od dĺžky tohto úseku.

Prúd udalostí je tzv plynúť bez následkov ak počet udalostí pripadajúcich na určitý časový interval nezávisí od počtu udalostí pripadajúcich na iné.



Prúd udalostí je tzv obyčajný ak nie je možný súčasný príchod dvoch alebo viacerých udalostí.

Prúd požiadaviek je tzv jed (alebo najjednoduchšie), ak má tri vlastnosti: stacionárne, bežné a nemá žiadne následky. Názov je spôsobený skutočnosťou, že pri splnení stanovených podmienok sa počet udalostí spadajúcich do ľubovoľného pevného časového intervalu rozloží podľa Poissonovho zákona.

Intenzita tok škôd λ je priemerný počet škôd prichádzajúcich z toku za jednotku času.

Pri stacionárnom prúdení je intenzita konštantná. Ak τ je priemerná hodnota časového intervalu medzi dvoma susednými zákazníkmi, potom v prípade Poissonovho toku je pravdepodobnosť príchodu k servisu mžiadosti na určité obdobie t definované Poissonovým zákonom:

Čas medzi susednými nárokmi je rozdelený exponenciálne s hustotou pravdepodobnosti

Čas služby je náhodná premenná a riadi sa zákonom exponenciálneho rozdelenia s hustotou pravdepodobnosti, kde μ je intenzita toku služby, t.j. priemerný počet žiadostí doručených za jednotku času,

Pomer intenzity prichádzajúceho toku k intenzite obslužného toku sa nazýva spustenie systému

Systém radenia je systém diskrétneho typu s konečnou alebo spočítateľnou množinou stavov a prechod systému z jedného stavu do druhého nastáva skokom, keď nastane udalosť.

Proces sa nazýva diskrétny stavový proces ak je možné jeho možné stavy vopred prečíslovať a prechod systému zo stavu do stavu nastáva takmer okamžite.

Takéto procesy sú dvoch typov: s diskrétnym alebo nepretržitým časom.

V prípade diskrétneho času môžu prechody zo stavu do stavu nastať v presne definovaných časoch. Procesy so spojitým časom sa líšia tým, že prechod systému do nového stavu je možný kedykoľvek.

Náhodný proces je korešpondencia, v ktorej je každej hodnote argumentu (v tomto prípade momentu z časového intervalu experimentu) priradená náhodná premenná (v tomto prípade stav QS). Náhodná hodnota je veličina, ktorá v dôsledku skúseností môže nadobudnúť jednu, ale vopred neznámu číselnú hodnotu z danej číselnej množiny.

Preto na riešenie problémov teórie radenia je potrebné študovať tento náhodný proces, t.j. zostaviť a analyzovať jeho matematický model.

Náhodný proces volal Markov ak pre ktorýkoľvek časový okamih pravdepodobnostné charakteristiky procesu v budúcnosti závisia len od jeho stavu v danom okamihu a nezávisia od toho, kedy a ako sa systém do tohto stavu dostal.

Systémové prechody zo stavu do stavu sa vyskytujú pôsobením niektorých tokov (tok žiadostí, tok odmietnutí). Ak sú všetky prúdy udalostí, ktoré privádzajú systém do nového stavu, tie najjednoduchšie Poissonove, potom proces prebiehajúci v systéme bude Markov, pretože najjednoduchší prúd nemá dôsledky: budúcnosť v ňom nezávisí od minulosti. - skupina šachových figúrok. Stav systému je charakterizovaný počtom súperových figúrok, ktoré momentálne zostávajú na šachovnici. Pravdepodobnosť, že v danom momente bude materiálna výhoda na strane niektorého zo súperov, závisí predovšetkým od aktuálneho stavu systému a nie od toho, kedy a v akom poradí figúrky do tej chvíle zmizli zo šachovnice.

Náhodný proces X(t), tÎT volal Markov, Ak nejaký t l< t 2< ... < t n, patriace do regiónu T, podmienená distribučná funkcia náhodnej premennej X (t n) vzhľadom na X (t 1),. ... ., X (t n -1) sa zhoduje s funkciou podmieneného rozdelenia X (t n) pomerne X (t n -1) v tom zmysle, že pre ľubovoľné x n ОX je rovnosť

Zváženie definície (3.1.1) s postupným zvyšovaním n nám umožňuje zistiť, že pre Markovove náhodné procesy možno n-rozmernú distribučnú funkciu reprezentovať vo forme

Podobne možno pre hustoty pravdepodobnosti zapísať Markovovu vlastnosť (3.1.1), (3.1.2).

Pre Markovov proces teda distribučná funkcia alebo hustota pravdepodobnosti akejkoľvek dimenzie n možno nájsť, ak je známa jeho jednorozmerná hustota pravdepodobnosti t = t1 a postupnosť podmienených hustôt pre momenty t i > t 1, i= Táto vlastnosť v podstate určuje praktické pohodlie aparátu Markovových náhodných procesov.

Pre Markovove procesy úplne platí všeobecná klasifikácia uvedená v časti 1.1. V súlade s touto klasifikáciou sa zvyčajne rozlišujú štyri hlavné typy Markovových procesov:

- Markovove reťaze- procesy, v ktorých sa ako rozsah hodnôt X, a rozsah T- diskrétne sady;

- Markovove sekvencie- procesy, v ktorých sa rozsah hodnôt X- spojitý a oblasť definície T-diskrétna súprava;

- diskrétne Markovove procesy- procesy, v ktorých sa rozsah hodnôt X- diskrétne a doména definície T- súvislá súprava;

- kontinuálne oceňované Markovove procesy- procesy, v ktorých sa ako rozsah hodnôt X, a rozsah T- súvislé zostavy.

Možné sú aj zložitejšie typy Markovových procesov, napríklad diskrétne-kontinuálne, kedy ide o náhodný proces X (t) pre niektoré hodnoty argumentu t má skoky a v intervaloch medzi nimi sa správa ako spojitá hodnota. Takéto procesy sa nazývajú zmiešané. Podobná situácia nastáva pre vektorové Markovove procesy – jednotlivé zložky takéhoto procesu môžu byť rôzneho typu. Procesy takýchto komplexných typov sa ďalej neuvažujú.

Všimnite si, že pri štúdiu Markovových procesov sa tradične akceptuje chápať argument t ako čas. Keďže tento predpoklad neobmedzuje všeobecnosť a prispieva k jasnosti prezentácie, takáto interpretácia fyzikálneho významu argumentu t a je prijatý v tejto kapitole.

REŤAZE MARKOV

Nechajte náhodný proces X (t) môže dostať finále (L< ) множество значений

(q l, l= } = C. Špecifická hodnota q l; Î S, ktorý proces prijal X (t) v momente t, to definuje stav pre danú hodnotu argumentu. Touto cestou,

v posudzovanom prípade proces X (t) má konečnú množinu možných stavov.

Prirodzene, v priebehu času, proces X (t) náhodne zmení svoj stav. Predpokladajme, že takáto zmena nie je možná u žiadneho t, a len v niektorých diskrétnych časoch t 0 X (t) náhle zmení svoj stav. Inými slovami, vo chvíľach času t t konať prechody X (to) ®X (ti) ®...a X (t) Î C, t.j= 0,1,2,…

Tieto dve vlastnosti určujú postupnosť diskrétnych náhodných premenných Xi - X (ti), t.j= 0,1, ... (diskrétna náhodná postupnosť v zmysle oddielu 1.1), ktorej rozsah hodnôt je diskrétna konečná množina С = (q l, l = ], a doména definície - diskrétna nekonečná množina t i, i= 0,1, 2,...

Ak pre takto definovanú diskrétnu náhodnú postupnosť platí hlavná vlastnosť (3.1.1) Markovových procesov, ktorá má v tomto prípade tvar

potom sa takáto postupnosť nazýva jednoduchý Markovov reťazec.

Všimnite si, že výraz (3.2.1) okamžite naznačuje

rovnaká rovnosť pre podmienené pravdepodobnosti nájdenia

jednoduchý Markov reťazec v nejakom stave

P (x 1 / x 0, x 1, ..., x i -1) = Ρ (x i / x i -1), i= 1,2,....

Zavedená definícia umožňuje určité zovšeobecnenie. Predpokladajme, že hodnota x i Î С zvažovaný proces X (t) závisí nie od jedného, ​​ale od m (l £ m< i) hodnoty, ktoré mu bezprostredne predchádzajú. Potom je zrejmé, že

Volá sa proces definovaný vzťahom (3.2.2). zložitý Markov reťazec rádu tzv Vzťah (3.2.1) vyplýva z (3.2.2) ako špeciálny prípad. Na druhej strane komplexný Markovov reťazec T možno redukovať na jednoduchý Markovov reťazec pre m-rozmerný vektor. Aby sme to ukázali, predpokladáme, že stav procesu v súčasnosti ja i je opísaný pomocou m-rozmerného vektora.

(3.2.3)

V predchádzajúcom kroku sa zapíše podobný vektor ako

Porovnanie (3.2.3) a (3.2.4) ukazuje, že „priemerné“ zložky týchto vektorov (okrem X l v (3.2.3) a X l - m v (3.2.4)) sa zhodujú. Z toho vyplýva, že podmienená pravdepodobnosť zasiahnutia procesu X (t) do stavu `X i v momente t 1, ak bol v momente v stave` X i -1 t i -1, možno napísať ako

V (3.2.5) symbol označuje j-tu zložku vektora ` x i;α (μ, ν) je Kroneckerov symbol: α (μ, ν) = 1 pre ν = μ a α (μ, ν) = ϋ pre μ ¹ν. Možnosť týchto zovšeobecnení nám umožňuje obmedziť sa ďalej len na jednoduché Markovove reťazce.

Ako systém diskrétnych náhodných veličín možno jednoduchý Markovov reťazec X i, i = 0, 1, 2, ..., i, ... pre ľubovoľné pevné i vyčerpávajúco opísať pomocou i-rozmernej spoločnej pravdepodobnosti

ρ {θ 0 L, θ ίκ, ..., θ ί m,) = P ( X 0 =θ L, Xi = θ k,…, Xj = θ m}, (3.2.6)

kde indexy l, k, ..., t vziať všetky hodnoty od 1 do L nezávisle od seba. Výraz (3.2.6) definuje maticu s L riadkov a i + 1 stĺpcov, ktorých prvkami sú pravdepodobnosti koexistencie sústavy náhodných premenných Χ 0, Χ 1, ..., Χ ί v nejakom konkrétnom štáte. Túto maticu, analogicky s distribučným radom skalárnej diskrétnej náhodnej premennej, možno nazvať distribučnou maticou systému diskrétnych náhodných premenných

Χ 0, Χ 1, ..., Χ ί.

Na základe vety o násobení pravdepodobnosti možno pravdepodobnosť (3.2.6) znázorniť ako

Ale podľa hlavnej vlastnosti (3.2.1) Markovho reťazca

P (X l= m/Xo = l, Xi = k, ..., Xi-1 = r) = P (Xi = m / Xi-1 = r)

Opakovanie podobného zdôvodnenia pre pravdepodobnosť zahrnutú v (3.2.8) r) umožňuje tento výraz zredukovať na tvar

Z toho nakoniec získame

(3.2.9)

Úplný pravdepodobnostný popis jednoduchého Markovovho reťazca sa teda dosiahne špecifikovaním pravdepodobností počiatočného stavu reťazca v danom okamihu. t 0,Ρ{Θ 0 l,) = P (X° = Θ l}, l = a podmienené pravdepodobnosti

Ρ (X l= Θ k / X i-1 = Θ m), i = 1, 2,. .. · k, m =

Všimnite si, že keďže možné stavy Θ l Î`C reťaze X t) sú pevné a známe, na opísanie jeho stavu v ktoromkoľvek okamihu stačí uviesť číslo l tento štát. To nám umožňuje zaviesť bezpodmienečné pravdepodobnosti nájdenia reťazca l-tý stav v čase t i (v i-tý krok) zjednodušený zápis

Tieto pravdepodobnosti majú zjavne vlastnosti nezápornosti a normalizácie k jednote

P l(i)>0,l = , i = 0, 1,2,...; (3.2.11)

Pri použití maticového zápisu sa množina nepodmienených pravdepodobností zapisuje vo forme riadkovej matice

(3.2.12)

Ako vyplýva z predchádzajúceho, základnú úlohu v teórii Markovových reťazcov (a Markovových procesov vo všeobecnosti) zohrávajú podmienené pravdepodobnosti formy. V súlade s ich fyzikálnym významom sa zvyčajne nazývajú pravdepodobnosti prechodu a označte ako

Výraz (3.2.13) určuje pravdepodobnosť príchodu reťazca do stavu l, v čase t v ν - μ krokoch, za predpokladu, že v čase t μ bol reťazec v stave A. Je ľahké vidieť, že pravdepodobnosti prechodu majú tiež vlastnosti nezápornosti a normalizácie, pretože v každom kroku bude reťaz vždy v jednom z L možné stavy

(3.2.14)

Usporiadaná množina pravdepodobností prechodu pre ľubovoľný pár môže byť reprezentovaná ako štvorcová matica

(3.2.15)

Ako vyplýva z výrazu (3.2.14), všetky prvky tejto matice sú nezáporné a súčet prvkov každého riadku sa rovná jednej. Štvorcová matica s uvedenými vlastnosťami sa nazýva stochastické.

Pravdepodobný popis Markovovho reťazca teda môže byť daný riadkovou maticou (3.2.12) a stochastickou maticou (3.2.15).

Pomocou zavedeného zápisu riešime hlavný problém teórie Markovových reťazcov - definujeme nepodmienenú pravdepodobnosť Ρ l(ί) skutočnosť, že v i -μ krokoch sa proces dostane do určitého stavu l, l=. Je zrejmé, že v okamihu t m môže byť proces s pravdepodobnosťou v ktoromkoľvek z L možných stavov P k (m), k= . Pravdepodobnosť prechodu z k-tý v l-tý stav je daný pravdepodobnosťou prechodu p kl (m, i)... Na základe vety o celkovej pravdepodobnosti teda dostaneme

; (3.2.16)

alebo v matricovej forme

P ( i) = P (m) P (m, i); (3.2.17)

Uvažujme vo vzťahu (3.2.16) pravdepodobnosť prechodu π kl (m, i). Je zrejmé, že prechod reťazca zo stavu k v momente t m v stave l v momente t i v niekoľkých krokoch sa môže uskutočniť rôznymi spôsobmi (prostredníctvom rôznych medzistavov). Zoberme do úvahy medzičasový moment t m, t m Β tento moment môže byť proces v ktoromkoľvek z L možných stavov a pravdepodobnosti, že v danom momente upadne do r-tého stavu t m za predpokladu, že v súčasnosti t m bol schopný k, sa rovná π kr (μ, m). Na druhej strane od štátu r v stave l proces prechádza s pravdepodobnosťou π rl(m , i). S použitím vety o celkovej pravdepodobnosti teda dostaneme Markovova rovnica pre pravdepodobnosti prechodu

ktorého matricová forma je

P (m, ί) = P (μ, m) P (m, I); 0 £ m < m < I; (3.2.19)

Rovnice (3.2.18), (3.2.19) definujú vlastnosť pravdepodobnosti prechodu charakteristickú pre Markovove reťazce, hoci platnosť (3.2.18) je stále nedostatočná na to, aby zodpovedajúci reťazec bol Markov.

Postupným vypísaním vzorca (3.2.19) dostaneme

П (μ, i) = П (μ, ja - 1) P (i- 1, ί) = П (μ, μ + 1) ... П - 1, i), (3.2.20)

kde p (ν, μ), μ -n = 1- jeden krok pravdepodobnosť prechodu. Teraz, keď vo výraze (3.2.17) nastavíme μ = 0, dostaneme

(3.2.21)

z čoho vyplýva, že úplný pravdepodobnostný popis jednoduchého Markovovho reťazca sa dosiahne špecifikáciou pravdepodobností počiatočného stavu a postupnosti matíc pravdepodobnosti jednokrokových prechodov.

Je zrejmé, že vlastnosti Markovovho reťazca sú do značnej miery určené vlastnosťami pravdepodobnosti prechodu. Z tohto hľadiska je možné rozlíšiť najmä medzi jednoduchými Markovovými reťazcami homogénny, pre ktoré pravdepodobnosti prechodu závisia len od rozdielu argumentov

p kl(m, i) = p kl(i-m), i> m> 0; (3.2.22)

a nezávisia od čísla kroku. Všetky ostatné typy jednoduchých Markovových reťazí, ktoré nespĺňajú podmienku (3.2.22), patria do triedy heterogénne,.

Keďže pre homogénny reťazec je pravdepodobnosť prechodu určená iba rozdielom argumentov a nezávisí od čísla kroku, je zrejmé, že pre ľubovoľné dvojice (μ, m), ( j,i) spĺňajúce podmienky T- μ = 1, ί- j = 1, m¹i, fér

p kl(m-m) = p kl(i-j) = p kl(1) = p kl;

Z toho vyplýva, že na opísanie homogénneho Markovovho reťazca stačí špecifikovať spolu s pravdepodobnosťami počiatočného stavu nie postupnosť, ale jednu stochastickú maticu jednokrokových pravdepodobností prechodu.

(3.2.23)

Navyše je zrejmé, že

(3.4.7)

keďže prvý faktor pod integrálom nezávisí od premennej integrácie a integrál druhého je rovný jednej. Odčítaním rovnice (3.4.7) od (3.4.6) dostaneme

Predpokladajme, že hustotu pravdepodobnosti prechodu uvažovaného procesu možno rozšíriť v Taylorovom rade. Potom výraz v hranatých zátvorkách pod integrálom v rovnici (3.4.8) možno znázorniť ako

Nahradením výrazu (3.4.9) za (3.4.8) delením oboch strán výsledného výrazu ∆ t a prechodom na limitu ako Δt → 0, dostaneme

Rovnica (3.4.10) definuje širokú triedu spojitých Markovových procesov a je ľahké vidieť, že množina koeficientov A ν (x 0, t 0) určuje fyzikálne vlastnosti každého z nich. Takže koeficient A 1 (x 0, t 0) možno interpretovať ako priemernú hodnotu miestneho (v bode X(t 0)) rýchlosť zmeny procesu, koeficient A 2 (x 0, t 0)- ako lokálna rýchlosť zmeny rozptylu jeho prírastku atď. Markovove procesy tejto všeobecnej formy sa však v aplikáciách zvažujú pomerne zriedkavo. Podmnožina Markovových procesov spĺňa podmienku

A v (x 0, t0) 10; n = 1,2, A v (x 0, t0) = 0, n33;(3.4.12)

Pri štúdiu Markovových procesov sa spočiatku zistilo, že rovnica (3.4.10) za podmienky (3.4.12) spĺňa zákony pohybu (difúzie) Brownových častíc, v dôsledku čoho boli zodpovedajúce Markovove procesy tzv. difúzia. Na základe toho koeficient A1 (x 0, t 0) = a (x 0, t 0) pomenovaný koeficient driftu, о A 2 (x 0, t 0) = b (x 0, t 0) - koeficient difúzie. V rámci (3.4.12) nadobúda rovnica (3.4.10) konečnú podobu

Toto je rovnica, v ktorej sú premenné x 0 a t 0, sa nazýva prvá (inverzná) Kolmogorovova rovnica.

Druhá rovnica sa dá získať podobným spôsobom

Táto rovnica na počesť vedcov, ktorí ju ako prví študovali, sa nazýva Fokkerova rovnica,- Plank- Kolmogorov alebo priama Kolmogorovova rovnica(keďže obsahuje deriváciu vzhľadom na konečný časový okamih t> t 0).

Touto cestou; ukazuje sa, že hustoty pravdepodobnosti prechodu difúzie Markovových procesov spĺňajú rovnice (3.4.13), (3.4.14), ktoré sú hlavným nástrojom na ich štúdium. V tomto prípade sú vlastnosti konkrétneho procesu určené "koeficientmi" a (x, tί) a b (x, t) ktoré sa podľa rovnice (3.4.11) rovnajú

Z výrazov (3.4.15), (3.4.16) vyplýva, že tieto "koeficienty" majú význam podmienených matematických očakávaní, ktoré určujú charakter zmien v realizácii procesov v nekonečne malom časovom intervale Δt. Sú povolené veľmi rýchle zmeny procesu X (t), ale v opačných smeroch, v dôsledku čoho je priemerný prírastok procesu za krátky čas Δt konečný a má rádovú veľkosť.

4. Modelovanie podľa schémy Markovových stochastických procesov

Na výpočet numerických parametrov charakterizujúcich stochastické objekty je potrebné zostrojiť určitý pravdepodobnostný model javu s prihliadnutím na náhodné faktory, ktoré ho sprevádzajú. Na matematický popis mnohých javov vyvíjajúcich sa vo forme náhodného procesu možno úspešne použiť matematický aparát vyvinutý v teórii pravdepodobnosti pre tzv. Markovove náhodné procesy. Poďme si vysvetliť tento pojem. Nech existuje nejaký fyzický systém S, ktorého stav sa v priebehu času mení (pod systémom S rozumie sa čomukoľvek: technické zariadenie, opravovňa, počítač atď.). Ak štát S zmeny v čase náhodným spôsobom, hovoria, že v systéme S prebieha náhodný proces. Príklady: proces činnosti počítača (príjem príkazov na počítač, typ týchto príkazov, náhodné poruchy), proces zamerania riadenej strely (náhodné poruchy (interferencie) v systéme riadenia rakety), proces služby zákazníkom v kaderníctve alebo opravovni (náhodný tok žiadostí (reklamácií) prijatých od klientov).

Náhodný proces sa nazýva Markovov proces (alebo „proces bez následkov“), ak je pre každý časový okamih t0 pravdepodobnosť akéhokoľvek stavu systému v budúcnosti (napr. t> t0 ) závisí len od jeho stavu v súčasnosti (napr t= t0 ) a nezávisí od toho, kedy a ako sa systém do tohto stavu dostal (t. j. ako sa proces vyvíjal v minulosti). Nechaj S technické zariadenie vyznačujúce sa určitým stupňom poškodenia S... Zaujíma nás, ako to bude fungovať ďalej. Ako prvé priblíženie, výkon systému v budúcnosti (miera poruchovosti, potreba opravy) závisí od aktuálneho stavu zariadenia a nezávisí od toho, kedy a ako zariadenie dosiahlo súčasný stav.

Teória Markovových náhodných procesov je rozsiahly úsek teórie pravdepodobnosti so širokým spektrom aplikácií (fyzikálne javy ako difúzia alebo miešanie vsádzky pri tavení vo vysokej peci, procesy vo fronte).

4.1. Klasifikácia Markovových procesov

Markovove stochastické procesy sú rozdelené do tried. Prvým klasifikačným znakom je povaha spektra stavov. Náhodný proces (SP) sa nazýva proces s diskrétnymi stavmi, ak sú možné stavy systému S1,S2,S3... možno vypísať a samotný proces spočíva v tom, že systém S z času na čas preskočí (okamžite) z jedného stavu do druhého.

Príklad. Technické zariadenie pozostáva z dvoch uzlov I a II, z ktorých každý môže zlyhať. štáty: S1- oba uzly fungujú; S2- prvý uzol zlyhal, druhý funguje; S 3 - druhý uzol zlyhal, prvý funguje; S4- oba uzly zlyhali.

Existujú procesy s nepretržitými stavmi (plynulý prechod zo stavu do stavu), napríklad zmena napätia v osvetľovacej sieti. Budeme brať do úvahy iba SP s diskrétnymi stavmi. V tomto prípade je vhodné použiť stavový graf, v ktorom sú možné stavy systému označené uzlami a prípadné prechody oblúkmi.

Druhým klasifikačným znakom je charakter fungovania v čase. SP sa nazýva proces s diskrétnym časom, ak sú prechody systému zo stavu do stavu možné len v presne definovaných, vopred stanovených časoch: t1,t2...... Ak je prechod sústavy zo stavu do stavu možný v akomkoľvek dovtedy neznámom náhodnom okamihu, potom hovoríme o SP so spojitým časom.

4.2. Výpočet Markovovho reťazca s diskrétnym časom

S diskrétny stav S1,S2,...Sn a diskrétny čas t1,t2, ...,tk, ...(kroky, kroky procesu, SP možno vidieť ako funkciu argumentu (čísla kroku)). Vo všeobecnom prípade SC je, že dochádza k prechodom S1® S1® S2® S3® S4® S1® … v momentoch t1,t2,t3....

Označíme udalosť, ktorá po k- kroky systém je v stave Si... Pre akékoľvek k udalosti https://pandia.ru/text/78/060/images/image004_39.gif "width =" 159 "height =" 25 src = ">.

Tento náhodný sled udalostí sa nazýva Markovov reťazec. Popíšeme Markovov reťazec (MC) pomocou stavových pravdepodobností. Nech je pravdepodobnosť, že po k- kroky systém je v stave Si... Je ľahké to vidieť " k DIV_ADBLOCK13 ">


.

Používam udalosti uvedené vyššie https://pandia.ru/text/78/060/images/image008_34.gif "width =" 119 "height =" 27 src = ">. Súčet výrazov v každom riadku matica by sa mala rovnať 1. Namiesto toho matice pravdepodobnosti prechodu často používajú označený stavový graf (označujú nenulové pravdepodobnosti prechodu na oblúkoch, pravdepodobnosti oneskorenia sa nevyžadujú, pretože sa dajú ľahko vypočítať, napr. P11 = 1- (P12 +P13)). Ak máme k dispozícii označený stavový graf (alebo maticu pravdepodobností prechodu) a poznáme počiatočný stav systému, môžeme nájsť pravdepodobnosti stavov p1 (k),p2 (k), ...pn (k)" k.

Nech je počiatočný stav systému Sm, potom

p1 (0) = 0 p2 (0) = 0 ...pm (0) = 1 ...pn (0) = 0.

Prvý krok:

p1 (1) = Pm1, p2 (1) = Pm2,… Pm (1) = Pmm,..., pn (1) = Pmn.

Po druhom kroku pomocou vzorca celkovej pravdepodobnosti dostaneme:

p1 (2) = p1 (1) P11 + p2 (1) P21 +… pn (1) Pn1,

pi (2) = p1 (1) P1i + p2 (1) P2i +… pn (1) Pni alebohttps://pandia.ru/text/78/060/images/image010_33.gif "width =" 149 "height =" 47 "> (i = 1,2, ..n).

Pre heterogénne MC pravdepodobnosti prechodu závisia od čísla kroku. Označujeme pravdepodobnosti prechodu pre krok k cez .

Potom má vzorec na výpočet pravdepodobnosti stavov tvar:

.

4.3. Markovove reťazce so spojitým časom

4.3.1. Kolmogorovove rovnice

V praxi sú oveľa bežnejšie situácie, keď k prechodu systému zo stavu do stavu dochádza v náhodných časoch, ktoré nemožno vopred naznačiť: napríklad porucha niektorého hardvérového prvku, dokončenie opravy (reštaurovanie) tohto prvku. Na opis takýchto procesov možno v mnohých prípadoch úspešne použiť schému Markovovho náhodného procesu s diskrétnymi stavmi a spojitým časom, súvislý Markovov reťazec. Ukážme si, ako sú pre takýto proces vyjadrené pravdepodobnosti stavov. Nechaj S = (S1,S2,...Sn). Označme podľa pi (t) je pravdepodobnosť, že v súčasnosti t systém S bude v stave). očividne . Stanovme si úlohu - určiť pre ľubovoľnú tpi (t)... Namiesto pravdepodobností prechodu Pij zavedieme do úvahy hustotu pravdepodobnosti prechodu

.

Ak nie je závislý na t, hovoriť o homogénnom reťazci, inak - o nehomogénnom. Dajte nám vedieť pre všetky dvojice stavov (uvedený je označený graf stavu). Ukazuje sa, že so znalosťou označeného stavového grafu je možné určiť p1 (t),p2 (t) ..pn (t) ako funkcia času. Tieto pravdepodobnosti spĺňajú určitý druh diferenciálnych rovníc (Kolmogorovove rovnice).


Integrácia týchto rovníc so známym počiatočným stavom systému poskytne požadované pravdepodobnosti stavu ako funkciu času. Všimni si p1 +p2 +p3 +p4 = 1 a vystačíte si s tromi rovnicami.

Pravidlá zostavovania Kolmogorovových rovníc... Na ľavej strane každej rovnice je derivácia pravdepodobnosti stavu a pravá strana obsahuje toľko výrazov, koľko je šípok spojených s daným stavom. Ak šípka smeruje zo štátu, zodpovedajúci člen má znamienko mínus, ak do štátu - znamienko plus. Každý člen sa rovná súčinu hustoty pravdepodobnosti prechodu zodpovedajúceho danej šípke, vynásobenej pravdepodobnosťou stavu, z ktorého šípka pochádza.

4.3.2. Prúd udalostí. Najjednoduchší prúd a jeho vlastnosti

Keď uvažujeme o procesoch vyskytujúcich sa v systéme s diskrétnymi stavmi a spojitým časom, je často vhodné si tento proces predstaviť, ako keby k prechodu systému zo stavu do stavu došlo pod vplyvom niektorých prúdov udalostí. Prúd udalostí je sled homogénnych udalostí nasledujúcich po sebe v určitých, všeobecne povedané, náhodných časových okamihoch. (Tok hovorov v telefónnej ústredni; tok porúch (zlyhaní) počítača; tok nákladných vlakov prichádzajúcich na stanicu; tok návštevníkov; tok striel namierených na cieľ). Tok udalostí budeme reprezentovať ako postupnosť bodov na časovej osi ot... Poloha každého bodu na osi je náhodná. Prúd udalostí je tzv pravidelné ak udalosti nasledujú za sebou v presne stanovených intervaloch (v praxi sa vyskytujú zriedkavo). Uvažujme o špeciálnom type prúdov, preto uvádzame niekoľko definícií. 1. Prúd udalostí sa nazýva stacionárne , ak pravdepodobnosť určitého počtu udalostí pripadajúcich na časový úsek dĺžky závisí len od dĺžky úseku a nezávisí od toho, kde presne sa tento úsek na osi ot nachádza (homogenita v čase), potom pravdepodobnostné charakteristiky takéhoto úseku tok by sa nemal časom meniť. Konštantná je najmä takzvaná intenzita (alebo hustota) toku udalostí (priemerný počet udalostí za jednotku času).

2. Prúd udalostí sa nazýva tok bez následkov ak v prípade akýchkoľvek neprekrývajúcich sa časových úsekov počet udalostí pripadajúcich na jeden z nich nezávisí od toho, koľko udalostí pripadá na druhý (alebo iné, ak sa berú do úvahy viac ako dva úseky). Žiadny dôsledok v toku znamená, že udalosti, ktoré tvoria tok, sa objavujú v po sebe nasledujúcich časoch nezávisle od seba.

3. Prúd udalostí sa nazýva obyčajný ak je pravdepodobnosť, že dve alebo viac udalostí zasiahne elementárny úsek, zanedbateľná v porovnaní s pravdepodobnosťou zasiahnutia jednej udalosti (udalosti v prúde prichádzajú jedna po druhej, nie v pároch, trojiciach atď.).

Prúd udalostí, ktorý má všetky tri vlastnosti, sa nazýva najjednoduchšie (alebo stacionárny Poisson). Nestacionárny Poissonov tok má len vlastnosti 2 a 3. Poissonov tok dejov (stacionárny aj nestacionárny) úzko súvisí so známym Poissonovým rozdelením. Konkrétne, počet udalostí v toku spadajúcich do ľubovoľného miesta je rozdelený podľa Poissonovho zákona. Poďme si to vysvetliť podrobnejšie.

Zvážte na osi Ot, kde je pozorovaný prúd udalostí, určitý segment dĺžky t, počnúc momentom t0 a momentálne končí t0 + t. Nie je ťažké dokázať (dôkaz je uvedený vo všetkých kurzoch teórie pravdepodobnosti), že pravdepodobnosť, že presne m udalostí zasiahne túto oblasť, je vyjadrená vzorcom:

(m=0,1…),

kde a Je priemerný počet udalostí na segment t.

Pre stacionárny (najjednoduchší) Poissonov tok a =lt, teda nezávisí od toho, kde na osi ot berie sa oddiel t. Pre nestacionárny Poissonov tok množstvo a vyjadrené vzorcom

a preto závisí od toho, v akom bode t0 začína časť t.

Zvážte na osi ot najjednoduchší prúd udalostí s konštantnou intenzitou l. Nás bude zaujímať časový interval T medzi udalosťami v tomto streame. Nech l je intenzita (priemerný počet udalostí za 1 čas) toku. Hustota distribúcie f(t) náhodná premenná T(časový interval medzi susednými udalosťami v streame) f(t)= le- lt (t> 0) ... Distribučný zákon s takouto hustotou sa nazýva exponenciálny (exponenciálny). Nájdite číselné hodnoty náhodnej premennej T: matematické očakávanie (priemer) a rozptyl vľavo ">

Časový interval T medzi susednými dejmi v najjednoduchšom toku sa rozdeľuje podľa exponenciálneho zákona; jeho stredná hodnota a smerodajná odchýlka sú rovnaké, kde l je prietok. Pre takýto tok je pravdepodobnosť výskytu práve jedného toku na elementárnom časovom intervale ∆t vyjadrená ako. Túto pravdepodobnosť budeme nazývať „prvok pravdepodobnosti výskytu udalosti“.

Pre nestacionárny Poissonov tok už distribučný zákon intervalu T nebude exponenciálny. Forma tohto zákona bude závisieť po prvé od toho, kde na osi ot prvá z udalostí sa nachádza a po druhé na type závislosti. Ak sa však mení relatívne pomaly a jeho zmena v čase medzi dvoma udalosťami je malá, potom zákon rozdelenia časového intervalu medzi udalosťami možno považovať približne za orientačný, za predpokladu, že v tomto vzorci sa hodnota rovná priemernej hodnote v oblasti. to nás zaujíma.

4.3.3. Streamy udalostí Poisson a

súvislé markovove reťazce

Zvážte nejaký fyzický systém S = (S1,S2,...Sn), ktorý prechádza zo stavu do stavu pod vplyvom nejakých náhodných udalostí (hovory, odmietnutia, výstrely). Predstavme si to tak, že udalosti, ktoré prenášajú systém zo štátu do štátu, sú akési prúdy udalostí.

Nechajte systém S práve teraz t je v stave Si a môže ísť z nej do stavu Sj ovplyvnený nejakým Poissonovým prúdom udalostí s intenzitou lij: akonáhle sa objaví prvá udalosť tohto streamu, systém sa okamžite prepne z Si v Sj..gif "width =" 582 "height =" 290 src = ">

4.3.4. Obmedzujúce pravdepodobnosti stavov

Nech existuje fyzický systém S = (S1,S2,...Sn), v ktorom prebieha Markovov náhodný proces so spojitým časom (spojitý Markovov reťazec). Predstierajme to lij =konšt, to znamená, že všetky prúdy udalostí sú najjednoduchšie (stacionárny Poisson). Zapísaním systému Kolmogorovových diferenciálnych rovníc pre pravdepodobnosti stavov a integráciou týchto rovníc pre dané počiatočné podmienky dostaneme p1 (t),p2 (t), ...pn (t), pre akékoľvek t... Položme si ďalšiu otázku, čo sa stane so systémom S pri t® ¥. Budú funkcie pi (t) snažiť sa o nejaké limity? Tieto limity, ak existujú, sa nazývajú limitujúce pravdepodobnosti štátov. Je možné dokázať vetu: ak je počet stavov S konečný a z každého stavu je možné prejsť (v jednom alebo druhom počte krokov) k sebe, potom limitné pravdepodobnosti stavov existujú a nezávisia o počiatočnom stave systému. Predpokladajme, že uvedená podmienka je splnená a existujú obmedzujúce pravdepodobnosti (i = 1,2, ...n),.


Teda pre t® ¥ v systéme S je stanovený určitý limitujúci stacionárny režim. Význam tejto pravdepodobnosti: nie je to nič iné ako priemerný relatívny čas, počas ktorého je systém v danom stave. Kalkulovať pi v sústave Kolmogorovových rovníc popisujúcich pravdepodobnosti stavov musia byť všetky ľavé strany (deriváty) nastavené na 0. Sústavu výsledných lineárnych algebraických rovníc je potrebné riešiť spolu s rovnicou .

4.3.5. Schéma smrti a reprodukcie

Vieme, že ak máme k dispozícii označený stavový graf, môžeme jednoducho písať Kolmogorovove rovnice pre pravdepodobnosti stavu, ako aj písať a riešiť algebraické rovnice pre konečné pravdepodobnosti. V niektorých prípadoch je možné vyriešiť posledné rovnice vopred, v podobe písmen. Dá sa to urobiť najmä vtedy, ak je grafom stavu systému takzvaná „schéma smrti a reprodukcie“.

https://pandia.ru/text/78/060/images/image044_6.gif "width =" 73 "height =" 45 src = "> (4.4)

Z druhého, berúc do úvahy (4.4), dostaneme:

https://pandia.ru/text/78/060/images/image046_5.gif "width =" 116 "height =" 45 src = "> (4.6)

a vo všeobecnosti pre akékoľvek k (od 1 do N):

https://pandia.ru/text/78/060/images/image048_4.gif "width =" 267 "height =" 48 src = ">

z toho dostaneme výraz pre p0.

(4. 8)

(zátvorku sme zvýšili na mocninu -1, aby sme nepísali dvojposchodové zlomky). Všetky ostatné pravdepodobnosti sú vyjadrené v p0 (pozri vzorce (4.4) - (4.7)). Všimnite si, že koeficienty p0 v každom z nich nie sú ničím iným ako postupnými členmi radu po jednotke vo vzorci (4.8). Preto pri výpočte p0 sme už našli všetky tieto koeficienty.

Získané vzorce sú veľmi užitočné pri riešení najjednoduchších problémov teórie radenia.

Spomedzi rôznych typov systémov, ktoré nás obklopujú: technické, informačné, sociálne atď., nás budú zaujímať systémy, ktoré vznikajú v procesoch služieb, v procesoch služieb. V aplikovanej matematike sa nazývajú tzv. systémy radenia (QS). Matematický aparát na štúdium týchto systémov je už dlho vyvinutý a umožňuje zostaviť modely takýchto systémov na popis servisných procesov a na výpočet hlavných charakteristík fungovania systému s cieľom určiť jeho účinnosť. Tento aparát je založený na teórii pravdepodobnosti a teórii stochastických procesov. Pozrime sa na hlavné myšlienky a koncepty.

2.1. Prvky teórie Markovových stochastických procesov využívaných v modelovaní systémov

Zavolá sa funkcia X (t). náhodný ak je jeho hodnota pre ľubovoľný argument t náhodná premenná.

Zavolá sa náhodná funkcia X (t), ktorej argumentom je čas náhodný proces.

Markovove procesy sú špeciálnym typom náhodných procesov. Osobitné miesto Markovových procesov medzi ostatnými triedami náhodných procesov je spôsobené nasledujúcimi okolnosťami: pre Markovove procesy je matematický aparát dobre vyvinutý, čo umožňuje riešiť mnohé praktické problémy; pomocou Markovových procesov je možné opísať ( presne alebo približne) správanie pomerne zložitých systémov.

Definícia. Náhodný proces, ktorý sa vyskytuje v systéme S, volal Markov, alebo proces bez následného účinku, ak má nasledujúcu vlastnosť: pre ľubovoľný časový okamih t 0, pravdepodobnosť akéhokoľvek stavu systému v budúcnosti závisí iba od jeho stavu v súčasnosti a nezávisí od toho, kedy a ako systém S sa dostali do tohto stavu.

Klasifikácia Markovových procesov. Klasifikácia Markovových náhodných procesov sa vykonáva v závislosti od kontinuity alebo diskrétnosti množiny hodnôt funkcie X (t) a parametra t.

Existujú nasledujúce hlavné typy Markovových náhodných procesov:

    s diskrétnymi stavmi a diskrétnym časom (Markovov reťazec);

    so spojitými stavmi a diskrétnym časom (Markovove sekvencie);

    s diskrétnymi stavmi a spojitým časom (spojitý Markovov reťazec);

    so spojitým stavom a spojitým časom.

Budeme brať do úvahy iba Markovove procesy s diskrétnymi stavmi S 1 , S 2 , ..., S n .

Stavový graf. Markovove procesy s diskrétnymi stavmi je vhodné ilustrovať pomocou takzvaného stavového grafu ( ryža. 2.1), kde krúžky označujú stavy S 1, S 2 , ... systémov S, a šípky - možné prechody zo stavu do stavu.

Ryža. 2.1. Príklad grafu stavu systémuS

Na grafe sú vyznačené iba priame prechody a nie prechody cez iné stavy. Možné oneskorenia v predchádzajúcom stave sú znázornené ako "slučka", teda šípka smerujúca z daného stavu k nemu. Počet stavov systému môže byť konečný alebo nekonečný (nespočítateľný).

MARKOVSKÝ PROCES

Proces bez následkov, - náhodný proces, ktorého vývoj po akejkoľvek danej hodnote časového parametra t nezávisí od vývoja, ktorý predchádzal t, za predpokladu, že hodnota procesu v tomto je pevná (v skratke: „budúcnosť“ a „minulosť“ procesu na sebe nezávisia pre známu „súčasnosť“).

Definujúca vlastnosť M. p. sa považuje za tzv. Markov; prvýkrát ho sformuloval A.A. Markov. Už v práci L. Bacheliera však možno vidieť pokus interpretovať Browniana ako M. p., Pokus, ktorý bol podložený po výskume N. Wienera (N. Wiener, 1923). A. N. Kolmogorov položil základy všeobecnej teórie metrík spojitého času.

Markov majetok. Existujú v podstate rôzne definície M. položky Jedna z najrozšírenejších je nasledujúca. Nech je náhodný proces daný na priestor pravdepodobnosti s hodnotami z merateľného priestoru, kde T - podmnožina reálnej osi Nech N t(resp N t existuje s-algebra v generované množstvami X (s). kde Inými slovami, N t(resp N t) je súbor udalostí spojených s vývojom procesu až do času t (počnúc od t) . Proces X (t). Markovov proces, ak je (takmer určite) Markovova vlastnosť uspokojená pre všetkých:

alebo, čo je to isté, ak existuje

M. p., pre ktoré je T obsiahnuté v množine prirodzených čísel, sa nazýva. Markov reťaz(posledný termín sa však najčastejšie spája s prípadom nanajvýš spočítateľného E) . Ak je T interval v a Ene je viac ako spočítateľné, volá sa M. p. Markov reťazec so spojitým časom. Príklady metrík spojitého času poskytujú difúzne procesy a procesy s nezávislými prírastkami, vrátane Poissonových a Wienerových procesov.

Ďalej budeme pre istotu hovoriť len o prípade Vzorce (1) a (2) dávajú jasný výklad princípu nezávislosti „minulosti“ a „budúcnosti“ so známou „súčasnosťou“, ale definícia matematického vzorca na nich založená sa ukázala ako nedostatočne flexibilná v r. tie početné situácie, keď je potrebné zvážiť nie jednu, ale súbor podmienok typu (1) alebo (2), ktoré zodpovedajú rôznym, aj keď určitým spôsobom dohodnutým opatreniam. Takéto úvahy viedli k prijatiu nasledujúcej definície: (pozri,).

Nech je dané:

a) kde s-algebra obsahuje všetky jednobodové množiny v E;

b) merateľné vybavené rodinou s-algebier takých, že ak

v) (" ") x t = xt(w) , definovanie pre akékoľvek merateľné mapovanie

d) pre každú a mieru pravdepodobnosti na s-algebre takú, že funkcia merateľné relatívne ak a

Súprava je tzv. (nekoncový) Markov proces uvedený v ak -takmer istý

nech sú akékoľvek Tu je priestor elementárnych udalostí, je fázový priestor alebo priestor stavov, P ( s, x, t, B)- prechodná funkcia alebo pravdepodobnosť prechodu procesu X (t) . Ak je En obdarený topológiou a je nasadená kolekcia Borel E, vtedy sa zvykne povedať, že M. p. sa dáva v E. Definícia M.p. zvyčajne zahŕňa požiadavku, že a potom sa interpretuje ako pravdepodobnosť, za predpokladu, že x s = x.

Vzniká otázka: je nejaká Markovova prechodová funkcia P ( s, x;t, V), danú v merateľnom priestore možno považovať za prechodovú funkciu určitého M. p. Odpoveď je kladná, ak napríklad E je oddeliteľný lokálne kompaktný priestor a je súborom Borelových množín v E. Navyše, nech E -úplná metrika priestor a nechať

kamkoľvek
a je doplnkom e-susedstva bodu X. Potom možno predpokladať, že zodpovedajúci lineárny priestor je súvislý vpravo a má limity vľavo (to znamená, že jeho trajektórie je možné zvoliť ako také). Existencia súvislého lineárneho priestoru je zabezpečená podmienkou pre (pozri,). V teórii metafor sa hlavná pozornosť venuje procesom, ktoré sú homogénne (v čase). Zodpovedajúca definícia predpokladá daný systém predmety a) - d) s tým rozdielom, že pre parametre s a u, ktoré sa objavili v jeho popise, je teraz povolená len hodnota 0. Zjednodušený je aj zápis:

Ďalej sa predpokladá homogenita priestoru W, t.j. vyžaduje sa, aby pre ľubovoľný tam bolo také, že (w) pre Vďaka tomu na s-algebre N, najmenšia zo s-algebier vo W obsahujúca akúkoľvek udalosť tvaru operátori časového posunu q t, ktoré zachovávajú operácie zjednotenia, kríženia a odčítania množín a pre ktoré

Súprava je tzv. (nekoncový) homogénny Markov proces definovaný v if -takmer istý

pre prechodovú funkciu procesu X (t). t, x, B); okrem toho, ak neexistujú žiadne špeciálne výhrady, navyše vyžadujú, aby bolo užitočné mať na pamäti, že pri kontrole (4) stačí brať do úvahy iba súbory formulára, kde a to v (4) vždy F t môže byť nahradená s-algebrou rovnajúcou sa priesečníku dokončení F t všetkými možnými mierami. Často je pravdepodobnostná miera m ("počiatočná") pevná a uvažuje sa o Markovovej náhodnej funkcii kde je miera daná rovnosťou

Volal sa M. n. progresívne merateľné, ak pre každé t > 0 funkcia indukuje merateľné v tom, kde je s-algebra

Borel podskupiny v . Pravé spojité lineárne priestory sú progresívne merateľné. Existuje spôsob, ako zredukovať nehomogénny prípad na homogénny (pozri), a ďalej budeme hovoriť o homogénnom M. p.

Prísne. Nech sa M. p. uvádza v merateľnom priestore.

Funkcia sa volá. Markov moment, ak pre všetkých V tomto prípade sú označované ako rodina F t if at (najčastejšie sa F t interpretuje ako súbor udalostí spojených s vývojom X (t). Do momentu t). Pre veriť

Postupne merateľný M. p. Xnaz. prísne Markov proces (s.m.p.) ak pre akýkoľvek Markov moment m a všetky a pomer

(prísne markovovská vlastnosť) platí takmer s istotou na množine W t. Pri kontrole (5) stačí zvážiť iba množiny formulára kde v tomto prípade je bodkočiarkový priestor napríklad akýkoľvek pravý súvislý Fellerov priestor v topologickom priestore. priestor E. Volal sa M. n. Feller Markov proces ako funkcia

je spojitá vždy, keď f je spojitá a ohraničená.

V triede s. n sú pridelené určité podtriedy. Nechajte Markov P ( t, x, B), uvedené v metrickom lokálne kompaktnom priestore E, stochasticky spojité:

pre akékoľvek okolie U každého bodu Potom, ak operátori vezmú do seba spojité funkcie, ktoré miznú v nekonečne, potom funkcie P ( t, x, B) odpovedá norma M. p. X, t.j. súvislý vpravo s. m., pre ktoré

a - takmer určite na scéne a - neklesajúce pmarkov momenty s pribúdajúcimi.

Prerušenie Markovovho procesu.Často fyzické. Systémy je vhodné popísať pomocou neukončujúceho lineárneho priestoru, ale len na časovom intervale náhodnej dĺžky. Navyše aj jednoduché transformácie lineárneho priestoru môžu viesť k procesu s trajektóriami danými na náhodnom intervale (pozri ods. Funkčné z Markovského procesu). Vedení týmito úvahami zavádzajú pojem ukončujúceho M. p.

Nech je homogénny lineárny priestor vo fázovom priestore s prechodovou funkciou a nech je tam bod a funkcia také, že pri a inak (ak neexistujú žiadne špeciálne výhrady, zvážte). Nová trajektória x t w) sa uvádza len pre) prostredníctvom rovnosti a F t definované ako v súprave

Nastavte kde volal ukončujúci Markov proces (o.m.p.) získaný z ukončením (alebo zabitím) v čase z. Množstvo z sa nazýva. moment zlomu alebo čas života, oh. m.s. Fázový priestor nového procesu je tam, kde je stopa s-algebry E. Prechodná funkcia o. t.t. je zúženie na množinu Proces X (t). striktne Markovov proces alebo štandardný Markovov proces, ak zodpovedajúcu vlastnosť má neukončený M. p., možno považovať za a. m.od momentu prestávky.Heterogénne o. m., sa určuje podobným spôsobom. M.

Markov procesy a. Matematické systémy typu Brownovho pohybu sú úzko späté s diferenciálnymi rovnicami paraboliky. typu. Prechodné p (s, x, t, y difúzneho procesu spĺňa za určitých dodatočných predpokladov inverzné a priame diferenciálne Kolmogorovove rovnice:


Funkcia p ( s, x, t, y Pre rovnice (6) - (7) existuje Greenova funkcia a prvé známe metódy konštrukcie difúznych procesov boli založené na existencii teorémov pre túto funkciu pre diferenciálne rovnice (6) - (7). Pre časovo homogénny proces L ( s, x)= L(x).na hladkých funkciách sa zhoduje s charakteristikou. operátor M. p. (pozri. Poloskupina operátorov prechodu).

Matematické. očakávania rôznych funkcionalít od difúznych procesov slúžia ako riešenia zodpovedajúcich okrajových úloh pre diferenciálnu rovnicu (1). Nech je to matematické. očakávanie v miere Potom funkcia spĺňa pre s rovnica (6) a podmienka

Podobne aj funkcia

vyhovuje pre s rovnica

a podmienka a 2 ( T, x) = 0.

Nech je to okamih prvého dosiahnutia hranice dD oblasti trajektória procesu Potom za určitých podmienok funkcia

spĺňa rovnicu

a nadobúda hodnoty cp na súprave

Riešenie 1. okrajovej úlohy pre všeobecnú lineárnu paraboliku. Rovnice 2. rádu


za pomerne všeobecných predpokladov možno zapísať vo forme


V prípade, že L a funkcie s, f nezávisia od s, zobrazenie podobné (9) je možné aj pre riešenie lineárnej eliptiky. rovnice. Presnejšie, funkcia


za určitých predpokladov existujú problémy

V prípade, že operátor L degeneruje (del b ( s, x) = 0 ).alebo dD nie sú dostatočne „dobré“, hraničné hodnoty nemusia byť akceptované funkciami (9), (10) v samostatných bodoch alebo na celých súboroch. Koncept pravidelného hraničného bodu pre operátora L má pravdepodobnostný výklad. V pravidelných bodoch hranice sa hraničné hodnoty dosahujú funkciami (9), (10). Riešenie úloh (8), (11) umožňuje študovať vlastnosti zodpovedajúcich difúznych procesov a ich funkcionality.

Existujú metódy na zostavenie lineárnej rovnice, ktoré nie sú založené napríklad na konštrukcii riešení rovníc (6), (7). metóda stochastické diferenciálne rovnice, absolútne nepretržitá zmena miery atď. Táto okolnosť spolu so vzorcami (9), (10) umožňuje pravdepodobnostným spôsobom zostrojiť a študovať vlastnosti okrajových úloh pre rovnicu (8), ako aj vlastnosti riešenia. zodpovedajúcej eliptiky. rovnice.

Keďže riešenie stochastickej diferenciálnej rovnice je necitlivé na degeneráciu matice b ( s, x), potom pravdepodobnostné metódy boli použité na konštrukciu riešení degenerovaných eliptických a parabolických diferenciálnych rovníc. Rozšírenie princípu priemerovania N.M.Krylova a N.N.Bogolyubova na stochastické diferenciálne rovnice umožnilo pomocou (9) získať zodpovedajúce výsledky pre eliptické a parabolické diferenciálne rovnice. Niektoré zložité problémy štúdia vlastností riešení rovníc tohto typu s malým parametrom pri najvyššej derivácii sa ukázali byť možné vyriešiť pomocou pravdepodobnostných úvah. Riešenie 2. okrajovej úlohy pre rovnicu (6) má aj pravdepodobnostný význam. Výrok okrajových úloh pre neohraničenú oblasť úzko súvisí s opakovaním príslušného difúzneho procesu.

V prípade časovo homogénneho procesu (L nezávisí od s) sa kladné riešenie rovnice až po multiplikatívnu konštantu za určitých predpokladov zhoduje so stacionárnou hustotou rozloženia M. p. Pravdepodobnostné úvahy. sa tiež ukázali ako užitočné pri zvažovaní problémov s okrajovými hodnotami pre nelineárne parabolické. rovnice. R. 3. Chašminský.

Lit.: Markov A. A., "Izv. Fiz.-math. Ob-va Kazan un-ta", 1906, v. 15, č. 4, s. 135-56; B a s h e lier L., "Ann. Scient. Ecole norm, super.", 1900, v. 17, str. 21-86; Kolmogorov AN, "Math. Ann.", 1931, Bd 104, S. 415-458; ruský za .- "Uspekhi Matem. Nauk", 1938, c. 5, str. 5-41; Ch zhun Kai-lai, Homogénne Markovove reťazce, prel. z angl., M., 1964; P e 1 1 er W., "Ann. Math.", 1954, v. 60, s. 417-36; Dynkin E.B., Yushkevich A.A., "Theory Probab. And Its Application", 1956, zv. 1, str. 149-55; X ant J.-A., Markovské procesy a potenciály, prekl. z angl., M., 1962; Dellasher a K., Kapacity a náhodné procesy, prekl. s French., M., 1975; D y N to a E. V. N., Základy teórie Markovových procesov, M., 1959; jeho, Markov procesy, M., 1963; G a xm a I. I., S do asi r asi x asi d A. V., Teória náhodných procesov, t. 2, M., 1973; Freidlin M.I., v knihe: Výsledky vedy. Teória pravdepodobnosti je dôležitý špeciálny druh náhodných procesov. Príkladom Markovovho procesu je rozpad rádioaktívnej látky, kde pravdepodobnosť rozpadu daného atómu v krátkom časovom období nezávisí od priebehu procesu v predchádzajúcom období. ... ... Veľký encyklopedický slovník

Markovov proces je náhodný proces, ktorého vývoj po akejkoľvek danej hodnote časového parametra nezávisí od predchádzajúceho vývoja za predpokladu, že hodnota procesu je v tomto momente pevná ("budúcnosť" procesu nie je . ... ... Wikipedia

Markov proces- 36. Markov proces Poznámky: 1. Podmienená hustota pravdepodobnosti sa nazýva hustota pravdepodobnosti prechodu zo stavu xn 1 v čase tn 1 do stavu xn v čase tn. Prostredníctvom neho hustoty pravdepodobnosti ľubovoľného ... ... Slovník-príručka termínov normatívnej a technickej dokumentácie

Markov proces- Markovo procesas statusas T sritis automatika atitikmenys: angl. Markovprocess vok. Markovprozeß, m rus. Markov proces, m; Markov proces, m pranc. processus markovien, m ... Automatikos terminų žodynas

Markov proces- Markovo vyksmas statusas T sritis fizika atitikmenys: angl. Markov proces; Markovský proces vok. Markow Prozeß, m; Markowscher Prozeß, m rus. Markov proces, m; Markov proces, m pranc. processus de Markoff, m; processus marcovien, m;…… Fizikos terminų žodynas

Dôležitý špeciálny druh náhodných procesov. Príkladom Markovovho procesu je rozpad rádioaktívnej látky, kde pravdepodobnosť rozpadu daného atómu v krátkom časovom období nezávisí od priebehu procesu v predchádzajúcom období. ... ... encyklopedický slovník

Významný špeciálny typ stochastických procesov (viď. Stochastický proces), ktoré majú veľký význam pri aplikáciách teórie pravdepodobnosti v rôznych odvetviach prírodných vied a techniky. Rozpad rádioaktívnej látky môže slúžiť ako príklad magnetického poľa. ... ... Veľká sovietska encyklopédia

Vynikajúci objav v oblasti matematiky, ktorý v roku 1906 urobil ruský vedec A.A. Markov.

Návrat

×
Pripojte sa ku komunite koon.ru!
V kontakte s:
Už som sa prihlásil do komunity "koon.ru"