ВИПАДКОВІ ПРОЦЕСИ. МАРКОВСЬКІ ВИПАДКОВІ ПРОЦЕСИ
Нехай є деяка фізична система S, стан якої змінюється з часом (наприклад S: обчислювальна машина, залізничний вузол, супермаркет і т. і.). Якщо стан системи S змінюється в часі випадково, заздалегідь непередбачено, то говорять, що в системі S протікає випадковий процес.
Конкретне протікання кожного з таких процесів залежить від ряду випадкових, заздалегідь непередбачених чинників, таких як:
- надходження замовлень на ЕОМ, вид замовлень;
- інтенсивності прямування поїздів, вантажних і пасажирських, дотримання графіка прямування і т.д.;
- кількості покупців у супермаркеті, часу їхнього обслуговування.
Випадковий процес у системі S називається марковським або “процесом без післядії”, якщо він має таку властивість: для кожного моменту часу t0 Ймовірність будь-якого стану системи в майбутньому (при t > t0) залежить тільки від її стану в дійсному (при t = t0) і не залежить від того, коли і яким чином система прийшла в цей стан (тобто від розвитку процесу в минулому).
Приклад 1. Кожний технічний прилад характеризується ступенем зношеності S. Тоді, принаймні приблизно, можна вважати, що характеристики роботи приладу (частота відмов, потреба в ремонті) залежать від стана приладу в дійсний момент і не залежать від того, коли і як пристрій досяг свого теперішнього стану. Тому процес S можна вважати марковським.
У залежності від того, у які моменти часу система S змінює свої стани, випадкові процеси діляться на два класи.
В.П. називається процесом із дискретними станами, якщо можливі стани системи: S1, S2, S3, ... можна перерахувати (перенумерувати) один за іншим, а самий процес полягає в тому, що час від часу система S стрибком (миттєво) перескакує з одного стана в інший.
Приклад 2. Технічний пристрій складається з двох вузлів: I і II. Тоді можливі чотири стани системи: S1 - I і II робить, 
 S2 - I, II; S3 - I, II; S4 - I, II.
В.П. називається процесом із безперервними станами, якщо із стану в стан відбувається плавний перехід.
Наприклад, процес зміни напруги в електричній мережі. Ми будемо розглядати тільки В.П.С. дискретними станами.
При аналізі таких процесів будемо користуватися геометричною схемою - так званим графом станів. Граф станів зображує можливі стани системи і можливі переходи із стана в стан, що позначаються стрілками.
 Зауваження. Якщо система переходить
 із S1 у S3 через S2, то S1   S2; S2   S3; але не S1   S3
 Для попереднього прикладу граф станів на мал.1
  
 Якщо ж у попередньому прикладі вузол , що відмовив, негайно починає відновлятися, то граф станів має вигляд мал.2
  |    
 Мал. 1.
  
  
 Мал. 2.
  |  
 S2; S2 
 Мал. 1.
  
  
 Мал. 2.