Теорія ймовірностей та математична статистика

I форма нерівності Чебишова. Якщо випадкова величина Х може набувати лише невід'ємні значення (X≥0) і має скінченне математичне сподівання, то P{X≥1} ≤ E(X).

Доведення. Нехай Х – дискретна випадкова величина, яка набуває значення x_i≥0 з імовірністю p_i (i=1,2,...), тоді згідно з аксіомою адитивності:

Для неперервної випадкової величини Х зі щільністю розподілу p(x) маємо:

Теорему доведено. II форма нерівності Чебишова. Якщо випадкова величина Х має скінченні математичне сподівання E(X) та дисперсію D(X), то для будь- якого числа ε>0 виконується нерівність

і, крім цього,

Доведення. Для будь-якого числа ε>0 розглянемо випадкову величину

Вона може набувати лише невід'ємних значень, тому

тобто

Але ж нерівності

/

еквівалентні, тому нерівність (1) доведено.

Оскільки подія {|X-E(X)|<ε} протилежна до події {|X-E(X)|≥ε}, то

/

Теорему доведено.

Збіжність послідовності випадкових величин за ймовірністю

Нехай задана послідовність випадкових величин X₁,X₂,...,X_n,...

Кажуть, що ця послідовність збігається за ймовірністю до числа а, якщо за необмеженого збільшення n імовірність події {| X_n - a |< ε}, (де ε>0 − як завгодно мале фіксоване число) наближається до одиниці, тобто

Збіжність за ймовірністю будемо позначати так:

Закон великих чисел Суть закону великих чисел полягає в тому, що в разі дуже великої кількості випадкових явищ усереднений їхній результат практично перестає бути випадковим і може бути передбачений із великою часткою вірогідності.

Із деякими окремими випадками закону великих чисел ми вже стикалися раніше. Зокрема, це стосується стійкості відносної частоти події за необмеженого збільшення кількості випробувань.

Інший вид статистичної закономірності – стійкість середнього значення. Логічною основою для неї є такий хід міркувань. Під час кожного окремого випробування його результат, що характеризується деяким показником, під впливом випадкових факторів буде відхилятися від деякого сталого значення в той чи інший бік. Тому середнє значення показника за достатньо великої кількості випробувань унаслідок взаємного погашення індивідуальних відхилень стає стійким, наближаючись до деякого сталого числа, тобто практично не залежить від випадку.

Отже, закон великих чисел приводить до встановлення детермінованих закономірностей у поведінці відносної частоти, середнього значення або інших показників, що характеризують результат достатньо великої кількості випробувань в умовах непередбачуваності кожної спроби окремо.

Теорема 1 (теорема Маркова, закон великих чисел). Якщо випадкові величини X₁,X₂,...,X_n,... попарно незалежні, мають скінченні математичні сподівання і для їхніх дисперсій виконується рівність

то для будь-якого числа ε>0 виконується граничне співвідношення

яке означає, що послідовність середніх арифметичних цих випадкових величин збігається за ймовірністю до середнього арифметичного їхніх математичних сподівань.

Доведення. Покладемо

Твердження теореми рівносильне тому, що (ймовірність протилежної події).

Оскільки випадкові величини X₁,X₂,...,X_n,... попарно незалежні, то дисперсія їхньої суми рівна сумі дисперсій, тому

згідно зі співвідношенням (2). За нерівністю Чебишова (1)

Отже, ймовірність протилежної події при n → ∞ наближається до одиниці, тобто виконується граничне співвідношення (3).

Теорема 2 (теорема Чебишова). Якщо випадкові величини X₁,X₂,...,X_n,... попарно незалежні, мають скінченні математичні сподівання та обмежені в сукупності дисперсії

D(X_k)≤C, k = 1,2,..., (4)

де C = const > 0, то для будь-якого числа ε>0 виконується граничне співвідношення (3).

Доведення. Використовуючи нерівності (4), одержимо:

Отже, виконується умова (2), тобто виконуються всі умові теореми Маркова, тому виконується граничне співвідношення (3).

Суть теорем Чебишова і Маркова полягає в тому, що хоч окремі випадкові величини X_p (i=1,2,...) можуть набувати значень, досить віддалених від своїх математичних сподівань, зате середнє арифметичне великої кількості цих випадкових величин з імовірністю, близькою до одиниці, набуває значення, яке близьке до середнього арифметичного їхніх математичних сподівань. Тобто середнє арифметичне великої кількості незалежних випадкових величин втрачає випадковий характер і має властивість стійкості. Наприклад, індивідуальні ціни окремих товаровиробників на той самий товар можуть значно відрізнятися від його вартості, але середня суспільна ціна наближається до вартості товару.

Теорема 3. Якщо випадкові величини X₁,X₂,...,X_n,... однаково розподілені, попарно незалежні, мають скінченні математичні сподівання E(X_k)=a та дисперсії D(X_k)=C, k = 1,2,...,де C = const > 0, то для будь- якого числа ε>0 виконується граничне співвідношення:

тобто середнє арифметичне випадкових величин збігається за ймовірністю до математичного сподівання а.

Доведення. З того, що D(X_k)=C, k = 1,2,..., випливає, що виконуються умови теореми 2, тому виконується граничне співвідношення (3), в якому

Теорема 4 (теорема Бернуллі про стійкість відносних частот). Якщо в кожному з серії незалежних випробувань випадкова подія настає з однією і тою самою ймовірністю р, то за необмеженого зростання кількості випробувань відносна частота появи цієї події збігається за ймовірністю до її ймовірності р, тобто для будь-якого наперед заданого числа ε>0 виконується граничне співвідношення

де µ_n - кількість появ події А в n випробуваннях.

Доведення. Через X_k позначимо кількість появ події А у випробуванні за номером k, тоді випадкові величини X₁,X₂,...,X_n,... попарно незалежні і

Отже, виконуються умови теореми 3 і з граничного співвідношення (5) випливає (6).

Поняття про центральну граничну теорему

Центральна гранична теорема втановлює умови, за яких розподіл суми випадкових величин наближається до нормального закону.

Нехай µ_n - кількість появ події А в n незалежних випробуваннях, в кожному з яких P(A) = p. Згідно з інтегральною теоремою Муавра-Лапласа

для будь-яких а, b (−∞≤a≤b≤∞). Покладемо a=−∞, b=x, тоді

де F(x) − функція розподілу випадкової величини Х, щільність розподілу ймовірностей якої

Граничне співвідношення (7) означає, що функції розподілу випадкових величин

за необмеженого зростання n наближаються до функції розподілу F(x) нормального закону з параметрами a=0, σ=1.

Надамо співвідношенню (7) іншу форму. Для цього позначимо через X_k кількість появ події А у випробуванні за номером k, тоді випадкові величини X₁,X₂,...,X_n,... незалежні,

і твердження, отримане з (7), можна сформулювати так: якщо кожна з незалежних випадкових величин X₁,X₂,...,X_n,... може набувати лише два значення 1 і 0 з відповідними ймовірностями р і q = 1 - p (0 < p < 1), то при n → ∞ функція розподілу випадкової величини

для будь-якого дійсного числа х прямує до функції розподілу нормального закону з параметрами a=0, σ=1:

О.М.Ляпунов отримав твердження, яке виражається граничним співвідношенням (9), для послідовності випадкових величин, на які накладаються слабші умови, ніж для випадкових величин X₁,X₂,...,X_n,... зі схеми Бернуллі.

Теорема Ляпунова (центральна гранична теорема). Нехай X₁,X₂,...,X_n,... - послідовність незалежних випадкових величин зі скінченними математичними сподіваннями і дисперсіями. Якщо виконана умова

то для будь-якого дійсного числа х для послідовності випадкових вепличин (8) виконується гранична рівність (9). Суть умови (10) полягає в тому, що кожна з випадкових величин X₁,X₂,...,X_n,... має на випадкову величину, яка є їхньою сумою, незначний вплив.

У випадку, коли випадкові величини X₁,X₂,...,X_n,... − однаково розподілені, твердження центральної граничної теореми справедливе без умови (10).

Наслідок з центральної граничної теореми (теорема Ліндеберга-Леві).

Нехай X₁,X₂,...,X_n,... − послідовність незалежних випадкових величин зі скінченними математичними сподіваннями E(X_k)=a і дисперсіями D(X_k)= σ². Тоді для будь-якого дійсного числа х виконується гранична рівність

Отже, суть центральної граничної теореми полягає в тому, що розподіл випадкової величини, яка формується як результат дії багатьох незалежних випадкових факторів, кожний з яких має на неї незначний вплив, мало відрізняється від нормального закону. Оскільки ці умови на практиці досить часто виконуються, то нормальний закон розподілу є найпоширенішим із законів розподілу, які зустрічаються у випадкових явищах. Розглянемо лише деякі приклади застосування центральної граничної теореми.

Зокрема, в більшості випадків похибки, які виникають під час вимірювання фізичних величин, розподілені саме за нормальним законом, оскільки виникають як результат багатьох незалежних елементарних помилок, породжених різними причинами: станом приладу, атмосферними умовами, фізичним і психічним станом дослідника.

Якщо випадкова величина Х – відхилення курсу гривні від фіксованого за 1 рік, то

де X_k - відхилення курсу за k-ий день року. Тому, очевидно, випадкова величина Х матиме розподіл, близький до нормального.