Лекція 2. Аналіз ймовірнісних даних #

Огляд #

У Лекції 1 ми навчилися приписувати ймовірності подіям. Але дані експерименту — це зазвичай числа: зріст, час відгуку, кількість покупок, результат вимірювання. Щоб працювати з такими даними математично, потрібен місток між випадковими подіями та числами — його дає поняття випадкової величини.

Випадкова величина перетворює простір наслідків на числову вісь, а разом з нею приходять два види описів: закон розподілу (повна інформація про те, які значення й з якими шансами набуває величина) та числові характеристики (кілька чисел, що стисло описують розподіл, — насамперед математичне сподівання та дисперсія). У цьому розділі ми вводимо випадкові величини (дискретні й неперервні), функцію розподілу та щільність, означуємо сподівання й дисперсію, а потім оглядаємо найважливіші типові розподіли — Бернуллі, біноміальний, рівномірний і, головне, нормальний, — а також три «статистичні» розподіли ($\chi^2$, Стьюдента, Фішера), на яких триматимуться довірчі інтервали й перевірка гіпотез у Лекціях 3–4.

Практичний бік. Числові характеристики вибірки ви обчислюватимете «руками» й програмою в Лабораторній роботі 2.

2.1 Випадкові величини #

Означення (випадкова величина). Випадкова величина $X$ — це числова функція, що кожному наслідку випадкового експерименту ставить у відповідність дійсне число.

Розрізняють два основні типи:

• Дискретна — набуває скінченної або зліченної множини окремих значень (кількість дзвінків за годину, число бракованих деталей, оцінка на іспиті).
• Неперервна — набуває будь-якого значення з проміжку (час, вага, температура, похибка вимірювання).

Приклад 2.1. Кидаємо два гральні кубики; $X$ — сума очок. Це дискретна величина зі значеннями $2, 3, \dots, 12$. Натомість час очікування автобуса — неперервна величина зі значеннями з проміжку $[0, T]$.

2.2 Функція розподілу #

Єдиний спосіб описати будь-яку випадкову величину (і дискретну, і неперервну) — це функція розподілу.

Означення (функція розподілу). Функцією розподілу (інтегральною, англ. cumulative distribution function, CDF) величини $X$ називають

$$F(x) = P(X < x).$$

Властивості функції розподілу:

1. $0 \le F(x) \le 1$;
2. $F$ неспадна: якщо $x_1 < x_2$, то $F(x_1) \le F(x_2)$;
3. $\lim\limits_{x \to -\infty} F(x) = 0$, $\ \lim\limits_{x \to +\infty} F(x) = 1$;
4. ймовірність влучання в проміжок:

$$P(a \le X < b) = F(b) - F(a).$$

Остання властивість — робоча: ймовірність влучання величини в інтервал дорівнює приросту функції розподілу на цьому інтервалі.

2.3 Ряд розподілу дискретної величини #

Дискретну величину зручно задавати рядом розподілу — таблицею її значень та їхніх імовірностей:

де $p_i = P(X = x_i)$, усі $p_i \ge 0$ і виконано умову нормування

$$\sum_{i=1}^{n} p_i = 1.$$

Функція розподілу дискретної величини — східчаста: вона стрибає на $p_i$ у кожній точці $x_i$ і стала між ними.

Приклад 2.2. Кидаємо монету двічі; $X$ — число «орлів». Тоді

Перевірка: $0.25 + 0.5 + 0.25 = 1$.

2.4 Щільність розподілу неперервної величини #

Для неперервної величини $P(X = x) = 0$ для кожної окремої точки, тож ряд розподілу не годиться. Замість імовірностей окремих значень задають щільність.

Означення (щільність розподілу). Щільністю розподілу (англ. probability density function, PDF) неперервної величини називають похідну функції розподілу $f(x) = F'(x)$. Тоді

$$F(x) = \int_{-\infty}^{x} f(t)\,dt, \qquad P(a \le X \le b) = \int_{a}^{b} f(x)\,dx.$$

Властивості щільності:

1. $f(x) \ge 0$;
2. нормування: $\displaystyle\int_{-\infty}^{+\infty} f(x)\,dx = 1$ (уся площа під графіком щільності дорівнює одиниці).

Імовірність — це площа під графіком щільності над відповідним проміжком.

2.5 Математичне сподівання #

Числові характеристики стискають розподіл до кількох чисел. Перше з них — математичне сподівання — «центр» розподілу.

Означення (математичне сподівання).

$$M(X) = \sum_{i} x_i\, p_i \quad (\text{дискретна}), \qquad M(X) = \int_{-\infty}^{+\infty} x\, f(x)\,dx \quad (\text{неперервна}).$$

Властивості: $M(C) = C$; $\ M(CX) = C\,M(X)$; $\ M(X + Y) = M(X) + M(Y)$; для незалежних $X, Y$ — $M(XY) = M(X)\,M(Y)$.

Приклад 2.3. Для величини з Прикладу 2.2: $M(X) = 0(0.25) + 1(0.5) + 2(0.25) = 1$ — у середньому один «орел» на два кидки.

2.6 Дисперсія та середньоквадратичне відхилення #

Сподівання не показує розкиду: величини $\{-100, 100\}$ і $\{0, 0\}$ можуть мати однакове $M(X) = 0$. Розкид вимірює дисперсія.

Означення (дисперсія, СКВ).

$$D(X) = M\big[(X - M(X))^2\big] = M(X^2) - \big(M(X)\big)^2, \qquad \sigma(X) = \sqrt{D(X)}.$$

Друга формула ($M(X^2) - (M(X))^2$) — обчислювальна, нею користуються на практиці. СКВ $\sigma$ зручніше за дисперсію, бо має ті самі одиниці, що й $X$.

Властивості: $D(C) = 0$; $\ D(CX) = C^2 D(X)$; для незалежних $X, Y$ — $D(X + Y) = D(X) + D(Y)$.

Приклад 2.4. Для Прикладу 2.2: $M(X^2) = 0 + 1(0.5) + 4(0.25) = 1.5$, тож $D(X) = 1.5 - 1^2 = 0.5$ і $\sigma = \sqrt{0.5} \approx 0.707$.

2.7 Дискретні розподіли #

Розподіл Бернуллі #

Один експеримент із двома наслідками — «успіх» (імовірність $p$) і «невдача» ($q = 1 - p$). Величина $X \in \{0, 1\}$ (індикатор успіху):

$$P(X = 1) = p, \quad P(X = 0) = q, \qquad M(X) = p, \quad D(X) = pq.$$

Біноміальний розподіл #

Проводимо $n$ незалежних випробувань Бернуллі; $X$ — число успіхів. Тоді

$$P(X = k) = \binom{n}{k} p^{k} q^{\,n-k}, \quad k = 0, 1, \dots, n, \qquad M(X) = np, \quad D(X) = npq.$$

Приклад 2.5. Тест із $5$ питань, на кожне вгадують із $p = 0.2$. Імовірність вгадати рівно $2$: $P(X = 2) = \binom{5}{2}(0.2)^2(0.8)^3 = 10 \cdot 0.04 \cdot 0.512 = 0.2048$. У середньому вгадають $M(X) = 5 \cdot 0.2 = 1$ питання, $D(X) = 5 \cdot 0.2 \cdot 0.8 = 0.8$.

2.8 Неперервні розподіли #

Рівномірний розподіл #

Усі значення проміжку $[a, b]$ рівноможливі:

$$f(x) = \begin{cases} \dfrac{1}{b - a}, & a \le x \le b, \\ 0, & \text{інакше}, \end{cases} \qquad M(X) = \frac{a + b}{2}, \quad D(X) = \frac{(b - a)^2}{12}.$$

Приклад 2.6. Для $U[0, 10]$: $M(X) = 5$, $D(X) = 100/12 \approx 8.33$.

Нормальний розподіл #

Найважливіший розподіл статистики (до нього прямує сума багатьох незалежних доданків — центральна гранична теорема). Величина $X \sim N(\mu, \sigma^2)$ має щільність

$$f(x) = \frac{1}{\sigma\sqrt{2\pi}}\; e^{-\dfrac{(x - \mu)^2}{2\sigma^2}}, \qquad M(X) = \mu, \quad D(X) = \sigma^2.$$

Графік — симетрична «дзвоноподібна» крива з центром у $\mu$ і шириною, що задається $\sigma$. Стандартизація зводить будь-яку нормальну величину до стандартної $Z \sim N(0, 1)$:

$$Z = \frac{X - \mu}{\sigma}.$$

Правило трьох сигм. Для $X \sim N(\mu, \sigma^2)$

$$P(|X - \mu| < \sigma) \approx 0.6827, \quad P(|X - \mu| < 2\sigma) \approx 0.9545, \quad P(|X - \mu| < 3\sigma) \approx 0.9973.$$

Практично всі значення нормальної величини лежать у межах $\mu \pm 3\sigma$ — звідси й правило виявлення викидів «поза $3\sigma$».

Приклад 2.7. Зріст $X \sim N(175, 10^2)$ см. Частка людей, вищих за $195$ см: $Z = (195 - 175)/10 = 2$, тож $P(X > 195) = P(Z > 2) \approx 0.0228$ (≈ 2.3 %).

2.9 Статистичні розподіли #

Ці розподіли самі по собі рідко описують дані, але виникають з вибірок із нормальної сукупності й лежать в основі статистичного висновку (Лекції 3–5). Усі залежать від параметра кількість ступенів свободи.

• Розподіл $\chi^2$ (хі-квадрат) з $k$ ступенями свободи — розподіл суми квадратів $k$ незалежних стандартних нормальних величин: $\chi^2 = \sum_{i=1}^{k} Z_i^2$. Застосовують для висновків про дисперсію та в критеріях згоди (Лекція 5).
• Розподіл Стьюдента ($t$) з $k$ ступенями свободи — відношення $t = \dfrac{Z}{\sqrt{\chi^2_k / k}}$. Симетричний, «важчі хвости», ніж у $N(0,1)$; при великих $k$ прямує до $N(0,1)$. Застосовують для висновків про середнє при невідомій дисперсії (Лекції 3–4).
• Розподіл Фішера ($F$) зі ступенями свободи $k_1, k_2$ — відношення двох незалежних $\chi^2$, поділених на свої ступені свободи: $F = \dfrac{\chi^2_{k_1}/k_1}{\chi^2_{k_2}/k_2}$. Застосовують для порівняння двох дисперсій та в дисперсійному аналізі (Лекції 4–5).

Застосування в аналітиці даних #

• Модель даних. Обираючи розподіл (нормальний, біноміальний тощо), ми формулюємо припущення про механізм породження даних — основа будь-якого статистичного висновку.
• Виявлення викидів. Правило $3\sigma$ — простий детектор аномалій для приблизно нормальних даних.
• Підґрунтя висновку. $\chi^2$, $t$, $F$ безпосередньо дають критичні значення для довірчих інтервалів (Лекція 3) і перевірки гіпотез (Лекція 4).

Підсумок #

• Випадкова величина переводить наслідки в числа; буває дискретною та неперервною.
• Універсальний опис — функція розподілу $F(x) = P(X < x)$; для дискретних — ряд розподілу ($\sum p_i = 1$), для неперервних — щільність $f(x) = F'(x)$ ($\int f = 1$). Імовірність влучання в інтервал: $F(b) - F(a)$ або площа під $f$.
• Математичне сподівання $M(X)$ — центр; дисперсія $D(X) = M(X^2) - (M(X))^2$ і СКВ $\sigma = \sqrt{D(X)}$ — розкид.
• Типові розподіли: Бернуллі ($M=p$, $D=pq$); біноміальний ($M=np$, $D=npq$); рівномірний ($M=\frac{a+b}{2}$, $D=\frac{(b-a)^2}{12}$); нормальний $N(\mu,\sigma^2)$ з правилом $3\sigma$ і стандартизацією $Z=\frac{X-\mu}{\sigma}$.
• Статистичні розподіли $\chi^2$, $t$, $F$ (за ступенями свободи) — інструмент висновку в наступних лекціях.

Вправи #

Для розігріву #

1. Для ряду розподілу $X$: значення $-1, 0, 2$ з імовірностями $0.3, 0.5, 0.2$ — перевірте нормування й знайдіть $M(X)$, $D(X)$, $\sigma$.
2. Чому для неперервної величини $P(X = c) = 0$? Як тоді обчислюють $P(a \le X \le b)$?
3. Випишіть властивості функції розподілу $F(x)$ та щільності $f(x)$.

Стандартні #

4. Гральний кубик кидають $4$ рази. $X$ — число появ «шістки». Знайдіть закон розподілу $X$, $M(X)$ та $D(X)$ (біноміальний із $n=4$, $p=1/6$).
5. Для $U[2, 8]$ знайдіть $M(X)$, $D(X)$ та $P(3 \le X \le 5)$.
6. Час роботи приладу $X \sim N(1000, 50^2)$ год. Скориставшись правилом $3\sigma$, вкажіть проміжок, у який потрапляє практично весь час роботи, та оцініть $P(X > 1100)$ через стандартизацію.

Підвищеної складності #

7. Доведіть обчислювальну формулу дисперсії $D(X) = M(X^2) - (M(X))^2$, виходячи з означення $D(X) = M[(X - M(X))^2]$ і властивостей сподівання.
8. Поясніть, чому розподіл Стьюдента при зростанні числа ступенів свободи наближається до стандартного нормального. Який практичний наслідок це має для малих і великих вибірок (передмова до Лекції 3)?

Lectures/DA-L02.md · 18.2 KB · updated 2026-08-05 09:27