# Лекція 2. Аналіз ймовірнісних даних ## Огляд У [Лекції 1](DA-L01.md) ми навчилися приписувати ймовірності **подіям**. Але дані експерименту — це зазвичай **числа**: зріст, час відгуку, кількість покупок, результат вимірювання. Щоб працювати з такими даними математично, потрібен місток між випадковими подіями та числами — його дає поняття **випадкової величини**. Випадкова величина перетворює простір наслідків на числову вісь, а разом з нею приходять два види описів: **закон розподілу** (повна інформація про те, які значення й з якими шансами набуває величина) та **числові характеристики** (кілька чисел, що стисло описують розподіл, — насамперед **математичне сподівання** та **дисперсія**). У цьому розділі ми вводимо випадкові величини (дискретні й неперервні), функцію розподілу та щільність, означуємо сподівання й дисперсію, а потім оглядаємо найважливіші **типові розподіли** — Бернуллі, біноміальний, рівномірний і, головне, **нормальний**, — а також три «статистичні» розподіли ($\chi^2$, Стьюдента, Фішера), на яких триматимуться довірчі інтервали й перевірка гіпотез у [Лекціях 3](DA-L03.md)–[4](DA-L04.md). > **Практичний бік.** Числові характеристики вибірки ви обчислюватимете «руками» й > **програмою** в [Лабораторній роботі 2](../Laboratory/Laboratory2/main.md). --- ## 2.1 Випадкові величини > **Означення (випадкова величина).** **Випадкова величина** $X$ — це числова > функція, що кожному наслідку випадкового експерименту ставить у відповідність > дійсне число. Розрізняють два основні типи: - **Дискретна** — набуває скінченної або зліченної множини **окремих** значень (кількість дзвінків за годину, число бракованих деталей, оцінка на іспиті). - **Неперервна** — набуває **будь-якого** значення з проміжку (час, вага, температура, похибка вимірювання). **Приклад 2.1.** Кидаємо два гральні кубики; $X$ — сума очок. Це дискретна величина зі значеннями $2, 3, \dots, 12$. Натомість час очікування автобуса — неперервна величина зі значеннями з проміжку $[0, T]$. --- ## 2.2 Функція розподілу Єдиний спосіб описати **будь-яку** випадкову величину (і дискретну, і неперервну) — це **функція розподілу**. > **Означення (функція розподілу).** **Функцією розподілу** (інтегральною, > англ. *cumulative distribution function, CDF*) величини $X$ називають > $$ F(x) = P(X < x). $$ **Властивості функції розподілу:** 1. $0 \le F(x) \le 1$; 2. $F$ **неспадна**: якщо $x_1 < x_2$, то $F(x_1) \le F(x_2)$; 3. $\lim\limits_{x \to -\infty} F(x) = 0$, $\ \lim\limits_{x \to +\infty} F(x) = 1$; 4. ймовірність влучання в проміжок: $$ P(a \le X < b) = F(b) - F(a). $$ Остання властивість — робоча: **ймовірність влучання величини в інтервал** дорівнює приросту функції розподілу на цьому інтервалі. --- ## 2.3 Ряд розподілу дискретної величини Дискретну величину зручно задавати **рядом розподілу** — таблицею її значень та їхніх імовірностей: | $X$ | $x_1$ | $x_2$ | $\dots$ | $x_n$ | |---|:--:|:--:|:--:|:--:| | $P$ | $p_1$ | $p_2$ | $\dots$ | $p_n$ | де $p_i = P(X = x_i)$, усі $p_i \ge 0$ і виконано **умову нормування** $$ \sum_{i=1}^{n} p_i = 1. $$ Функція розподілу дискретної величини — **східчаста**: вона стрибає на $p_i$ у кожній точці $x_i$ і стала між ними. **Приклад 2.2.** Кидаємо монету двічі; $X$ — число «орлів». Тоді | $X$ | 0 | 1 | 2 | |---|:--:|:--:|:--:| | $P$ | 0.25 | 0.5 | 0.25 | Перевірка: $0.25 + 0.5 + 0.25 = 1$. ![Стовпчикова діаграма ряду розподілу: значення 0, 1, 2 з імовірностями 0.25, 0.5, 0.25](img/l02_discrete_bar.png) ![Східчаста функція розподілу F(x)=P(X **Означення (щільність розподілу).** **Щільністю розподілу** (англ. *probability > density function, PDF*) неперервної величини називають похідну функції розподілу > $f(x) = F'(x)$. Тоді > $$ F(x) = \int_{-\infty}^{x} f(t)\,dt, \qquad P(a \le X \le b) = \int_{a}^{b} f(x)\,dx. $$ **Властивості щільності:** 1. $f(x) \ge 0$; 2. **нормування:** $\displaystyle\int_{-\infty}^{+\infty} f(x)\,dx = 1$ (уся площа під графіком щільності дорівнює одиниці). Імовірність — це **площа** під графіком щільності над відповідним проміжком. ![Крива щільності f(x) із заштрихованою площею, що дорівнює ймовірності P(a≤X≤b)](img/l02_pdf_area.png) --- ## 2.5 Математичне сподівання Числові характеристики стискають розподіл до кількох чисел. Перше з них — **математичне сподівання** — «центр» розподілу. > **Означення (математичне сподівання).** > $$ M(X) = \sum_{i} x_i\, p_i \quad (\text{дискретна}), \qquad > M(X) = \int_{-\infty}^{+\infty} x\, f(x)\,dx \quad (\text{неперервна}). $$ **Властивості:** $M(C) = C$; $\ M(CX) = C\,M(X)$; $\ M(X + Y) = M(X) + M(Y)$; для незалежних $X, Y$ — $M(XY) = M(X)\,M(Y)$. **Приклад 2.3.** Для величини з Прикладу 2.2: $M(X) = 0(0.25) + 1(0.5) + 2(0.25) = 1$ — у середньому один «орел» на два кидки. --- ## 2.6 Дисперсія та середньоквадратичне відхилення Сподівання не показує **розкиду**: величини $\{-100, 100\}$ і $\{0, 0\}$ можуть мати однакове $M(X) = 0$. Розкид вимірює **дисперсія**. > **Означення (дисперсія, СКВ).** > $$ D(X) = M\big[(X - M(X))^2\big] = M(X^2) - \big(M(X)\big)^2, \qquad \sigma(X) = \sqrt{D(X)}. $$ Друга формула ($M(X^2) - (M(X))^2$) — **обчислювальна**, нею користуються на практиці. СКВ $\sigma$ зручніше за дисперсію, бо має **ті самі одиниці**, що й $X$. **Властивості:** $D(C) = 0$; $\ D(CX) = C^2 D(X)$; для незалежних $X, Y$ — $D(X + Y) = D(X) + D(Y)$. **Приклад 2.4.** Для Прикладу 2.2: $M(X^2) = 0 + 1(0.5) + 4(0.25) = 1.5$, тож $D(X) = 1.5 - 1^2 = 0.5$ і $\sigma = \sqrt{0.5} \approx 0.707$. --- ## 2.7 Дискретні розподіли ### Розподіл Бернуллі Один експеримент із двома наслідками — «успіх» (імовірність $p$) і «невдача» ($q = 1 - p$). Величина $X \in \{0, 1\}$ (індикатор успіху): $$ P(X = 1) = p, \quad P(X = 0) = q, \qquad M(X) = p, \quad D(X) = pq. $$ ### Біноміальний розподіл Проводимо $n$ **незалежних** випробувань Бернуллі; $X$ — число успіхів. Тоді $$ P(X = k) = \binom{n}{k} p^{k} q^{\,n-k}, \quad k = 0, 1, \dots, n, \qquad M(X) = np, \quad D(X) = npq. $$ **Приклад 2.5.** Тест із $5$ питань, на кожне вгадують із $p = 0.2$. Імовірність вгадати рівно $2$: $P(X = 2) = \binom{5}{2}(0.2)^2(0.8)^3 = 10 \cdot 0.04 \cdot 0.512 = 0.2048$. У середньому вгадають $M(X) = 5 \cdot 0.2 = 1$ питання, $D(X) = 5 \cdot 0.2 \cdot 0.8 = 0.8$. ![Біноміальний розподіл B(5, 0.2): стовпці ймовірностей P(X=k) для k від 0 до 5 з позначеним математичним сподіванням M=np=1](img/l02_binomial.png) --- ## 2.8 Неперервні розподіли ### Рівномірний розподіл Усі значення проміжку $[a, b]$ **рівноможливі**: $$ f(x) = \begin{cases} \dfrac{1}{b - a}, & a \le x \le b, \\ 0, & \text{інакше}, \end{cases} \qquad M(X) = \frac{a + b}{2}, \quad D(X) = \frac{(b - a)^2}{12}. $$ **Приклад 2.6.** Для $U[0, 10]$: $M(X) = 5$, $D(X) = 100/12 \approx 8.33$. ![Щільність рівномірного розподілу U[a,b]: сталий рівень 1/(b−a) на проміжку [a,b] і нуль поза ним](img/l02_uniform.png) ### Нормальний розподіл Найважливіший розподіл статистики (до нього прямує сума багатьох незалежних доданків — **центральна гранична теорема**). Величина $X \sim N(\mu, \sigma^2)$ має щільність $$ f(x) = \frac{1}{\sigma\sqrt{2\pi}}\; e^{-\dfrac{(x - \mu)^2}{2\sigma^2}}, \qquad M(X) = \mu, \quad D(X) = \sigma^2. $$ Графік — симетрична «дзвоноподібна» крива з центром у $\mu$ і шириною, що задається $\sigma$. **Стандартизація** зводить будь-яку нормальну величину до стандартної $Z \sim N(0, 1)$: $$ Z = \frac{X - \mu}{\sigma}. $$ ![Нормальна крива N(μ, σ²): симетрична дзвоноподібна щільність із позначеними центром μ та масштабом σ](img/l02_normal.png) > **Правило трьох сигм.** Для $X \sim N(\mu, \sigma^2)$ > $$ P(|X - \mu| < \sigma) \approx 0.6827, \quad P(|X - \mu| < 2\sigma) \approx 0.9545, \quad P(|X - \mu| < 3\sigma) \approx 0.9973. $$ > Практично **всі** значення нормальної величини лежать у межах $\mu \pm 3\sigma$ — > звідси й правило виявлення викидів «поза $3\sigma$». ![Правило трьох сигм для нормального розподілу: вкладені смуги 68.3%, 95.5% та 99.7% навколо μ](img/l02_3sigma.png) **Приклад 2.7.** Зріст $X \sim N(175, 10^2)$ см. Частка людей, вищих за $195$ см: $Z = (195 - 175)/10 = 2$, тож $P(X > 195) = P(Z > 2) \approx 0.0228$ (≈ 2.3 %). --- ## 2.9 Статистичні розподіли Ці розподіли самі по собі рідко описують дані, але **виникають з вибірок** із нормальної сукупності й лежать в основі статистичного висновку (Лекції 3–5). Усі залежать від параметра **кількість ступенів свободи**. - **Розподіл $\chi^2$ (хі-квадрат)** з $k$ ступенями свободи — розподіл суми квадратів $k$ незалежних стандартних нормальних величин: $\chi^2 = \sum_{i=1}^{k} Z_i^2$. Застосовують для висновків про **дисперсію** та в критеріях згоди (Лекція 5). - **Розподіл Стьюдента ($t$)** з $k$ ступенями свободи — відношення $t = \dfrac{Z}{\sqrt{\chi^2_k / k}}$. Симетричний, «важчі хвости», ніж у $N(0,1)$; при великих $k$ прямує до $N(0,1)$. Застосовують для висновків про **середнє** при **невідомій дисперсії** (Лекції 3–4). - **Розподіл Фішера ($F$)** зі ступенями свободи $k_1, k_2$ — відношення двох незалежних $\chi^2$, поділених на свої ступені свободи: $F = \dfrac{\chi^2_{k_1}/k_1}{\chi^2_{k_2}/k_2}$. Застосовують для порівняння **двох дисперсій** та в дисперсійному аналізі (Лекції 4–5). ![Порівняння статистичних розподілів: щільність Стьюдента з важчими хвостами проти N(0,1) та сімейство χ² за різних ступенів свободи](img/l02_stat_dists.png) --- ## Застосування в аналітиці даних - **Модель даних.** Обираючи розподіл (нормальний, біноміальний тощо), ми формулюємо припущення про механізм породження даних — основа будь-якого статистичного висновку. - **Виявлення викидів.** Правило $3\sigma$ — простий детектор аномалій для приблизно нормальних даних. - **Підґрунтя висновку.** $\chi^2$, $t$, $F$ безпосередньо дають критичні значення для довірчих інтервалів (Лекція 3) і перевірки гіпотез (Лекція 4). ## Підсумок - **Випадкова величина** переводить наслідки в числа; буває **дискретною** та **неперервною**. - Універсальний опис — **функція розподілу** $F(x) = P(X < x)$; для дискретних — **ряд розподілу** ($\sum p_i = 1$), для неперервних — **щільність** $f(x) = F'(x)$ ($\int f = 1$). Імовірність влучання в інтервал: $F(b) - F(a)$ або площа під $f$. - **Математичне сподівання** $M(X)$ — центр; **дисперсія** $D(X) = M(X^2) - (M(X))^2$ і **СКВ** $\sigma = \sqrt{D(X)}$ — розкид. - **Типові розподіли:** Бернуллі ($M=p$, $D=pq$); біноміальний ($M=np$, $D=npq$); рівномірний ($M=\frac{a+b}{2}$, $D=\frac{(b-a)^2}{12}$); **нормальний** $N(\mu,\sigma^2)$ з правилом $3\sigma$ і стандартизацією $Z=\frac{X-\mu}{\sigma}$. - **Статистичні розподіли** $\chi^2$, $t$, $F$ (за ступенями свободи) — інструмент висновку в наступних лекціях. ## Вправи ### Для розігріву 1. Для ряду розподілу $X$: значення $-1, 0, 2$ з імовірностями $0.3, 0.5, 0.2$ — перевірте нормування й знайдіть $M(X)$, $D(X)$, $\sigma$. 2. Чому для неперервної величини $P(X = c) = 0$? Як тоді обчислюють $P(a \le X \le b)$? 3. Випишіть властивості функції розподілу $F(x)$ та щільності $f(x)$. ### Стандартні 4. Гральний кубик кидають $4$ рази. $X$ — число появ «шістки». Знайдіть закон розподілу $X$, $M(X)$ та $D(X)$ (біноміальний із $n=4$, $p=1/6$). 5. Для $U[2, 8]$ знайдіть $M(X)$, $D(X)$ та $P(3 \le X \le 5)$. 6. Час роботи приладу $X \sim N(1000, 50^2)$ год. Скориставшись правилом $3\sigma$, вкажіть проміжок, у який потрапляє практично весь час роботи, та оцініть $P(X > 1100)$ через стандартизацію. ### Підвищеної складності 7. Доведіть обчислювальну формулу дисперсії $D(X) = M(X^2) - (M(X))^2$, виходячи з означення $D(X) = M[(X - M(X))^2]$ і властивостей сподівання. 8. Поясніть, чому розподіл Стьюдента при зростанні числа ступенів свободи наближається до стандартного нормального. Який практичний наслідок це має для малих і великих вибірок (передмова до Лекції 3)?