# 1. Мета роботи

**Навчитися будувати ординарні класифікатори — одновимірне правило (One Rule) та
дерево рішень — і кількісно оцінювати якість розбиття даних за атрибутом:
обчислювати ентропію, приріст інформації, коефіцієнт приросту й індекс Джині; а
також реалізувати побудову дерева рішень алгоритмом ID3 програмою, що читає
навчальну вибірку з файлу CSV.**

Виконавши роботу, студент повинен уміти:

- **будувати правило One Rule** — для кожного предиктора формувати відображення
  «значення → найчастіший клас», обчислювати сумарну похибку й обирати найкращий
  предиктор;
- **оцінювати класифікатор матрицею помилок** — рахувати чутливість (TPR),
  специфічність (TNR), значущість позитивного (PPV) та негативного (NPV)
  результатів і правильність (ACC);
- **обчислювати ентропію** $H(D) = -\sum_c p_c \log_2 p_c$ множини та
  **середньозважену ентропію** розбиття за атрибутом;
- **обчислювати приріст інформації** $\mathrm{Gain} = H(D) - H(D\mid A)$ і за ним
  обирати атрибут для розгалуження (**ID3**);
- **обчислювати коефіцієнт приросту** (**C4.5**) та **індекс Джині** з бінарними
  розбиттями (**CART**) і розуміти, чим вони відрізняються від ID3;
- **будувати дерево рішень** рекурсивно до чистих листів і визначати, **коли**
  вузол стає листом;
- **реалізувати** алгоритм ID3 у вигляді програми, що приймає файл CSV із
  навчальною вибіркою й виводить побудоване дерево.

Робота закріплює [Лекцію 7 — Ординарні методи класифікації. Дерева
рішень](../../Lectures/DA-L07.md). Уся потрібна теорія повторена в самодостатньому
вигляді в [методичних вказівках](2method.md).