АД/Laboratory/Laboratory7/1purpose
Raw

1. Мета роботи

Навчитися будувати ординарні класифікатори — одновимірне правило (One Rule) та дерево рішень — і кількісно оцінювати якість розбиття даних за атрибутом: обчислювати ентропію, приріст інформації, коефіцієнт приросту й індекс Джині; а також реалізувати побудову дерева рішень алгоритмом ID3 програмою, що читає навчальну вибірку з файлу CSV.

Виконавши роботу, студент повинен уміти:

  • будувати правило One Rule — для кожного предиктора формувати відображення «значення → найчастіший клас», обчислювати сумарну похибку й обирати найкращий предиктор;
  • оцінювати класифікатор матрицею помилок — рахувати чутливість (TPR), специфічність (TNR), значущість позитивного (PPV) та негативного (NPV) результатів і правильність (ACC);
  • обчислювати ентропію H(D)=−∑cpclog⁡2pcH(D) = -\sum_c p_c \log_2 p_c множини та середньозважену ентропію розбиття за атрибутом;
  • обчислювати приріст інформації Gain=H(D)−H(D∣A)\mathrm{Gain} = H(D) - H(D\mid A) і за ним обирати атрибут для розгалуження (ID3);
  • обчислювати коефіцієнт приросту (C4.5) та індекс Джині з бінарними розбиттями (CART) і розуміти, чим вони відрізняються від ID3;
  • будувати дерево рішень рекурсивно до чистих листів і визначати, коли вузол стає листом;
  • реалізувати алгоритм ID3 у вигляді програми, що приймає файл CSV із навчальною вибіркою й виводить побудоване дерево.

Робота закріплює Лекцію 7 — Ординарні методи класифікації. Дерева рішень. Уся потрібна теорія повторена в самодостатньому вигляді в методичних вказівках.

Laboratory/Laboratory7/1purpose.md · 2.6 KB · updated 2026-08-04 23:01