6. Контрольні запитання
Ці запитання допомагають перевірити готовність до роботи й самоконтроль після неї. Відповіді спираються на методичні вказівки та Лекцію 7.
Одновимірна класифікація та One Rule
- Що таке одновимірна класифікація? У чому цінність такого простого класифікатора як базового рівня якості?
- Опишіть кроки алгоритму One Rule. Як обчислюють сумарну похибку предиктора й точність правила?
- Що таке матриця помилок? Дайте означення чутливості (TPR), специфічності (TNR), PPV, NPV та правильності (ACC).
- Чому OneR схильний обирати атрибути з багатьма значеннями? Чим це загрожує на нових даних?
Дерева рішень: базові поняття
- Дайте означення дерева рішень: що таке внутрішній вузол, ребро, лист? Як деревом класифікують об’єкт?
- Перелічіть чотири умови, за яких вузол дерева стає листом. Який клас приписують листу, якщо підмножина неоднорідна?
- Опишіть загальний рекурсивний алгоритм побудови дерева (
GenerateTree). Навіщо в ID3/C4.5 з переліку доступних атрибутів вилучають уже використаний?
ID3, ентропія та приріст інформації
- Дайте означення ентропії множини. Чому вона дорівнює для чистої множини й для двох рівних класів? Що таке домовленість ?
- Що таке середньозважена ентропія розбиття та приріст інформації? За яким правилом ID3 обирає атрибут для розгалуження?
- На вибірці «Спортивний канал» поясніть, чому коренем стає Дохід (порівняйте прирости всіх трьох атрибутів).
C4.5 та CART
- У чому полягає зміщення ID3 на користь багатозначних атрибутів? Як його виправляє коефіцієнт приросту (C4.5)? Що таке власна інформація розбиття?
- Дайте означення індексу Джині. Чим підхід CART відрізняється від ID3 (міра неоднорідності, бінарність розбиттів)?
- Чому в CART атрибут можна використати для розгалуження повторно, а в ID3 — ні?
Реалізація
- Як організувати рекурсивну побудову дерева в коді? Що є базовими випадками рекурсії (умови зупинки)?
- Як представити побудоване дерево в пам’яті та вивести його на екран читабельно? Як за деревом класифікувати новий об’єкт?
- Які крайні випадки має опрацьовувати програма (порожня гілка, вичерпані атрибути, однакові об’єкти з різними класами, нічия при виборі атрибута)?