1. Мета роботи
Навчитися розв’язувати задачу класифікації методом найближчих сусідів (kNN): обчислювати відстані між об’єктами, відбирати найближчих сусідів і визначати клас голосуванням; свідомо обирати , функцію відстані та застосовувати нормалізацію ознак; оцінювати якість класифікатора за матрицею невідповідності; а також реалізувати kNN програмою, що читає навчальну вибірку з файлу CSV і класифікує введений об’єкт.
Виконавши роботу, студент повинен уміти:
- обчислювати відстані між об’єктами — евклідову, манхеттенську, Мінковського (числові ознаки) та Геммінга (категоріальні);
- класифікувати об’єкт методом kNN — упорядкувати навчальні точки за відстанню, узяти найближчих і віднести об’єкт до найпоширенішого серед них класу;
- розуміти вплив — чому мале чутливе до шуму (перенавчання), а велике надмірно згладжує межі, і чому для двокласової задачі беруть непарне ;
- нормалізувати ознаки (мінімакс, -стандартизація) і пояснювати, чому без нормалізації відстань визначається ознакою з найбільшим масштабом;
- застосовувати зважений kNN (вага або ) і розуміти, як це знімає нічиї та підсилює ближчих сусідів;
- будувати матрицю невідповідності () і обчислювати за нею правильність (accuracy), точність (precision), чутливість (recall), специфічність, -міру та коефіцієнт Меттьюза (MCC);
- реалізувати алгоритм kNN у вигляді програми, що приймає навчальну вибірку з CSV, запитує ознаки об’єкта й повертає передбачений клас.
Робота закріплює Лекцію 6 — Класифікація. Метод найближчих сусідів (kNN). Уся потрібна теорія повторена в самодостатньому вигляді в методичних вказівках.