6. Контрольні запитання
Ці запитання допомагають перевірити готовність до роботи й самоконтроль після неї. Відповіді спираються на методичні вказівки та Лекцію 13.
Розмірність і постановка задачі
- Що таке прокляття розмірності? Наведіть принаймні два його прояви й поясніть, чому воно псує методи на основі відстаней (kNN, -середніх).
- Чим відбір ознак (feature selection) відрізняється від виділення ознак (feature extraction)? До якого з них належить PCA?
- Навіщо зменшують розмірність? Перелічіть щонайменше три мотиви (візуалізація, шум, швидкість, перенавчання).
Коваріаційна матриця
- Дайте означення коваріації двох ознак і коваріаційної матриці набору. Якого вона розміру для ознак і що стоїть на її головній діагоналі?
- Чому коваріаційна матриця симетрична? Що таке її слід і як він пов’язаний із загальною дисперсією даних?
- Навіщо перед обчисленням коваріаційної матриці центрувати дані? Коли потрібна ще й стандартизація і до якої матриці тоді зводиться PCA?
Власні значення, вектори, головні компоненти
- Що таке власний вектор і власне значення матриці? Запишіть рівняння і поясніть його геометричний зміст.
- Що таке головні компоненти? Чому перша з них — напрямок максимальної дисперсії, і чому дисперсія даних уздовж -ї компоненти дорівнює ?
- Чому головні компоненти ортогональні? Як через характеристичне рівняння знайти власні значення матриці ?
Проєкція, частка дисперсії, вибір числа компонент
- Як обчислити проєкцію об’єкта на головну компоненту? Що таке частка поясненої дисперсії і як її рахують?
- Як обрати число компонент ? Поясніть поріг накопиченої дисперсії, scree-графік («лікоть») і правило Кайзера.
- Назвіть обмеження PCA (лінійність, інтерпретованість, незалежність від міток класів, чутливість до масштабу). Наведіть приклад, коли перша головна компонента марна для класифікації.
Реалізація
- Опишіть кроки алгоритму PCA від сирої матриці даних до проєкції на компонент. Який крок обов’язковий, а який — за потреби?
- Які крайні випадки має опрацьовувати програма (порожній файл, нечислові значення, пропуски, один стовпець)? Як перевірити правильність результату (напр., що дисперсія проєкцій на -ту компоненту дорівнює )?