6. Контрольні запитання
Ці запитання допомагають перевірити готовність до роботи й самоконтроль після неї. Відповіді спираються на методичні вказівки та Лекцію 8.
Теорема Байєса та ймовірнісна класифікація
- Чим ймовірнісний класифікатор відрізняється від дерева рішень? Яку додаткову інформацію він дає, крім ярлика класу?
- Запишіть теорему Байєса для класу та вектора ознак . Назвіть усі чотири множники (апріорна, правдоподібність, апостеріорна, свідчення).
- Чому при виборі класу знаменник можна відкинути? Коли він усе ж потрібен?
Наївне припущення та апостеріорна ймовірність
- Сформулюйте наївне припущення про умовну незалежність ознак. Запишіть, у що воно перетворює правдоподібність .
- Яку проблему розв’язує наївне припущення (чому не можна оцінити напряму)? Що таке «прокляття розмірності»?
- Запишіть робочу формулу і поясніть, як від оцінки класу перейти до самої ймовірності (нормування).
- Чому наївний Байєс часто працює добре навіть тоді, коли ознаки насправді залежні?
Оцінювання ймовірностей
- Як оцінити апріорну ймовірність класу та умовну ймовірність ознаки за навчальною вибіркою?
- Обчисліть «руками» для вибірки «Спортивний канал» і поясніть, які об’єкти ви рахували.
Нульові ймовірності та згладжування
- Що таке проблема нульової ймовірності (переповнення) і чому єдиний нуль занулює весь добуток? Наведіть приклад із вибірки «Спортивний канал».
- Запишіть формулу згладжування Лапласа. Навіщо в знаменнику додають саме (число значень ознаки)? Що станеться з нормуванням, якщо цього не зробити?
- Що таке обчислювальне переповнення (underflow) при перемноженні багатьох малих імовірностей і як його уникають (сума логарифмів)? Чому для логарифмів обов’язкове згладжування?
- Як наївний Байєс опрацьовує об’єкт із відсутнім значенням ознаки?
Порівняння з ID3 та застосування
- Порівняйте наївний Байєс і дерево ID3: що спільного (та сама задача) і чим різняться вихід та спосіб побудови? Що таке матриця невідповідності двох класифікаторів?
- На вибірці «Спортивний канал» обидва методи дали точності й повний збіг прогнозів. Чи завжди так буває? Від чого це залежить?
- Опишіть баєсів спам-фільтр: що таке спамовість слова , як приймають рішення за усередненою вагою й порогом, які є покращення базової схеми.