Лекция 5: Линейная регрессия и метод наименьших квадратов
Приводится описание метода наименьших квадратов (МНК) и приводится история его создания. Приводится вывод формулы МНК оценки значения вектора параметров линейной регрессии. Вводится понятие апостериорной остаточной разности. Приводится геометрическая интерпретация МНК, а также некоторые ее следствия (ортогональное разложение и теорема Пифагора). Формулируются некоторые свойства апостериорной остаточной разности. Вводится понятие коэффициента детерминации -- выводится формула для его подсчета, дается его практическая интерпретация, рассматриваются его основные свойства. Вводится коэффициент множественной корреляции. Рассматривается явление ложной корреляции, его возможные причины. Вводится понятие коэффициента частной корреляции, как инструмент обнаружения ложной корреляции. Рассматривается его использование для анализа динамики коэффициента детерминации с ростом числа объясняющих переменных. Вводится модифицированный коэффициент детерминации, как инструмент выбора наилучшей структуры модели линейной регрессии. Формулируется принцип экономии. Вводятся критерии выбора структуры модели линейной регрессии, основанные на нем (Акаике, Шварца, Ханана-Квина).
Недавние комментарии
1 день 21 час назад
4 дня 13 часов назад
4 дня 17 часов назад
6 дней 16 часов назад
6 дней 16 часов назад
6 дней 16 часов назад
6 дней 21 час назад
6 дней 21 час назад
2 недели 1 день назад
2 недели 1 день назад