Метод наименьших квадратов. Свойства оценок на основе МНК

Выражение множественной регрессии в натуральном масштабе будет иметь следующий вид:

у=а+b₁x₁+b₂x₂+…+b_mx_m+ε

b_mx_m– коэффициенты регрессии. Характеризуют среднее изменение результата с изменением соответствующего фактора на единицу. При неизменном значении других факторов закреплён на их среднем уровне.

ε – остатки.

для того, чтобы найти параметры этого уравнения, мы должны написать систему нормальных уравнений. У нас m+1 неизвестное, значит у нас m+1 уравнение.

Кроме уравнения в натуральном масштабе во множественной регрессии используется уравнение в стандартизированном масштабе.

t_y=β₁t₁+ β₂t₂ …β_mt_m

где t_уt₁ … t_n – стандартизированные переменные, определяющиеся следующим образом:

t_y= t_i=

β₁ β₂… β_n – стандартизированные коэффициенты регрессии, которые показывают, на сколько единиц изменится в среднем результат, если соответствующий фактор х_iизменится на единицу при неизменном среднем уровне других факторов.

В силу того, что все переменные заданы как центрированные и нормированные, стандартизированные коэффициенты β можно сравнивать между собой.Сравнивая их друг с другом, можно ранжировать факторы по силе их воздействия на результат.

Ф-ла 2

Пусть β₁ β₂ β₅ β₄ β₃

Коэф-ты в натуральном масштабе регрессии связаны между собой со стандартизированными коэ-ми.

b_i=β_i

Рассмотренное значение стандартизированных коэф-в регрессии позволяет использовать их при отсеве факторов. Из модели исключаются факторы с наименьшими значениями β. На основе линейного уравнения регрессии в натуральном масштабе могут быть найдены частные уравнения регрессии.

у_Х1._Х2Х3…_Xm - уравнение зависимости результата от фактора х, при наличии факторов х₁ … х_m.

ф-ла 3

т.е. это система уравнений, которые связывают результативный признак с соответствующим фактором х_iпри закреплении всех прочих факторов на их среднем уровне. При подстановке в это уравнение средних значений соответствующих факторов они примут вид парных линейных регрессий.

В отличие от парной регрессии частные уравнения регрессии характеризуют изолированное влияние на результат соответствующего фактора. Эффект влияния от других факторов обнаруживается (проявляется) в свободном члене А. это позволяет на основе частных уравнений регрессии определять частные коэф-ты эластичности.

Ф-ла 4

Где b_i – коэф-т регрессии для фактора х_i.

Знаменатель – частное уравнение регрессии. Наряду с частными коэф-ми эластичности рассчитывают средние по совокупности показатели эластичности.

Ф-ла 5

Этот показатель показывает, на скольков среднем изменится результат при изменении фактора на 1%. Средние показатели эластичности можно сравнивать друг с другом и, соответственно, ранжировать их по силе воздействия на результат.

Свойства оценок МНК

Оценки, полученные по МНК, будут обладать свойствами несмещенности, состоятельности и эффективности. Несмещённость оценок означает, что математическое ожидание остатков равно 0. Если это свойство выполняется, то параметры можно сравнивать по разным исследованиям. Оценки считаются эффективными, если они характеризуются наименьшей дисперсией. Степень достоверности доверительных интервалов параметров регрессии обеспечивается, если оценки будут обладать состоятельностью. Состоятельность характеризует увеличение точности с увеличением объёма выборки.

Пример. Имеются данные о сменной добыче угля на одного рабочего (у в тоннах), мощности пласта (х₁ в метрах) и уровне механизации работ (х₂ в %). Предполагается, что между переменными у, х₁, х₂ существует корреляционная зависимость. Найдём уравнение регрессии.

№	Х₁	Х₂	у	Х₁²	Х₁*Х₂	УХ₁	Х₂²	УХ₂










∑

Ф-ла 6

Оно показывает, что при увеличении мощности пласта х₁ на 1 метр добыча угля на одного рабочего увеличивается в среднем на 0,854 тонны при неизменном х₂. А при увеличении уровня механизации работ х₂ (при неизменном х₁) на 1%добыча угля у увеличивается в среднем на 0,367 тонны.

Найдем уравнение множественной регрессии в стандартизированном виде.

Ф-ла 7.

Поскольку β₁больше β₂, то можно сказать, что мощность пласта оказывает бОльшее влияние на добычу угля, чем уровень механизации работ.

Ф-ла 8

Эластичность для первого фактора выше, что говорит о том, что 1ый фактор оказывает бОльшее влияние на результат. Тем самым мы подтвердили выводы.