Funkcja regresji

Regresja jest to jedna z najpopularniejszych metod analizy danych statystycznych. Służy do przewidywania danych jednej zmiennej na podstawie innych zmiennych. Wyróżnić możemy kilka rodzajów regresji:
regresja liniowa,
regresja nieliniowa,
regresja logistyczna,
regresja krokowa,
regresja porządkowa,
autoregresja.

Ogólna postać regresji przedstawia się następująco:

gdzie:
X – predyktor,
Y – zmienna zależna,
– współczynnik regresji,
– równanie regresji,
– błąd losowy

Aby lepiej zrozumieć ideę regresji przyjrzyjmy się dokładniej regresji liniowej. Ten rodzaj regresji polega na jak najlepszym wpasowaniu linii prostej w zestaw danych (otrzymanych np. z pomiarów). Metodą stosowaną do wyznaczenia prostej regresji liniowej jest metoda najmniejszych kwadratów. Polega ona na takim wpasowaniu prostej aby suma kwadratów błędów szacowania była minimalna.
Rozważmy poniższy przykład:

Dane:

Wykres:

Na wykresie przedstawiony został zbiór punktów. Linia regresji zaznaczona jest linią przerywaną, natomiast zielone, pionowe odcinki są to błędy szacowania dla każdego punktu.

Linię regresji określa wzór funkcji liniowej:

gdzie:
– średnia wartość x
– średnia wartość y