Kowariancja i korelacja r-Pearsona

Współczynnik kowariancji i korelacji r-Pearsona

Siłę zmienności dwóch analizowanych zmiennych można wyrazić za pomocą wielu mierników.

Jedną z miar jest współczynnik kowariancji:

Niech $X_i$ oraz $X_j$, dla $i,j \in{\{ 1,\ldots,n\}}$ będą zmiennymi opisującymi dane pomiarów badania. Wtedy:

$cov(X_i,X_j) = E(X_i \cdot X_j) - (E(X_i) \cdot E(X_j))$

lub

$cov(X_i,X_j) = E[(X_i - E(X_i)) \cdot (X_j - E(X_j)]$,

gdzie:
$E$ to wartość oczekiwana zmiennej, której estymatorem w populacji jest średnia arytmetyczna.

Współczynnik ten wskazuje jedynie na powiązanie badanych cech. Jeżeli podzielimy wartości kowariancji przez iloczyn odchyleń standardowych porównywanych zmiennych uzyskamy parametr opisujący siłę zależności pomiędzy nimi – współczynnik korelacji $r$ Pearsona 

$r_{i,j}=\frac{cov(X_i,X_j)}{s_i \cdot s_j}$,

gdzie:
$cov(X_i,X_j)$ to współczynnik kowariancji zmiennych $X_i,X_j$,
$s_i, s_j$ to odchylenia standardowe zmiennych $X_i,X_j$.

 

Test na istotność współczynnika korelacji

Aby sprawdzić czy obliczona wartość współczynnika korelacji jest istotna przeprowadza się test o następujących hipotezach: 

$H_0: r = 0$ - zależność cech jest nieistotna
$H_1: r \neq 0$ - zależność cech jest istotna

Do weryfikacji hipotezy stosujemy test t:

$t =$$\frac{r_{i,j}} {\sqrt{1-r_{i,j}^2}}$$\cdot \sqrt{n-2}$,

gdzie:
$r_{i,j}$ to współczynnik korelacji zmiennych $X_i,X_j$,
$n$ to liczebność populacji do której należą zmienne $X_i,X_j$.

Dla danej wartości testu $t,$ odczytujemy wartość istotności $p.$ Zwykle w badaniach statystycznych przyjmujemy poziom istotności$p^* = 0,05.$ Jeżeli $p > p^*$ przyjmujemy $H_0.$ Jeżeli $p < p^*$ odrzucamy $H_0$ na rzecz $H_1.$

 

Macierz kowariancji i korelacji

Elementami macierzy kowariancji są współczynniki kowariancji dla par zmiennych losowych opisanych przez parametry wiersza i kolumny macierzy. Macierz ta jest przeniesieniem pojęcia wariancji na przypadek wielowymiarowy (jest to macierz wartości oczekiwanych iloczynów wariancji analizowanych dwóch zmiennych).

Kryteria spełniane przez każdą macierz kowariancji:

• jest to macierz kwadratowa oraz symetryczna względem głównej przekątnej,
• wyznacznik macierzy kowariancji jest nieujemny.

Elementami macierzy korelacji są współczynniki korelacji dla par zmiennych losowych opisanych przez parametry wiersza i kolumny macierzy.

Kryteria spełniane przez każdą macierz korelacji:

• jest to macierz kwadratowa oraz symetryczna względem głównej przekątnej (na której elementy przyjmują wartość $1$ ze względu na korelację zmiennej z nią samą),
•  wartości wszystkich elementów macierzy pochodzą z przedziału $\langle -1 , 1 \rangle,$ a wyznacznik macierzy należy do przedziału $\langle 0 , 1 \rangle.$

Wielkość wartości wyznacznika macierzy jest adekwatna do poziomu korelacji zmiennych tworzących macierz. Im wyższe wartości on przyjmuje tym bardziej skorelowane są ze sobą poszczególne parametry

a) Macierzą kowariancji nazywamy macierz kwadratową $\mathbb{S}$ w postaci:

$\mathbb{S} = \begin{bmatrix} \delta_{1,1} & \delta_{1,2} & \cdots & \delta_{1,n} \\ \delta_{2,1} & \delta_{2,2} & \cdots & \delta_{2,n} \\ \vdots & \vdots & \ddots & \vdots \\ \delta_{n,1} & \delta_{n,2} & \cdots & \delta_{n,n}\end{bmatrix}$,

gdzie:
$\delta_{i,j} = cov(X_i,X_j),$
$\delta_{i,j}$ jest wariancją zmiennej $X_i$ jeżeli$i=j.$

b) Macierzą korelacji nazywamy macierz kwadratową $\mathbb{R}$ postaci:

$\mathbb{R} = \begin{bmatrix} 1 & r_{1,2} & \cdots & r_{1,n} \\ r_{2,1} & 1 & \cdots & r_{2,n} \\ \vdots & \vdots & \ddots & \vdots \\ r_{n,1} & r_{n,2} & \cdots & 1\end{bmatrix}$,

    gdzie:
    $r_{ij}$ to współczynniki korelacji zmiennych $X_i,X_j.$

 

PRZYKŁAD

Wylosowano zestaw 15 obserwacji charakteryzujący wiek i wskaźnik masy ciała (BMI) badanych, aby sprawdzić czy zamienne korelują ze sobą.

$WIEK = [56 ; 61 ; 59 ; 72 ; 63 ; 57 ; 50 ; 63 ; 61 ; 55 ; 57 ; 69 ; 58 ; 78 ; 60]$

$BMI = [28,3; 25,7; 24,1; 31,6; 30,5; 25,8; 29,7; 27,9; 27,4; 29,1; 26,3; 31,1; 22,0; 29,4; 30,7]$

Obliczono:

• wartość oczekiwaną dla iloczynu zmiennych:

$E(WIEK \cdot BMI) =$$\frac{\sum\limits_{i=1}^{n}(WIEK_i \cdot BMI_i)}{n}$$= 1720,27,$

• wartości średnie:

$\overline{WIEK} = 61,27,$   $\overline{BMI} = 27,97,$

• odchylenia standardowe:

$s_{\scriptscriptstyle WIEK} = 7,12,$   $s_{\scriptscriptstyle BMI} = 2,76.$

Dla analizowanych danych sporządzono:

• kowariancję:

$cov(WIEK,BMI) = E(WIEK \cdot BMI) - \overline{WIEK} \cdot \overline{BMI} = 7,06 ,$

• korelację Pearsona:

$r_{\scriptscriptstyle WIEK,\scriptscriptstyle BMI} =$$\frac{cov(WIEK,BMI)}{s_{ \scriptscriptstyle WIEK} \cdot s_{\scriptscriptstyle BMI}}$$= 0,38,$

• tablicę kowariancji:

$\mathbb{S} = \begin{bmatrix} 47,26 & 7,06 \\ 7,06 & 7,14 \end{bmatrix},$

• tablicę korelacji:

$\mathbb{R} = \begin{bmatrix} 1 & 0,38 \\ 0,38 & 1 \end{bmatrix}.$

Dla wartości współczynnika korelacji wyliczono istotność statystyczną:

$t =$$\frac{r_{\scriptscriptstyle WIEK,\scriptscriptstyle BMI}} {\sqrt{1-r_{\scriptscriptstyle WIEK,\scriptscriptstyle BMI}^2}}$$\cdot \sqrt{n-2} =$$\frac{0,38} {\sqrt{1-0,38^2}}$$\cdot \sqrt{15-2}$$= 1,50.$

Dla obliczonej wartości testu $t$ istotność wynosi:

$p = 0,157.$

Jako, że $p > p^*$ to nie ma podstaw do odrzucenia $H_0.$