WnioskowanieStatystyczne/Momenty

Wnioskowanie_Statystyczne_-_wykład

Wariancja, korelacja, mediana

Jak widać, własności rozkładów ciągłych i dyskretnych będą opisywać nieco odmienne wzory; poniżej przytaczamy najczęściej wykorzystywane w praktyce definicje i zależności.

Wartość oczekiwana

Zgodnie z nazwą i intuicją, wartość oczekiwana (wartość średnia, przeciętna) określa środek rozkładu, czyli okolicę, w którą najczęściej powinny "trafiać" wyniki. Dla rozkładów dyskretnych będzie się ona wyrażać wzorem:

[math] \mu=E(x)=\overset{n}{\underset{i=1}{\sum }}x_{i}P(X=x_{i}) [/math]

a dla rozkładów ciągłych:

[math] \mu=E(x)=\underset{-\infty }{\overset{\infty }{\int }}x p(x)dx. [/math]

Na podstawie tych wzorów łatwo dowieść liniowości wartości oczekiwanej; dla zmiennych losowych [math]x[/math] i [math]y[/math] oraz stałych [math]c_1[/math] i [math]c_2[/math]

[math] E(c_1 x+c_2 y)=c_1 E(x)+c_2 E(y). [/math]

Mediana

Mediana to inna od wartości oczekiwanej miara położenia środka rozkładu. Określamy ją jako taką wartość zmiennej losowej [math]x_{\frac{1}{2}}[/math], która dzieli rozkład gęstości prawdopodobieństwa na dwie równe części — wartościom zmiennych losowych mniejszym niż [math]x_{\frac{1}{2}}[/math] odpowiada tyle samo przypadków, co wartościom większym:

[math] \int\limits_{-\infty}^{x_{\frac{1}{2}}} p(x) dx = \int\limits_{x_{\frac{1}{2}}}^\infty p(x) dx= \ \frac{1}{2}. [/math]

Dla rozkładów symetrycznych mediana i wartość oczekiwana są sobie równe, w ogólnym przypadku rozkładów niesymetrycznych — NIE, por. np. ilustracja różnic z Wikipedii

Wariancja

Wariancja jest miarą rozrzutu zmiennej losowej wokół wartości oczekiwanej, czyli "szerokości" rozkładu prawdopodobieństwa. Mała wariancja oznacza, że zmienne (np. wyniki losowań) będą gromadzić się ("wypadać") blisko wartości oczekiwanej (i blisko siebie).

Wariancję określamy jako wartość oczekiwaną kwadratu różnicy zmiennej i jej wartości oczekiwanej; dla rozkładów dyskretnych:

[math] \sigma ^{2}(x)=E((x-\mu)^{2})=\overset{n}{\underset{i=1}{\sum }} P(X=x_{i})(x_{i}-\mu)^{2}. [/math]

Dla rozkładów ciągłych:

[math] \sigma ^2(x)=E((x-\mu)^{2})=\underset{-\infty }{\overset{\infty }{ \int }}(x-\mu)^{2} p(x)dx. [/math]

Pierwiastek wariancji [math]\left( \sigma=\sqrt{\sigma^2}\right)[/math] nosi nazwę odchylenia standardowego.

Kowariancja i współczynnik korelacji

Przykładowe wartości współczynnika korelacji dla 300 par [math](x, y)[/math] o różnych stopniach współzależności.

Miarą związku między zmiennymi [math]x[/math] i [math]y[/math] jest kowariancja

[math] \sigma_{x, y} = E\left( (x-\mu_{x})(y-\mu_{y})\right) [/math]

lub unormowany do jedności współczynnik korelacji zmiennych [math]x[/math] i [math]y[/math]:

[math] \rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}= \frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)} {\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}}, [/math]

gdzie [math]\mu_x[/math] i [math]\mu_y[/math] to odpowiednio wartości oczekiwane zmiennych [math]x[/math] i [math]y[/math]. Jeśli zmienne [math]x[/math] i [math]y[/math] związane są deterministyczną zależnością liniową (typu [math]y=c_1 x+c_2[/math]), to ich korelacja wynosi [math]1[/math] (lub [math]-1[/math], jeśli [math]c_1\lt 0[/math]). Jeśli wzrostowi zmiennej [math]x[/math] towarzyszy statystycznie wzrost zmiennej [math]y[/math], to ich korelacja jest dodatnia (pomiędzy [math]0[/math] a [math]1[/math]). Dla zmiennych niezależnych korelacja wynosi [math]0[/math].

Por. także ilustracje z Wikipedii.

Wariancja sumy i wariancja przeskalowanej zmiennej

Skalowanie zmiennej a wariancja. Z liniowości (2) mamy [math]E(ax+b)=a\mu+b[/math], a zatem

[math] \sigma^2(ax+b)=E\left(\left((ax+b)-(a\mu+b)\right)^2\right)=E\left(a^2(x-\mu)^2\right)=a^2 E\left((x-\mu)^2\right)=a^2\sigma^2(x) [/math]

Jak widać, przesunięcie zmiennej [math]x[/math] o stałą [math]b[/math] nie zmienia rozrzutu, a przeskalowanie stałą [math]a[/math] zmienia odchylenie standardowe proporcjonalnie do [math]|a|[/math], wariancję — z kwadratem:

[math]\sigma(ax+b)=|a|\,\sigma(x)[/math]

Suma zmiennych. Oznaczmy [math]\mu_x=E(x)[/math], [math]\mu_y=E(y)[/math]. Ponieważ [math]E(x+y)=\mu_x+\mu_y[/math], to znów wprost z definicji wariancji

[math] \sigma^2(x+y)=E\left(\left((x-\mu_x)+(y-\mu_y)\right)^2\right)= E\left((x-\mu_x)^2\right)+E\left((y-\mu_y)^2\right)+2E\left((x-\mu_x)(y-\mu_y)\right) [/math]

Dwa pierwsze składniki to [math]\sigma^2(x)[/math] i [math]\sigma^2(y)[/math], a trzeci to podwojona kowariancja zdefiniowana w poprzednim podrozdziale — czyli

[math] \sigma^2(x+y)=\sigma^2(x)+\sigma^2(y)+2\sigma_{x,y} [/math]

Zmienne niezależne. Dla zmiennych niezależnych kowariancja — a z nią współczynnik korelacji, o czym była mowa na końcu poprzedniego podrozdziału — wynosi zero. Wariancje po prostu się wtedy dodają, i to również dla różnicy:

[math] \sigma^2(x \pm y)=\sigma^2(x)+\sigma^2(y) \qquad \textrm{dla } x, y \textrm{ niezależnych.} [/math]

Zwróćmy uwagę, że dodają się wariancje, a nie odchylenia standardowe: [math]\sigma(x \pm y)=\sqrt{\sigma^2(x)+\sigma^2(y)}[/math].

Ze wzoru (4) korzystamy dalej wielokrotnie: przy wariancji rozkładu dwumianowego, w dowodzie Centralnego Twierdzenia Granicznego, przy wariancji wartości średniej ([math]\sigma^2(\overline{x})=\sigma^2(x)/n[/math]) oraz przy wariancji różnicy średnich w teście t.

---