WnioskowanieStatystyczne/Regresja liniowa - Historia wersji

Durka: /* Regresja liniowa */

2024-04-25T18:49:39Z

Regresja liniowa

Durka: /* Regresja liniowa */

2023-04-20T16:47:34Z

Regresja liniowa

Durka: /* Regresja liniowa */

2023-04-20T16:47:00Z

Regresja liniowa

Durka: /* Regresja liniowa */

2023-04-20T16:46:30Z

Regresja liniowa

Durka: /* Regresja liniowa */

2023-04-20T16:42:10Z

Regresja liniowa

Durka: /* Regresja liniowa */

2023-04-20T16:40:38Z

Regresja liniowa

Durka: /* Regresja liniowa */

2023-04-20T16:39:55Z

Regresja liniowa

Durka: /* Interpretacja współczynnika korelacji */

2018-05-31T06:35:55Z

Interpretacja współczynnika korelacji

Durka: /* Interpretacja współczynnika korelacji */

2017-04-27T19:53:26Z

Interpretacja współczynnika korelacji

Durka: /* Interpretacja współczynnika korelacji */

2017-04-27T19:49:40Z

Interpretacja współczynnika korelacji

@@ Linia 11: / Linia 11: @@
 dla określonych <math>x_{i}</math> przy założeniu wartości
 <math>a</math> i <math>b</math>
 <math>
-P(\overline{y}\mid \overline{x},a,b)
+P(\overline{y} \mid \overline{x}, a, b)
 =\underset{i=1}{\overset{N}{\prod }}
 \frac{1}{\sqrt{2\pi \sigma _{i}^{2}}}e^{\frac{(y_{i}-a-bx_{i})^{2}}{2\sigma_{i}^{2}}}
-=\frac{1}{\sqrt{(2\pi )^{n}}} \cdot \underset{i=1}{\overset{N}{\prod }}
+=\frac{1}{\sqrt{(2\pi )^{n}}} \; \underset{i=1}{\overset{N}{\prod }}
-\frac{1}{\sigma _{i}} \cdot e^{-\frac{1}{2}\underset{i=1}{\overset{N}{\sum }}\frac{
+\frac{1}{\sigma _{i}} \; e^{-\frac{1}{2}\underset{i=1}{\overset{N}{\sum }}\frac{
 (y_{i}-a-bx_{i})^{2}}{\sigma _{i}^{2}}}
 </math>
 logarytmiczna funkcja wiarygodności:
 <math>
@@ Linia 28: / Linia 31: @@
 (y_{i}-a-bx_{i})^{2}}{\sigma _{i}^{2}}
 </math>
 <math>\sigma _{i}</math> zwykle nie znamy, więc przyjmujemy jako stałą
@@ Linia 38: / Linia 42: @@
 w zerze pochodnej po parametrach
 <math>a</math> i <math>b</math>
@@ Linia 81: / Linia 84: @@
-po podstawieniu liczymy pochodną po <math>b</math>
+po podstawieniu przyrównujemy do zera pochodną po <math>b</math>
 <math>
-\frac{\partial S}{\partial b}= -2\sum_{i=1}^N \left( (y_{i} - \bar{y}) - b(x_{i} - \bar{x})\right)\left(x_{i}-\bar{x}\right) = 0
+\dfrac{\partial S}{\partial b}= -2\sum_{i=1}^N \left( (y_{i} - \bar{y}) - b(x_{i} - \bar{x})\right)\left(x_{i}-\bar{x}\right) = 0
 </math>
 <math>
 \sum_{i=1}^N \left(y_{i} - \bar{y}\right)\left(x_i - \bar{x}\right) - b\sum_{i=1}^N \left(x_i - \bar{x}\right)^2 = 0
 </math>
 <math>
-b = \frac{\sum_{i=1}^N \left(y_{i} - \bar{y}\right)\left(x_i - \bar{x}\right)}{\sum_{i=1}^N \left(x_{i}-\bar{x}\right)^2}
+b = \dfrac{\sum_{i=1}^N \left(y_{i} - \bar{y}\right)\left(x_i - \bar{x}\right)}{\sum_{i=1}^N \left(x_{i}-\bar{x}\right)^2}
 </math>
-czyli
 <math>
-b=\frac{\underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x})(y_{i}-
+b=\dfrac{\underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x})(y_{i}-
 \overline{y})}{\underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x})^{2}},
 \qquad a=\overline{y}-b\overline{x}
 </math>

@@ Linia 61: / Linia 61: @@
 a = \bar{y} - b\bar{x}
 </math>
 wyznaczone stąd <math>a</math> podstawiamy do wzoru na <math>S</math>

@@ Linia 36: / Linia 36: @@
 }}(y_{i}-a-bx_{i})^{2}</math>
-— w zerze pochodnej po parametrach
+w zerze pochodnej po parametrach
 <math>a</math> i <math>b</math>

@@ Linia 31: / Linia 31: @@
 <math>\sigma _{i}</math> zwykle nie znamy, więc przyjmujemy jako stałą
 <math>\forall i  \sigma _{i}=\sigma</math>. Pozostaje szukanie minimum
-sumy <math>S=\underset{i=1}{\overset{N}{\sum
+sumy
-}}(y_{i}-a-bx_{i})^{2}</math>, w zerze pochodnej po parametrach
 <math>a</math> i <math>b</math>
 <math>

@@ Linia 41: / Linia 41: @@
 \underset{i=1}{\overset{N}{\sum }} y_i = \underset{i=1}{\overset{N}{\sum }} a + b\underset{i=1}{\overset{N}{\sum }} x_i \\
-\underset{i=1}{\overset{N}{\sum }} y_i = n a + b\underset{i=1}{\overset{N}{\sum }} x_i \\
+\underset{i=1}{\overset{N}{\sum }} y_i = N a + b\underset{i=1}{\overset{N}{\sum }} x_i \\
 \frac{1}{N}

@@ Linia 43: / Linia 43: @@
 \underset{i=1}{\overset{N}{\sum }} y_i = n a + b\underset{i=1}{\overset{N}{\sum }} x_i \\
-<!--\frac{1}{N} -->
+\frac{1}{N}
 \underset{i=1}{\overset{N}{\sum }} y_{i}
-= a + \frac{1}{N} b\\underset{i=1}{\overset{N}{\sum }} x_i
+= a + \frac{1}{N} b \underset{i=1}{\overset{N}{\sum }} x_i
 </math>

@@ Linia 37: / Linia 37: @@
 <math>
 \frac{\partial S}{\partial a}=-2\underset{i=1}{\overset{N}{\sum }}(y_{i}-a-bx_{i})\\
-\sum_{i=1}^N \left(y_i - a - bx_i\right) = 0 \\
+\underset{i=1}{\overset{N}{\sum }} \left(y_i - a - bx_i\right) = 0 \\
-\sum_{i=1}^N y_i = \sum_{i=1}^N a + b\sum_{i=1}^N x_i \\
-\sum_{i=1}^N y_i = n a + b\sum_{i=1}^N x_i \\
+\underset{i=1}{\overset{N}{\sum }} y_i = \underset{i=1}{\overset{N}{\sum }} a + b\underset{i=1}{\overset{N}{\sum }} x_i \\
-\frac{1}{N}\sum_{i=1}^N y_{i} = a + \frac{1}{N} b\sum_{i=1}^N x_i
 </math>
@@ Linia 59: / Linia 64: @@
 <math>
-= \underset{i=1}{\overset{N}{\sum
+= \underset{i=1}{\overset{N}{\sum}}(y_{i}-\bar{y} - b\bar{x}-bx_{i})^{2}
 </math>

← poprzednia wersja		Wersja z 06:35, 31 maj 2018
Linia 90:		Linia 90:
	\qquad a=\overline{y}-b\overline{x}		\qquad a=\overline{y}-b\overline{x}
	</math>		</math>
−
−
−
−
−
−	~~==Interpretacja współczynnika korelacji==~~
−
−	~~Rozważmy wariancję zmiennej <math>y</math> z poprzedniego~~
−	~~rozdziału. Niech <math>y_{i}^{p}=a+bx_{i}</math>~~
−
−	~~<math>~~
−	~~\underset{i=1}{\overset{N}{\sum }}(y_{i}-\overline{y})^{2}=~~
−	~~\underset{i=1}{\overset{N}{\sum }}(y_{i}-y_{i}^{p}+y_{i}^{p}-\overline{y}~~
−	~~)^{2}=~~
−	~~</math>~~
−	~~<math>~~
−	~~\underset{i=1}{\overset{N}{\sum }}(y_{i}-y_{i}^{p})^{2}+\underset{i=1}{~~
−	~~\overset{N}{\sum }}(y_{i}^{p}-\overline{y})^{2}+2\underset{i=1}{\overset{N}{~~
−	~~\sum }}(y_{i}-y_{i}^{p})(y_{i}^{p}-\overline{y})~~
−	~~</math>~~
−
−	~~Całkowitą wariancię zmiennej <math>y</math> podzieliliśmy na dwa~~
−	~~człony: wariancję estymaty <math>y_{i}^{p}</math> wokół wartości~~
−	~~średniej <math>\overline{y}</math> i wariancję obserwowanych~~
−	~~<math>y_{i}</math> wokół estymaty <math>y_{i}^{p}</math> (trzeci człon~~
−	~~[https://en.wikipedia.org/wiki/Explained_sum_of_squares#Simple_derivation znika]).~~
−
−	~~'''Współczynnik korelacji'''~~
−
−
−	~~<math>~~
−	~~\rho_{x, y}= \frac{\sigma_{x, y}}{\sigma_x \sigma_y}=~~
−	~~\frac{E\left( \left(x-\mu_{x})(y-\mu_{y}\right)\right)}~~
−	~~{\sqrt{E\left( (x-\mu_{x})^2\right) E\left( (y-\mu_{y})^2\right)}},~~
−	~~</math>~~
−
−	~~jego kwadrat estymujemy jako~~
−
−	~~<math>~~
−	~~\rho ^{2}=\frac{\left( \underset{i=1}{\overset{N}{\sum }}(x_{i}-~~
−	~~\overline{x})(y_{i}-\overline{y})\right) ^{2}}{\underset{i=1}{\overset{N}{~~
−	~~\sum }}(x_{i}-\overline{x})^{2}\underset{i=1}{\overset{N}{\sum }}(y_{i}-~~
−	~~\overline{y})^{2}}~~
−	~~</math>~~
−
−
−	~~Rozważmy~~
−
−	~~<math>~~
−	~~{ \underset{i=1}{\overset{N}{\sum }}(y_{i}^{p}-\overline{y})^{2}=b^{2}~~
−	~~\underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x})^{2}=\frac{\left(~~
−	~~\underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x})(y_{i}-\overline{y}~~
−	~~)\right) ^{2}}{\left( \underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x}~~
−	~~)^{2}\right) ^{2}}\underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x}~~
−	~~)^{2}=\ }~~
−	~~</math>~~
−
−	~~<math>~~
−	~~{ =\frac{\left( \underset{i=1}{\overset{N}{\sum }}(x_{i}-\overline{x}~~
−	~~)(y_{i}-\overline{y})\right) ^{2}}{\underset{i=1}{\overset{N}{\sum }}(x_{i}-~~
−	~~\overline{x})^{2}}\frac{\underset{i=1}{\overset{N}{\sum }}(y_{i}-\overline{y}~~
−	~~)^{2}}{\underset{i=1}{\overset{N}{\sum }}(y_{i}-\overline{y})^{2}}=\rho ^{2}~~
−	~~\underset{i=1}{\overset{N}{\sum }}(y_{i}-\overline{y})^{2}\ }~~
−	~~</math>~~
−
−	~~czyli~~
−
−	~~<math>~~
−	~~{ \rho ^{2}=\frac{\underset{i=1}{\overset{N}{\sum }}(y_{i}^{p}-~~
−	~~\overline{y})^{2}}{\underset{i=1}{\overset{N}{\sum }}(y_{i}-\overline{y})^{2}~~
−	~~}\ }~~
−	~~</math>~~
−
−	~~przykłady interpretacji podaje też [https://en.wikipedia.org/wiki/Correlation_and_dependence artykuł z Wikipedii]~~
−
−
−	~~[[Plik:Korelacja.png\|600px\|thumb\|left\|<figure id="fig:rozw2"></figure>Przykładowe wartości współczynnika korelacji dla 300 par <math>(x, y)</math> o~~
−	~~różnych stopniach współzależności.~~
−	]]

← poprzednia wersja		Wersja z 19:53, 27 kwi 2017
Linia 162:		Linia 162:
	}\ }		}\ }
	</math>		</math>
		+
		+	przykłady interpretacji podaje też [https://en.wikipedia.org/wiki/Correlation_and_dependence artykuł z Wikipedii]

@@ Linia 126: / Linia 126: @@
 </math>
-możemy estymować jako
+jego kwadrat estymujemy jako
 <math>