Twierdzenia o splocie i o próbkowaniu (aliasing): Różnice pomiędzy wersjami

Z Brain-wiki
 
(Nie pokazano 12 pośrednich wersji utworzonych przez tego samego użytkownika)
Linia 5: Linia 5:
  
 
===Korelacja i splot===
 
===Korelacja i splot===
Korelacja jest miarą podobieństwa lub wzajemnej zależności.
+
Przypomnijmy z wykładu z Wnioskowania: [[WnioskowanieStatystyczne/Momenty#Kowariancja_i_wsp.C3.B3.C5.82czynnik_korelacji | Korelacja]]
 +
jest miarą podobieństwa lub wzajemnej zależności.
 
Jeśli mówimy, że występuje korelacja między wydajnością i ceną
 
Jeśli mówimy, że występuje korelacja między wydajnością i ceną
 
komputerów, to mamy na myśli stwierdzenie, że droższe komputery mają
 
komputerów, to mamy na myśli stwierdzenie, że droższe komputery mają
 
zwykle większą moc obliczeniową — im mniej przypadków przeciwnych,
 
zwykle większą moc obliczeniową — im mniej przypadków przeciwnych,
tym korelacja silniejsza.  Silna korelacja sygnałów <math>x</math> i
+
tym korelacja silniejsza.   
 +
 
 +
Silna korelacja sygnałów <math>x</math> i
 
<math>y</math> oznacza, że wzrostowi <math>x</math> towarzyszy
 
<math>y</math> oznacza, że wzrostowi <math>x</math> towarzyszy
 
najczęściej wzrost <math>y</math> <math>\left( x_\nearrow\;
 
najczęściej wzrost <math>y</math> <math>\left( x_\nearrow\;
Linia 20: Linia 23:
 
mówimy o jego wartości oczekiwanej) od każdego z sygnałów warto odjąć  
 
mówimy o jego wartości oczekiwanej) od każdego z sygnałów warto odjąć  
 
wartość średnią:
 
wartość średnią:
 +
  
 
<math>
 
<math>
 
\sigma_{x y}=\int \left(x(t)-\bar{x}\right)\left(y(t)-\bar{y}\right) dt
 
\sigma_{x y}=\int \left(x(t)-\bar{x}\right)\left(y(t)-\bar{y}\right) dt
 
</math>
 
</math>
 +
  
 
Dzięki temu w przypadku, gdy sygnały są od siebie niezależne,  
 
Dzięki temu w przypadku, gdy sygnały są od siebie niezależne,  
Linia 29: Linia 34:
 
od wartości średnich sygnałów. Aby otrzymać wartości z przedziału <math>[ -1, 1 ]</math>  
 
od wartości średnich sygnałów. Aby otrzymać wartości z przedziału <math>[ -1, 1 ]</math>  
 
wprowadzamy jako czynnik normalizacyjny wariancję sygnału:
 
wprowadzamy jako czynnik normalizacyjny wariancję sygnału:
 +
  
 
<math>
 
<math>
 
\sigma^2_s=\int\left( s(t)-\bar{s}\right)^2 dt
 
\sigma^2_s=\int\left( s(t)-\bar{s}\right)^2 dt
 
</math>
 
</math>
 +
  
 
Znormalizowaną w ten sposób kowariancję zwiemy korelacją:
 
Znormalizowaną w ten sposób kowariancję zwiemy korelacją:
 +
  
 
<math>
 
<math>
 
\mathrm{korelacja}_{x y} = \frac{\sigma_{x y}}{\sqrt{\sigma^2_x\sigma^2_y}}
 
\mathrm{korelacja}_{x y} = \frac{\sigma_{x y}}{\sqrt{\sigma^2_x\sigma^2_y}}
 
</math>
 
</math>
 +
  
 
Może się zdarzyć, że dwa sygnały są bardzo podobne, tylko przesunięte  
 
Może się zdarzyć, że dwa sygnały są bardzo podobne, tylko przesunięte  
Linia 46: Linia 55:
 
sygnału <math>s(t)</math> z jego kopią przesuniętą o <math>\tau</math>. Pomijając normalizację
 
sygnału <math>s(t)</math> z jego kopią przesuniętą o <math>\tau</math>. Pomijając normalizację
 
i odejmowanie średnich otrzymamy
 
i odejmowanie średnich otrzymamy
 +
  
 
<math>
 
<math>
 
\sigma_{s, s}(\tau)=\int s(t) s(t+\tau) dt
 
\sigma_{s, s}(\tau)=\int s(t) s(t+\tau) dt
 
</math>  
 
</math>  
 +
  
 
[[Plik:klasyczna_rys_3.jpg|thumb|center|400px|Od góry: sygnał <math>s(t)</math>, ten sam sygnał przesunięty w czasie o <math>\tau</math>, i jego funkcja autokorelacji.]]
 
[[Plik:klasyczna_rys_3.jpg|thumb|center|400px|Od góry: sygnał <math>s(t)</math>, ten sam sygnał przesunięty w czasie o <math>\tau</math>, i jego funkcja autokorelacji.]]
 +
  
 
Funkcja autokorelacji będzie miała oczywiście maksimum w zerze, a istnienie  
 
Funkcja autokorelacji będzie miała oczywiście maksimum w zerze, a istnienie  
Linia 57: Linia 69:
 
powtarzających się zjawisk. [[Model_autoregresyjny_(AR)#Twierdzenie Wienera-Chinczyna|Twierdzenie Wienera-Chinczyna]] mówi wręcz,  
 
powtarzających się zjawisk. [[Model_autoregresyjny_(AR)#Twierdzenie Wienera-Chinczyna|Twierdzenie Wienera-Chinczyna]] mówi wręcz,  
 
że widmo mocy obliczać możemy jako [[Przekształcenie Fouriera|transformatę Fouriera]] funkcji autokorelacji.  
 
że widmo mocy obliczać możemy jako [[Przekształcenie Fouriera|transformatę Fouriera]] funkcji autokorelacji.  
 +
  
 
<math>
 
<math>
Linia 63: Linia 76:
 
{\sqrt{ \int (x(t)-\mu_x)^2 dt  \int (y(t)-\mu_y)^2 dt }}
 
{\sqrt{ \int (x(t)-\mu_x)^2 dt  \int (y(t)-\mu_y)^2 dt }}
 
</math>
 
</math>
 +
  
 
lub
 
lub
 +
  
 
<math>
 
<math>
Linia 70: Linia 85:
 
{\sqrt{\sum_j (x_j-\mu_x)^2 \sum_k (y_k-\mu_y)^2}}
 
{\sqrt{\sum_j (x_j-\mu_x)^2 \sum_k (y_k-\mu_y)^2}}
 
</math>
 
</math>
 +
  
 
Rozważmy [[Przekształcenie Fouriera|transformatę Fouriera]] funkcji korelacji sygnałów <math>f</math> i <math>g</math>, dla uproszczenia pomijając normalizację:
 
Rozważmy [[Przekształcenie Fouriera|transformatę Fouriera]] funkcji korelacji sygnałów <math>f</math> i <math>g</math>, dla uproszczenia pomijając normalizację:
  
  
<math>
+
<math> \displaystyle
 
s(\tau)=\int f(t) g(t+\tau) dt
 
s(\tau)=\int f(t) g(t+\tau) dt
 
</math>
 
</math>
Linia 80: Linia 96:
  
 
<equation id="eq:29">
 
<equation id="eq:29">
<math>
+
<math>\displaystyle
 
\hat{s}(\omega)=
 
\hat{s}(\omega)=
 
\int e^{-i\omega \tau} \left( \int f(t) g(t+\tau) dt \right) d\tau  
 
\int e^{-i\omega \tau} \left( \int f(t) g(t+\tau) dt \right) d\tau  
Linia 86: Linia 102:
  
  
<math>
+
<math>\displaystyle
 
\hat{s}(\omega)=
 
\hat{s}(\omega)=
 
\int e^{i\omega t} e^{-i\omega t} e^{-i\omega \tau} \left( \int f(t) g(t+\tau) dt \right) d\tau  
 
\int e^{i\omega t} e^{-i\omega t} e^{-i\omega \tau} \left( \int f(t) g(t+\tau) dt \right) d\tau  
Linia 92: Linia 108:
  
  
<math>
+
<math>\displaystyle
=\int e^{-i\omega (t+\tau)} g(t+\tau)\; dt \int e^{i\omega t} f(t) \; d\tau
+
=\int e^{-i\omega (t+\tau)} g(t+\tau)\; d\tau \int e^{i\omega t} f(t) \; dt
 
</math>
 
</math>
  
  
<math>
+
<math>\displaystyle
 
= \int e^{-i\omega u} g(u) du \int e^{i\omega t } f(t) dt =
 
= \int e^{-i\omega u} g(u) du \int e^{i\omega t } f(t) dt =
 
\hat{g}(\omega) \overline{\hat{f}(\omega)}  
 
\hat{g}(\omega) \overline{\hat{f}(\omega)}  
Linia 109: Linia 125:
  
 
===Twierdzenie o splocie===
 
===Twierdzenie o splocie===
 +
 +
 
<equation id="eq:30">
 
<equation id="eq:30">
<math>
+
<math> \displaystyle
 
s(t) = \int_{-\infty}^{\infty} f(u) g(t-u) du  
 
s(t) = \int_{-\infty}^{\infty} f(u) g(t-u) du  
 
\;\; \Longrightarrow \;\;\;  
 
\;\; \Longrightarrow \;\;\;  
Linia 116: Linia 134:
 
</math>
 
</math>
 
</equation>
 
</equation>
 +
 +
 
... czyli splot w przestrzeni czasu odpowiada iloczynowi w przestrzeni transformat Fouriera.
 
... czyli splot w przestrzeni czasu odpowiada iloczynowi w przestrzeni transformat Fouriera.
  
Linia 122: Linia 142:
 
splotu, który jak widać z równania <xr id="eq:29">(%i)</xr> jest korelacją
 
splotu, który jak widać z równania <xr id="eq:29">(%i)</xr> jest korelacją
 
z sygnałem o odwróconym kierunku czasu.
 
z sygnałem o odwróconym kierunku czasu.
 +
  
 
'''Dowód''':
 
'''Dowód''':
  
<math>
+
 
 +
<math>\displaystyle
 
\hat{s}(\omega) = \int_{-\infty}^{\infty} e^{-i \omega t} s(t) d t =  
 
\hat{s}(\omega) = \int_{-\infty}^{\infty} e^{-i \omega t} s(t) d t =  
 
\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} e^{-i \omega t}  
 
\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} e^{-i \omega t}  
 
f(u) g(t-u) \,d u \,d t  
 
f(u) g(t-u) \,d u \,d t  
 
</math>
 
</math>
<math>
+
 
 +
 
 +
<math>\displaystyle
 
= \int_{-\infty}^{\infty} e^{- i \omega u} f(u) \left( \int_{-\infty}^{\infty}  e^{-i \omega (t-u)}g(t-u) dt \right) du  
 
= \int_{-\infty}^{\infty} e^{- i \omega u} f(u) \left( \int_{-\infty}^{\infty}  e^{-i \omega (t-u)}g(t-u) dt \right) du  
 
</math>
 
</math>
 +
  
 
Całka w nawiasie przebiega od <math>-\infty</math> do <math>\infty</math>, więc możemy zamienić <math>(t-u)</math> na <math>t</math>:
 
Całka w nawiasie przebiega od <math>-\infty</math> do <math>\infty</math>, więc możemy zamienić <math>(t-u)</math> na <math>t</math>:
  
<math>
+
 
 +
<math>\displaystyle
 
= \int_{-\infty}^{\infty} e^{- i \omega u} f(u) \left( \int_{-\infty}^{\infty} e^{- i \omega t}g(t) dt \right) du =
 
= \int_{-\infty}^{\infty} e^{- i \omega u} f(u) \left( \int_{-\infty}^{\infty} e^{- i \omega t}g(t) dt \right) du =
 
\hat{f}(\omega) \hat{g}(\omega)
 
\hat{f}(\omega) \hat{g}(\omega)
Linia 146: Linia 172:
 
Splot ma ponadto własność łączności, czyli  <math>(f*g)*h = f*(g*h)</math>.  Z definicji
 
Splot ma ponadto własność łączności, czyli  <math>(f*g)*h = f*(g*h)</math>.  Z definicji
  
<math>
+
 
 +
<math>\displaystyle
 
((f*g)*h)(u)
 
((f*g)*h)(u)
 
= \int_{-\infty}^{\infty} (f*g)(x) h(u-x)\,dx  
 
= \int_{-\infty}^{\infty} (f*g)(x) h(u-x)\,dx  
 
</math>
 
</math>
  
<math>
+
 
 +
<math>\displaystyle
 
= \int_{-\infty}^{\infty} \left[ \int_{-\infty}^{\infty} f(y) g(x-y)\,dy\right] h(u-x)\,dx  
 
= \int_{-\infty}^{\infty} \left[ \int_{-\infty}^{\infty} f(y) g(x-y)\,dy\right] h(u-x)\,dx  
 
</math>
 
</math>
  
<math>
+
 
 +
<math>\displaystyle
 
= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(y) g(x-y) h(u-x)\,dy\,dx.
 
= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(y) g(x-y) h(u-x)\,dy\,dx.
 
</math>
 
</math>
 +
  
 
Zmieniamy kolejność całkowania na mocy twierdzenia Fubiniego:
 
Zmieniamy kolejność całkowania na mocy twierdzenia Fubiniego:
  
<math>
+
 
 +
<math>\displaystyle
 
((f*g)*h)(u)
 
((f*g)*h)(u)
 
= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(y) g(x-y) h(u-x)\,dx\,dy  
 
= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(y) g(x-y) h(u-x)\,dx\,dy  
 
= \int_{-\infty}^{\infty} f(y) \left[\int_{-\infty}^{\infty} g(x-y) h(u-x)\,dx\right]\,dy.
 
= \int_{-\infty}^{\infty} f(y) \left[\int_{-\infty}^{\infty} g(x-y) h(u-x)\,dx\right]\,dy.
 
</math>
 
</math>
 +
  
 
przyjrzyjmy się całce w nawiasie kwadratowym; całki są po <math>\mathbb{R}</math>, więc na mocy niezmienności względem przesunięcia możemy przesunąć argument <math>x</math> o <math>-y</math> czyli <math>x \rightarrow (x+y)</math>:
 
przyjrzyjmy się całce w nawiasie kwadratowym; całki są po <math>\mathbb{R}</math>, więc na mocy niezmienności względem przesunięcia możemy przesunąć argument <math>x</math> o <math>-y</math> czyli <math>x \rightarrow (x+y)</math>:
  
<math>
+
 
 +
<math>\displaystyle
 
\int_{-\infty}^\infty g(x-y) h(u-x)\,dx  
 
\int_{-\infty}^\infty g(x-y) h(u-x)\,dx  
 
= \int_{-\infty}^\infty g((x+y)-y) h(u-(x+y))\,dx  
 
= \int_{-\infty}^\infty g((x+y)-y) h(u-(x+y))\,dx  
 
</math>
 
</math>
  
<math>
+
 
 +
<math>\displaystyle
 
= \int_{-\infty}^{\infty} g(x) h((u-y)-x)\,dx = (g*h)(u-y).
 
= \int_{-\infty}^{\infty} g(x) h((u-y)-x)\,dx = (g*h)(u-y).
 
</math>
 
</math>
 +
  
 
Tak więc pokazaliśmy, że  
 
Tak więc pokazaliśmy, że  
  
<math>
+
 
 +
<math>\displaystyle
 
((f*g)*h)(u) = \int_{-\infty}^{\infty} f(y)(g*h)(u-y)\,dy
 
((f*g)*h)(u) = \int_{-\infty}^{\infty} f(y)(g*h)(u-y)\,dy
 
  = (f*(g*h))(u)</math>
 
  = (f*(g*h))(u)</math>
Linia 192: Linia 228:
  
 
<references/>
 
<references/>
 +
 +
 +
<div align="right">
 +
[[Przekształcenie_Fouriera|⬅]] [[Analiza_sygnałów_-_wykład|⬆]] [[Estymacja_widma_na_podstawie_FT|⮕]]
 +
</div>

Aktualna wersja na dzień 12:06, 16 paź 2024

AS/ Twierdzenie o splocie

splot sygnałów — demo

Korelacja i splot

Przypomnijmy z wykładu z Wnioskowania: Korelacja jest miarą podobieństwa lub wzajemnej zależności. Jeśli mówimy, że występuje korelacja między wydajnością i ceną komputerów, to mamy na myśli stwierdzenie, że droższe komputery mają zwykle większą moc obliczeniową — im mniej przypadków przeciwnych, tym korelacja silniejsza.

Silna korelacja sygnałów [math]x[/math] i [math]y[/math] oznacza, że wzrostowi [math]x[/math] towarzyszy najczęściej wzrost [math]y[/math] [math]\left( x_\nearrow\; \rightarrow y_\nearrow \right)[/math]. Jeśli przeważa sytuacja odwrotna [math]\left( x_\nearrow\; \rightarrow y_\searrow \right)[/math] mówimy o korelacji ujemnej.

Miarą współzmienności (kowariancji) dwóch sygnałów jest ich iloczyn. Przed obliczeniem tego iloczynu (w ogólnym przypadku mówimy o jego wartości oczekiwanej) od każdego z sygnałów warto odjąć wartość średnią:


[math] \sigma_{x y}=\int \left(x(t)-\bar{x}\right)\left(y(t)-\bar{y}\right) dt [/math]


Dzięki temu w przypadku, gdy sygnały są od siebie niezależne, [math]\sigma_{x y}[/math] będzie bliska zeru — uniezależnia to miarę kowariancji od wartości średnich sygnałów. Aby otrzymać wartości z przedziału [math][ -1, 1 ][/math] wprowadzamy jako czynnik normalizacyjny wariancję sygnału:


[math] \sigma^2_s=\int\left( s(t)-\bar{s}\right)^2 dt [/math]


Znormalizowaną w ten sposób kowariancję zwiemy korelacją:


[math] \mathrm{korelacja}_{x y} = \frac{\sigma_{x y}}{\sqrt{\sigma^2_x\sigma^2_y}} [/math]


Może się zdarzyć, że dwa sygnały są bardzo podobne, tylko przesunięte względem siebie w czasie. W wykryciu takiej sytuacji pomaga funkcja korelacji wzajemnej, czyli korelacja dwóch sygnałów w funkcji ich wzajemnego przesunięcia. Z kolei autokorelacja to miara korelacji sygnału [math]s(t)[/math] z jego kopią przesuniętą o [math]\tau[/math]. Pomijając normalizację i odejmowanie średnich otrzymamy


[math] \sigma_{s, s}(\tau)=\int s(t) s(t+\tau) dt [/math]


Od góry: sygnał [math]s(t)[/math], ten sam sygnał przesunięty w czasie o [math]\tau[/math], i jego funkcja autokorelacji.


Funkcja autokorelacji będzie miała oczywiście maksimum w zerze, a istnienie innych maksimów związane jest z występowaniem w sygnale okresowo powtarzających się zjawisk. Twierdzenie Wienera-Chinczyna mówi wręcz, że widmo mocy obliczać możemy jako transformatę Fouriera funkcji autokorelacji.


[math] \mathrm{corr}\left(x(t),y(t)\right) = \frac{\sigma^2_{x y}}{\sigma_x \sigma_y} = \frac{\int (x(t)-\mu_x)( y(t)-\mu_y) dt } {\sqrt{ \int (x(t)-\mu_x)^2 dt \int (y(t)-\mu_y)^2 dt }} [/math]


lub


[math] \frac{\sum_i (x_i-\mu_x)(y_i-\mu_y)} {\sqrt{\sum_j (x_j-\mu_x)^2 \sum_k (y_k-\mu_y)^2}} [/math]


Rozważmy transformatę Fouriera funkcji korelacji sygnałów [math]f[/math] i [math]g[/math], dla uproszczenia pomijając normalizację:


[math] \displaystyle s(\tau)=\int f(t) g(t+\tau) dt [/math]


[math]\displaystyle \hat{s}(\omega)= \int e^{-i\omega \tau} \left( \int f(t) g(t+\tau) dt \right) d\tau [/math]


[math]\displaystyle \hat{s}(\omega)= \int e^{i\omega t} e^{-i\omega t} e^{-i\omega \tau} \left( \int f(t) g(t+\tau) dt \right) d\tau [/math]


[math]\displaystyle =\int e^{-i\omega (t+\tau)} g(t+\tau)\; d\tau \int e^{i\omega t} f(t) \; dt [/math]


[math]\displaystyle = \int e^{-i\omega u} g(u) du \int e^{i\omega t } f(t) dt = \hat{g}(\omega) \overline{\hat{f}(\omega)} [/math]


Jak widać, operator korelacji odpowiada w przestrzeni transformat Fouriera iloczynowi transformaty jednego sygnału ze sprzężeniem zespolonym transformaty drugiego.

Twierdzenie o splocie

[math] \displaystyle s(t) = \int_{-\infty}^{\infty} f(u) g(t-u) du \;\; \Longrightarrow \;\;\; \hat{s}(\omega) = \hat{f}(\omega) \hat{g}(\omega) [/math]


... czyli splot w przestrzeni czasu odpowiada iloczynowi w przestrzeni transformat Fouriera.

Jest to wynik wygodniejszy od wzoru (1), stąd filtrowanie realizowane jest właśnie z pomocą splotu, który jak widać z równania (1) jest korelacją z sygnałem o odwróconym kierunku czasu.


Dowód:


[math]\displaystyle \hat{s}(\omega) = \int_{-\infty}^{\infty} e^{-i \omega t} s(t) d t = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} e^{-i \omega t} f(u) g(t-u) \,d u \,d t [/math]


[math]\displaystyle = \int_{-\infty}^{\infty} e^{- i \omega u} f(u) \left( \int_{-\infty}^{\infty} e^{-i \omega (t-u)}g(t-u) dt \right) du [/math]


Całka w nawiasie przebiega od [math]-\infty[/math] do [math]\infty[/math], więc możemy zamienić [math](t-u)[/math] na [math]t[/math]:


[math]\displaystyle = \int_{-\infty}^{\infty} e^{- i \omega u} f(u) \left( \int_{-\infty}^{\infty} e^{- i \omega t}g(t) dt \right) du = \hat{f}(\omega) \hat{g}(\omega) [/math]

Iloczyn i korelacja dyskretnych sekwencji [math]x[/math] i [math]y\ldots[/math]


Splot ma ponadto własność łączności, czyli [math](f*g)*h = f*(g*h)[/math]. Z definicji


[math]\displaystyle ((f*g)*h)(u) = \int_{-\infty}^{\infty} (f*g)(x) h(u-x)\,dx [/math]


[math]\displaystyle = \int_{-\infty}^{\infty} \left[ \int_{-\infty}^{\infty} f(y) g(x-y)\,dy\right] h(u-x)\,dx [/math]


[math]\displaystyle = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(y) g(x-y) h(u-x)\,dy\,dx. [/math]


Zmieniamy kolejność całkowania na mocy twierdzenia Fubiniego:


[math]\displaystyle ((f*g)*h)(u) = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(y) g(x-y) h(u-x)\,dx\,dy = \int_{-\infty}^{\infty} f(y) \left[\int_{-\infty}^{\infty} g(x-y) h(u-x)\,dx\right]\,dy. [/math]


przyjrzyjmy się całce w nawiasie kwadratowym; całki są po [math]\mathbb{R}[/math], więc na mocy niezmienności względem przesunięcia możemy przesunąć argument [math]x[/math] o [math]-y[/math] czyli [math]x \rightarrow (x+y)[/math]:


[math]\displaystyle \int_{-\infty}^\infty g(x-y) h(u-x)\,dx = \int_{-\infty}^\infty g((x+y)-y) h(u-(x+y))\,dx [/math]


[math]\displaystyle = \int_{-\infty}^{\infty} g(x) h((u-y)-x)\,dx = (g*h)(u-y). [/math]


Tak więc pokazaliśmy, że


[math]\displaystyle ((f*g)*h)(u) = \int_{-\infty}^{\infty} f(y)(g*h)(u-y)\,dy = (f*(g*h))(u)[/math]