Signale und Systeme - Zufallsprozesse und zugehörige Spektren

1. Laplaceverteilung

Aufgabenstellung

Gegeben ist die Laplace-verteilte Zufallsvariable \(v\), für deren Wahrscheinlichkeitsdichtefunktion gilt \(    f_v(x) = \frac{\alpha}{2} \, e^{-\alpha|x|} \) .

  1. Skizzieren Sie die Wahrscheinlichkeitsdichtefunktion \(f_v(x)\) und auch grob die Wahrscheinlichkeitsverteilung \(F_v(x)\). Welcher Wertebereich ist für den Parameter \(\alpha\) zulässig?
  2. Berechnen Sie die Wahrscheinlichkeitsverteilung \(F_v(x)\).
  3. Berechnen Sie den Erwartungswert \(\textrm{E}\{v\}\) sowie die Varianz \(\sigma^2_v\).
  4. Bestimmen Sie die charakteristische Funktion \(C_v(\omega)\) der Laplaceverteilung.
  5. Mit Hilfe des Momententheorems
                    \(
                        \textrm{E}\{v^k\} = \left. \frac{1}{j^k} \frac{d^k C_v(\omega)}{d \omega^k} \right |_{\omega=0}
                    \)
    kann das \(k\)te Moment aus der charakteristischen Funktion bestimmt werden. Über-prüfen Sie damit Ihre Ergebnisse aus Teilaufgabe (c).

Umfang und Schwierigkeitsgrad

  • Zeitlicher Umfang: ca. 30 Minuten
  • Schwierigkeitsgrad: leicht

Lösung

  1. Es muss gelten \(\alpha > 0\).
  2. Für die Wahrscheinlichkeitsfunktion ergibt sich \( F_v(x) = \frac{1}{2} \, e^{\alpha x} + \delta_{-1}(x)\left(-\frac{1}{2} \, e^{\alpha x} + 1 - \frac{1}{2} \, e^{-\alpha x}  \right) = \frac{1}{2} \, e^{-\alpha |x|} + \delta_{-1}(x)\left( 1 - \frac{1}{2} \, e^{-\alpha x}  \right) \).
  3. Für Erwartungswert und Varianz der Zufallsvariable \(v\) gitl: \( \textrm{E}\{v\} = m_v = 0 \qquad \sigma_v^2 = \frac{2}{\alpha^2} \)
  4. Die charakteristische Funktion ist \( C_v(\omega) = \frac{\alpha^2}{\omega^2 + \alpha^2} \).
  5. Ja, es klappt.

2. Stationarität und Ergodizität

Aufgabenstellung

In dieser Aufgabe werden wichtige Grundbegriffe zur Beschreibung von Zufalls"-prozessen wiederholt.

  1. Zwei bedeutende Wahrscheinlichkeitsdichtefunktionen sind die Gleichverteilung und die Normalverteilung (auch Gaußverteilung genannt). Geben Sie jeweils die Verteilungsdichtefunktionen an und skizzieren Sie diese.
  2. Was bedeutet Stationarität?
  3. Was bedeutet Ergodizität?
  4. Gegeben seien \(N\) Werte  \(v(n)\) der Realisierung eines Zufallsprozesses. Wie können Schätzwerte \(\hat m_v\) und \(\hat \sigma_v^2\) für Mittelwert und Varianz des Prozesses bestimmt werden?

Umfang und Schwierigkeitsgrad

  • Zeitlicher Umfang: ca. 30 Minuten
  • Schwierigkeitsgrad: leicht

Lösung

  1. Gleichverteilung:

    Verteilungsdichtefunktion: \( f_{vg}(v) = \begin{cases} \frac{1}{v_\textrm{max}-v_\textrm{min}}, & v_\textrm{min} \leq v \leq v_\textrm{max} \\ 0 , & \textrm{sonst} \end{cases}\)

    Mittelwert: \(m_{vg} = \frac{v_\textrm{max}+v_\textrm{min}}{2} \)

    Varianz: \(\sigma_{vg}^2 = \frac{1}{12}\left(v_\textrm{max}-v_\textrm{min}\right)^2\)

    Normalverteilung:

    Verteilungsdichtefunktion: \( f_{vn}(v) = \frac{1}{\sqrt{2\pi}\sigma_{vn}}e^{-\frac{\left(v-m_{vn}\right)^2}{2\sigma_{vn}^2}}\)

    Mittelwert: \(m_{vn}\) kann direkt aus \(f_{vn}(v)\) abgelesen werden

    Varianz: \(\sigma_{vn}^2\) kann direkt aus \(f_{vn}(v)\) abgelesen werden

  2. Bei stationären Prozessen ist die Wahrscheinlichkeitsdichte in allen Beobachtungszeitpunkten gleich, d.h. \(f_v(x,t) = f_v(x) \quad \textrm{bzw.} \quad f_v(x,n) = f_v(x). \) Daraus folgt, dass alle Momente \[\textrm{E}\left\{v^k\right\} = m_v^{(k)} = \int_{-\infty}^{\infty} x^k f_v(x) \, dx \] ebenfalls zeitunabhängig sind (auch für diskrete Zufallsvariablen). Gleiches gilt für die zentralen Momente.
  3. Bei ergodischen Zufallsprozessen stimmen die Zeitmittelwerte mit den Scharmittelwerten überein. Stationarität ist Voraussetzung für Ergodizität. Seien \(K\) Realisierungen \(v_k(n)\) eines Zufallsprozesses mit jeweils \(N\) Stützstellen gegeben, gilt für den Zeitmittelwert \[ \lim_{N \rightarrow \infty} \frac{1}{N} \sum_{n=1}^{N} v_k(n)\] für die Realisierung \(k\) und für den Scharmittelwert \[ \lim_{K \rightarrow \infty} \frac{1}{K} \sum_{k=1}^{K} v_k(n_0)\] zum Zeitpunkt \(n_0\) .
  4. Schätzungen für Mittelwert und Varianz des beobachteten Zufallsprozesses sind \[\hat{m}_v = \frac{1}{N} \sum_{n=1}^{N} v(n) \] \[ \hat{\sigma}^2_v = \frac{1}{N} \sum_{n=1}^{N} \left( v(n)-\hat{m}_v \right)^2.\] Je länger die Beobachtung ist, also je großer \(N\), desto genauer ("`besser"') wird die Schätzung. Die Varianz wird manchmal auch auf \(\frac{1}{N-1}\) normiert - bei großen \(N\) fällt dies jedoch kaum ins Gewicht.

3. Kreuz- und Autokorrelation

Aufgabenstellung

In dieser Aufgabe werden einige Eigenschaften der Kreuzkorrelationsfunktion (KKF) bzw. -folge und der Autokorrelationsfunktion (AKF) bzw. -folge untersucht.

  1. Zeigen Sie, dass für die KKF gilt \(s_{v_1 v_2}(\kappa) = s^*_{v_2 v_1}(-\kappa).\) Was folgt daraus für die KKF der reellen Signale \(v_1(n),\; v_2(n)\)? Wie kann dieser Zusammenhang auf die AKF eines reellen Signals übertragen werden?
  2. Zeigen Sie, dass für zwei reelle Zufallsvariablen \(v_1\) und \(v_2\) die Cauchy-Schwarz-Ungleichung gilt:
    \( \left[\textrm{E}\{v_1v_2\}\right]^2 \leq \textrm{E}\{v_1^2\} \, \textrm{E}\{v_2^2\}. \)
    Was folgt daraus für die AKF eines reellen Signals?
  3. Wie lassen sich die in 1 und 2 für diskrete Signale erzielten Ergebnisse auf die KKF bzw. AKF von kontinuierlichen Signale übertragen?
  4. Das Leistungsdichtespektrum \(S_{vv}(j\omega)\) ist die Fouriertransformierte der AKF \(s_{vv}(\tau)\). Zeigen Sie, dass für \(\forall \omega \in \mathbb{R}\) gilt: \(S_{vv}(j\omega) \geq 0\).

Umfang und Schwierigkeitsgrad

  • Zeitlicher Umfang: ca. 30 Minuten
  • Schwierigkeitsgrad: leicht

Lösung

  1. Für die Kreuzkorrlierte gilt \[ s_{v_2 v_1}^\ast(-\kappa) = \Big[ \textrm{E}\big\{ v_2(n) \, v_1^\ast(n-\kappa) \big\} \Big]^\ast \qquad \big| \; m=n-\kappa \] \[ s_{v_2 v_1}^\ast(-\kappa) = \Big[ \textrm{E}\big\{ v_2(m+\kappa) \, v_1^\ast(m) \big\} \Big]^\ast \] \[ s_{v_2 v_1}^\ast(-\kappa) = \textrm{E}\big\{ v_1(m) \, v_2^\ast(m+\kappa) \big\} \] \[ s_{v_2 v_1}^\ast(-\kappa) = s_{v_1 v_2}(\kappa). \] Die komplexe Konjugation hat keine Auswirkung auf reellwertige Signale, daher gilt \[ s_{v_1 v_2}(\kappa) = s_{v_1 v_2}(-\kappa). \] Für die Autokorrelation, also den Fall \(v_1(n) = v_2(n) = v(n)\), gilt \[ s_{vv}(\kappa) = s_{vv}(-\kappa). \]
  2. Da der Erwartungswert einer quadrierten Zahl positiv ist, gilt die Aussage \[ \textrm{E}\left\{ \left(a \, v_1-v_2 \right)^2 \right\} \geq 0 \] für beliebige Parameter \(a\). Durch geschickte Wahl von \(a\) lässt sich die Cauchy-Schwartz-Ungleichung ableiten. \[ \textrm{E}\left\{ \left(a \, v_1-v_2 \right)^2 \right\} \geq 0 \] \[ a^2 \textrm{E}\left\{ v_1^2 \right\} - 2a \textrm{E}\left\{ v_1 v_2 \right\} + \textrm{E}\left\{ v_2^2 \right\} \geq 0 \qquad \bigg| \; a = \frac{\textrm{E}\left\{ v_1v_2 \right\} }{\textrm{E}\left\{ v_1^2 \right\} } \] \[\frac{\left[ \textrm{E}\left\{ v_1v_2 \right\} \right]^2}{\textrm{E}\left\{ v_1^2 \right\} } -2\frac{\left[ \textrm{E}\left\{ v_1v_2 \right\} \right]^2}{\textrm{E}\left\{ v_1^2 \right\} } + \textrm{E}\left\{v_2^2\right\} \geq 0 \] \[\textrm{E}\left\{v_2^2\right\} \geq \frac{\left[ \textrm{E}\left\{ v_1v_2 \right\} \right]^2}{\textrm{E}\left\{ v_1^2 \right\} } \] \[\textrm{E}\left\{v_1^2\right\} \cdot \textrm{E}\left\{v_2^2\right\} \geq \left[ \textrm{E}\left\{ v_1v_2 \right\} \right]^2\] Für die Autokorrelierte gilt \[\underbrace{\left[ \textrm{E}\left\{ v(n)v(n+\kappa) \right\} \right]^2}_{s_{vv}(\kappa)} \leq \underbrace{\textrm{E}\left\{v^2(n)\right\}}_{s_{vv}(0)} \cdot \underbrace{\textrm{E}\left\{v^2(n+\kappa)\right\}}_{s_{vv}(0)} \] \[s_{vv}^2(0) \geq s_{vv}^2(\kappa) \] \[\Rightarrow \quad s_{vv}(0) \geq |s_{vv}(\kappa)|\]
  3. Die Ergebnisse lassen sich direkt auf kontinuierliche Signale übertragen. Es muss nur \(n\) durch \(t\) und \(\kappa\) durch \(\tau\) ersetzt werden.
  4. Für die AKF des Ausgangssignals des Bandpassfilters aus dem Lösungsansatz sowie das Leistungsdichtespektrum gilt \[s_{yy}(0) = \textrm{E}\left\{ y_2^2 \right\} \geq 0 \] \[S_{yy}(j\omega) = \mathcal{F}\left\{ s_{yy}(\tau) \right\} = \left|H(j\omega)\right|^2 S_{vv}(j\omega) \] \[s_{yy}(\tau) = \mathcal{F}^{-1}\left\{ S_{yy}(j\omega) \right\} = \frac{1}{2\pi} \int_{-\infty}^{\infty} S_{yy}(j\omega) \, e^{j\omega\tau} d\omega\] Für \(\tau=0\) ergibt sich also \[s_{yy}(0) = \frac{1}{2\pi} \int_{-\infty}^{\infty} S_{yy}(j\omega) \, \underbrace{e^{j\omega 0}}_{=1} \, d\omega \] \[ s_{yy}(0) = \frac{1}{2\pi} \int_{-\infty}^{\infty} |H(j\omega)|^2 \, S_{vv}(j\omega) \, d\omega \] Annahme: \(H(j\omega)\) sei ein sehr schmalbandiges Bandpassfilter \[H(j\omega) = \begin{cases}1, & \omega_0-\varepsilon < \omega < \omega_0+\varepsilon \\0, & \textrm{sonst} \end{cases} \] mit \(\varepsilon \rightarrow 0\), so dass \(S_{vv}(j\omega)\) im Durchlassbereich um die Frequenz \(\omega_0\) annähernd konstant ist. Damit lässt sich weiter vereinfachen: \[s_{yy}(0) = \frac{1}{2\pi} \int_{\omega_0-\varepsilon}^{\omega_0+\varepsilon} |H(j\omega)|^2 \, S_{vv}(j\omega) \, d\omega \] \[ s_{yy}(0) \approx \frac{S_{vv}(j\omega_0) }{2\pi} \int_{\omega_0-\varepsilon}^{\omega_0+\varepsilon} 1 \, d\omega \] \[ s_{yy}(0) = \frac{S_{vv}(j\omega_0) }{2\pi} \cdot 2\varepsilon \geq 0\] Da dies für alle \(\omega_0\) gilt: \(S_{vv}(j\omega) \geq 0\).

Recent Publications

P. Durdaut, J. Reermann, S. Zabel, Ch. Kirchhof, E. Quandt, F. Faupel, G. Schmidt, R. Knöchel, and M. Höft: Modeling and Analysis of Noise Sources for Thin-Film Magnetoelectric Sensors Based on the Delta-E Effect, IEEE Transactions on Instrumentation and Measurement, published online, 2017

P. Durdaut, S. Salzer, J. Reermann, V. Röbisch, J. McCord, D. Meyners, E. Quandt, G. Schmidt, R. Knöchel, and M. Höft: Improved Magnetic Frequency Conversion Approach for Magnetoelectric Sensors, IEEE Sensors Letters, published online, 2017

 

Website News

18.06.2017: Page about KiRAT news added (also visible in KiRAT).

31.05.2017: Some pictures added.

23.04.2017: Time line for the lecture "Adaptive Filters" added.

13.04.2017: List of PhD theses added.

Contact

Prof. Dr.-Ing. Gerhard Schmidt

E-Mail: gus@tf.uni-kiel.de

Christian-Albrechts-Universität zu Kiel
Faculty of Engineering
Institute for Electrical Engineering and Information Engineering
Digital Signal Processing and System Theory

Kaiserstr. 2
24143 Kiel, Germany

Recent News

Alexej Namenas - A New Guy in the Team

In June Alexej Namenas started in the DSS Team. He will work on real-time tracking algorithms for SONAR applications. Alexej has done both theses (Bachelor and Master) with us. The Bachelor thesis in audio processing (beamforming) and the Master thesis in the medical field (real-time electro- and magnetocardiography). In addition, he has intership erperience in SONAR processing.

We are pretty ...


Read more ...