Kernschätzer < Stochastik < Hochschule < Mathe < Vorhilfe
|
Aufgabe | Sei [mm]K[/mm] eine Funktion mit [mm]\int{K(t) \ dt}=1[/mm]. Setze [mm]K_b(t)=\frac{K\left(\frac{t}{b}\right)}{b}[/mm].
Der Kernschätzer mit Kern [mm]K[/mm] und Bandweite [mm]b_n[/mm] ist definiert durch [mm]\hat f_n(x)=\frac{1}{n}\cdot{}\sum\limits_{i=1}^nK_{b_n}(x-X_i)[/mm]
Hierbei sind [mm]X_1,\ldots, X_n[/mm] unabh. Beobachtungen mit Dichte [mm]f[/mm], und wir wollen [mm]f(x)[/mm] schätzen. |
Hallo zusammen,
soweit die Definition, nun kommt's:
"Um die Konstistenz von [mm]\hat f_n(x)[/mm] zu zeigen, schreiben wir gem. Chebyshev-Ungleichung:
[mm]P\left(\left|\hat f_n(x)-f(x)\right| \ > \ \varepsilon\right) \ \le \ \frac{1}{\varepsilon^2}E\left[\left(\hat f_n(x)-f(x)\right)^2\right][/mm]
Der Erwarungswert [mm]E\left[\left(\hat f_n(x)-f(x)\right)^2\right][/mm] ist der mittlere quadratische Fehler von [mm]\hat f_n(x)[/mm], den wir schreiben können als
[mm]E\left[\left(\hat f_n(x)-f(x)\right)^2\right] \ = \ E\left[\left(\hat f_n(x)-E\left[\hat f_n(x)\right]\right)^2\right] \ + \ \left( E\left[\hat f_n(x)\right]-f(x)\right)^2 \ = \ Var\left(\hat f_n(x)\right)+\left[Bias\left(\hat f_n(x)\right)\right]^2[/mm] "
So, hier tut sich eine Unklarheit auf ...
Wir hatten die Chebyshev-Ungleichung definiert als [mm]P(|X-E[X]|\ge\varepsilon)\le\frac{1}{\varepsilon^2}Var(X)[/mm] bei endlicher Varianz von [mm]X[/mm]
Demzufolge müsste doch nach dem einleitenden Text schon [mm]f(x)[/mm] der Mittelwert von [mm]\hat f_n(x)[/mm] sein ...
Wenn ich das ignoriere, gelingt es mir trotzdem nicht, den Erwartungswert wie angegeben zu schreiben.
(Rechenregeln für den Erwartungswert sind klar)
Kann mir das bitte jemand (möglichst detailliert) erklären?
Mille Grazie!
Lieben Gruß
schachuzipus
|
|
|
|
*hochschieb*
Bin immer noch brennend interessiert ...
Gruß
schachuzipus
|
|
|
|
|
Guten Abend
so wie das sehe, wurde bei der Abschätzung nicht die Tschbyscheff-Ungleichung, sondern die Markov-Ungleichung verwandt. (Anwendung mit der Funktion [mm] $h(x)=x^2$)
[/mm]
Ich schreibe im folgenden immer [mm] $b=b_{n}$. [/mm] Weiter vermute ich mal, dass $x [mm] \in \IR$ [/mm] beliebig, aber fest sein soll.
Der Erwartungswert vom Kerndichteschätzer ist ja [mm] $\left[K_{b}\star f\right](x)$, [/mm] wobei [mm] $\star$ [/mm] die Faltung von zwei Funktion bezeichnet. (Ist der Erwartungswert klar?).
Jetzt kann mal halt unter gewissen Voraussetzungen an die Dichte $f$ (Stetigkeit im Punkt $x [mm] \in \IR$) [/mm] und an die Schrittweite $b$ zeigen, dass
[mm] $\lim\limits_{n \to \infty} P\left(\left|\hat f_n(x)-f(x)\right| \ > \ \varepsilon\right)=0$ [/mm] ist. Man kann sogar die Geschwindigkeit der Konvergenz angeben.
Viele Grüße
Blasco
|
|
|
|
|
Hallo Blasco und danke für deine Antwort,
> Guten Abend
>
> so wie das sehe, wurde bei der Abschätzung nicht die
> Tschbyscheff-Ungleichung, sondern die Markov-Ungleichung
> verwandt. (Anwendung mit der Funktion [mm]h(x)=x^2[/mm])
Jo, die hatten wir gar nicht, nur im Folgesemester in Stoch I dann eine allg. Abschätzung:
[mm]P(|X|\ge\varepsilon)\le\frac{E\left[|X|^n\right]}{\varepsilon^n}[/mm] für [mm]n\in\IN[/mm]
Das wäre das ja mit [mm]n=2[/mm] und [mm]X=\hat f_n(x)-f(x)[/mm]
>
> Ich schreibe im folgenden immer [mm]b=b_{n}[/mm]. Weiter vermute
> ich mal, dass [mm]x \in \IR[/mm] beliebig, aber fest sein soll.
Ja, es soll ja [mm]f(x)[/mm] geschätzt werden
>
> Der Erwartungswert vom Kerndichteschätzer ist ja
> [mm]\left[K_{b}\star f\right](x)[/mm], wobei [mm]\star[/mm] die Faltung von
> zwei Funktion bezeichnet. (Ist der Erwartungswert klar?).
Ja, das ergibt sich doch direkt aus der Definition des Erwartungswertes als Integral ...
>
> Jetzt kann mal halt unter gewissen Voraussetzungen an die
> Dichte [mm]f[/mm] (Stetigkeit im Punkt [mm]x \in \IR[/mm]) und an die
> Schrittweite [mm]b[/mm] zeigen, dass
> [mm]\lim\limits_{n \to \infty} P\left(\left|\hat f_n(x)-f(x)\right| \ > \ \varepsilon\right)=0[/mm]
> ist. Man kann sogar die Geschwindigkeit der Konvergenz
> angeben.
Ja, das wird im nächsten Satz gezeigt ...
Bleibt die Frage nach der Umformung aus dem ersten post.
Könnte dazu bitte nochmal jemand Stellung nehmen?
Danke sehr!
Liebe Grüße
schachuzipus
|
|
|
|
|
Eingabefehler: "\left" und "\right" müssen immer paarweise auftreten, es wurde aber ein Teil ohne Entsprechung gefunden (siehe rote Markierung)
Eingabefehler: "\left" und "\right" müssen immer paarweise auftreten, es wurde aber ein Teil ohne Entsprechung gefunden (siehe rote Markierung)
Hiho,
so wie ich das sehe, ist ja eigentlich nur folgende Umformung unklar:
$E\left[\left(\hat f_n(x)-f(x)\right)^2\right] \ = \ E\left[\left(\hat f_n(x)-E\left[\hat f_n(x)\right]\right)^2\right] \ + \ \left( E\left[\hat f_n(x)\right]-f(x)\right)^2 \$
Dazu formen wir die rechte Seite um:
$E\left[\left(\hat f_n(x)-E\left[\hat f_n(x)\right]\right)^2\right] + \left( E\left[\hat f_n(x)\right]-f(x)\right)^2 = E\left[\hat f_n^2(x) - 2\hat f_n(x)E\left[\hat f_n(x)\right] + E^2\left[\hat f_n(x)\right]\right] + E^2\left[\hat f_n(x)\right] - 2E\left[\hat f_n(x)\right]f(x) + f^2(x)$
$= E\left[\hat f_n^2(x)\right] - 2E\left[\hat f_n(x)E\left[\hat f_n(x)\right]\right] + E^2\left[\hat f_n(x)\right]\right] + E^2\left[\hat f_n(x)\right] - 2E\left[\hat f_n(x)\right]f(x) + f^2(x)$
$= E\left[\hat f_n^2(x)\right] - 2E^2\left[\hat f_n(x)\right] + E^2\left[\hat f_n(x)\right]\right] + E^2\left[\hat f_n(x)\right] - 2E\left[\hat f_n(x)\right]f(x) + f^2(x)$
$= E\left[\hat f_n^2(x)\right] - 2E\left[\hat f_n(x)\right]f(x) + f^2(x)$
$=E\left[\hat f_n^2(x) - 2\hat f_n(x)*f(x) + f^2(x)\right]$
$=E\left[\left(\hat f_n(x) - f(x)\right)^2\right]$
MFG,
Gono.
|
|
|
|
|
Hallo Gono,
Mann Mann. So hatte ich auch angefangen, aber mich dann irgendwo verkaspert ...
Besten Dank für die Zwischenschritte!
Gruß
schachuzipus
|
|
|
|