Schätztheorie < Wahrscheinlichkeitstheorie < Stochastik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 11:04 Fr 04.02.2011 | | Autor: | wolle238 |
| Aufgabe | [mm] $X_1, \ldots, X_n$ [/mm] seien unabhängige, identisch verteilte Zufallsvariablen mit der Dichte
[mm] x \rightarrow \bruch{1}{2 \vartheta} 1_{[-\vartheta, \vartheta]}, \vartheta > 0[/mm]
(a) Geben Sie einen Maximum-Likelihood-Schätzer an für den Parameter [mm] $\vartheta$.
[/mm]
(b) Ist dieser Schätzer erwartungstreu?
(c) Ist dieser Schätzer konsistent?
[Hinweis zu (b) und (c): Berechnen Sie zunächst die Verteilung von [mm] $\hat{\vartheta}$] [/mm] |
Hallo ihr!
Ich schreibe nächste Woche die Stochastik Klausur und verzweifle an der Schätztheorie, insbesondere am Maximum-Likelihood-Schätzer.
Unsere Definition:
Jeder Schätzer [mm] $\hat{p}$ [/mm] für $p$ mit
[mm] \mathbb{P}_{\hat{p}} (\{( x_1, \ldots, x_n )\}) = \max_{p \in [0,1]} \mathbb{P}_p (\{( x_1, \ldots, x_n )\}) [/mm] für alle [mm] $x_1, \ldots, x_n \in \{0,1\}$
[/mm]
heißt Maximum-Likelihood-Schätzer für $p$.
Und [mm] $1_{[-\vartheta, \vartheta]}$ [/mm] soll die Indikatorfunktion sein, also
[mm] $1_{[-\vartheta, \vartheta]} [/mm] (x) = [mm] \left\{ \begin{matrix} 1, & x \in [-\vartheta, \vartheta] \\ 0 & sonst \end{maxtrix} \right.$
[/mm]
Wenn ich das jetzt richtig verstanden habe, muss ich nun das Maximum der Funktion finden. Dazu bilde ich die Ableitung. Also erhalte ich:
$f'(x) = 0$ für alle $x [mm] \in [-\vartheta,\vartheta]$
[/mm]
Nun komme ich nicht weiter! :(
Wie erhalte ich denn dann den Erwartungswert für [mm] $\mathbb{E}_p[\hat{p}(X_1, \ldots, X_n)]$?
[/mm]
und [mm] $\lim_{n \rightarrow \infty} \mathbb{P}_p(|\hat{p}(X_1, \ldots, X_n) [/mm] - p| [mm] \geq \varepsilon)$?
[/mm]
Bin für jeden Tipp Dankbar!!
Liebe Grüße, Julia
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 12:21 Fr 04.02.2011 | | Autor: | Fry |
Die Defi ist nicht die allgemeine Definiton.
Du musst das Maximum der Funktion:
[mm]L(v)=\produkt_{i=1}^{n} \bruch{1}{2v}*1_{\{-v,v\}}(x_i)[/mm] bestimmen. (Die Indikatorfunktion kannst du in diesem Fall vernachlässigen). Stattdessen kannst du auch log L(v) betrachten.
Die Maximumsstellen bleiben erhalten.
Gruß
Fry
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 12:39 Fr 04.02.2011 | | Autor: | wolle238 |
Danke schonmal. Diese Definition kam NIE inner VL oder in unserem Buch vor... Konnte damit auch nix anfangen, als ich die online oder in anderen Büchern gefunden habe.... Aber ich muss die also einfach nur anwenden? Okay.
Dann erhalte ich ja
$L(v) = [mm] \left( \bruch{1}{2v} \right)^n \produkt_{i=1}^{n} \cdot 1_{[-v,v]} (x_i)$. [/mm] Gehen wir davon aus, dass [mm] $x_i \in [/mm] [-v,v], [mm] \forall [/mm] 1 [mm] \leq [/mm] i [mm] \leq [/mm] n$.
Wenn ich jetzt das Maximum der Funktion $L(v)$ berechne, erhalte ich
$L'(v) = - [mm] \bruch{n}{2^n} \left( \bruch{1}{v} \right)^{n+1}$
[/mm]
Und das ist ja nur 0, wenn $n=0$ ist. Also ist dann doch der ML-Schätzer für $v$ $n=0$, oder?
Dann erhalte ich aber keinen Erwartungswert, oder???
Ah....
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 13:37 Fr 04.02.2011 | | Autor: | Fry |
Dann ist die Indikatorfunktion doch wichtig:
L(v) = [mm] \left( \bruch{1}{2v} \right)^n \produkt_{i=1}^{n} \cdot 1_{[-v,v]} (x_i)= \left( \bruch{1}{2v} \right)^n \cdot 1_{(0,v]} max_{1\le i\le n}|x_i|
[/mm]
d.h. L(v) = 0 für [mm] v
Da [mm] 1/(2v)^n [/mm] monoton fallend ist (in v) hat L(v) ein Maximum in [mm] v=max|x_i|.
[/mm]
Also ist [mm] max|X_i| [/mm] der MLS.
|
|
|
| |
|
Hmmm... Wieso gilt:
$ [mm] \produkt_{i=1}^{n} 1_{[-v,v]} (x_i)= 1_{(0,v]} max_{1\le i\le n}|x_i| [/mm] $
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 15:20 So 13.02.2011 | | Autor: | matux |
$MATUXTEXT(ueberfaellige_frage)
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 21:35 Di 08.02.2011 | | Autor: | wolle238 |
| Aufgabe | [mm] $X_1, [/mm] ..., [mm] X_n$ [/mm] seien unabhängige, identisch verteilte Zufallsvariablen mit der Dichte $x [mm] \rightarrow \alpha e^{-\alpha x} 1_{(0, \infty)} [/mm] (x)$, $0 < [mm] \alpha [/mm] < [mm] \infty$.
[/mm]
a) Bestimmen Sie Maximum-Likelihood (ML)-Schätzer für die Parameter [mm] $\bruch{1}{\alpha}$, $\bruch{1}{\alpha^2}$, $\alpha$.
[/mm]
b) Sind die ML-Schätzer für [mm] $\bruch{1}{\alpha}$, $\bruch{1}{\alpha^2}$ [/mm] erwartungstreu?
c) Sind die ML-Schätzer für [mm] $\bruch{1}{\alpha}$, $\bruch{1}{\alpha^2}$ [/mm] konsistent? |
Hey ihr!
Noch ne Frage zum ML-Schätzer.... Ich denke bei a) komme ich etwas voran. Nur noch mal ne Frage zur Sicherheit:
Für den Parameter [mm] $\alpha$ [/mm] ist das Maximum von [mm] $L(\alpha) [/mm] = [mm] \produkt_{i=1}^n \alpha e^{- \alpha x_i} 1_{(0,\infty)} (x_i)$ [/mm] gesucht, oder?
[mm] $\begin{matrix}
L(\alpha) & = & \produkt_{i=1}^n \alpha e^{- \alpha x_i} 1_{(0,\infty)} (x_i) \\
& = & \alpha^n \produkt_{i=1}^n e^{-\alpha x_i} 1_{(0,\infty)} (x_i) \\
& = & \alpha^n e^{-\alpha \cdot \summe_{i=1}^n x_i} \produkt_{i=1}^n 1_{(0,\infty)} (x_i) \\
& = & \alpha^n e^{-\alpha \cdot \summe_{i=1}^n x_i} 1_{(0,\infty)}max_{1 \le i \le n} |x_i| \\
\end{matrix}$
[/mm]
Also ist [mm] $L(\alpha) [/mm] = [mm] \alpha e^{-\alpha \cdot \summe_{i=1}^n x_i}$
[/mm]
Wenn ich jetzt die Ableitung bilde, erhalte ich
[mm] $\begin{matrix}
L'(\alpha) & = & n \alpha^{n-1} e^{- \alpha \summe_{i=1}^n x_i} - \alpha^n \summe_{i=1}^n x_i \cdot e^{-\alpha \summe_{i=1}^n x_i} \\
& = & e^{- \alpha \summe_{i=1}^n x_i} \left(n \alpha^{n-1} - \alpha^n \summe_{i=1}^n x_i \right) \\ \\
&\Rightarrow & 0 & = & e^{- \alpha \summe_{i=1}^n x_i} \left(n \alpha^{n-1} - \alpha^{n} \summe_{i=1}^n x_i \right) & \Rightarrow e^{- \alpha \summe_{i=1}^n x_i} > 0, \alpha^{n-1} > 0 \\
&\Leftrightarrow & 0 & = & n - \alpha \summe_{i=1}^n x_i \\
&\Leftrightarrow & n & = & \alpha \summe_{i=1}^n x_i \\
&\Leftrightarrow & \bruch{n}{\summe_{i=1}^n x_i} & = & \alpha
\end{matrix}$
[/mm]
Ist doch so richtig, oder hab ich wieder mal blöde Umformungsfehler gemacht?
Für $ [mm] \bruch{1}{\alpha}$ [/mm] und [mm] $\bruch{1}{\alpha^2}$ [/mm] muss ich dann einfach [mm] $L\left( \bruch{1}{\alpha} \right)$ [/mm] und [mm] $L\left( \bruch{1}{\alpha^2} \right)$ [/mm] berechnen?
Dann erhalte [mm] $L'(\alpha) [/mm] = - [mm] \bruch{1}{\alpha} e^{-\bruch{1}{n}\summe_{i=1}^n x_i} \left( n + \bruch{1}{\alpha} \summe_{i=1}^n x_i \right)$
[/mm]
Und somit für den ML Schätzer: [mm] $\alpha [/mm] = - [mm] \dfrac{\summe_{i=1}^n x_i}{n}$
[/mm]
Für [mm] $\bruch{1}{\alpha^2}$ [/mm] erhalte ich keine Maximum der Funktion [mm] $L(\bruch{1}{\alpha^2}) [/mm] = [mm] \bruch{1}{\alpha}^{n+2} \cdot e^{- \bruch{1}{\alpha^2} \summe_{i=1}^n x_i}$
[/mm]
[mm] $L'(\bruch{1}{\alpha^2}) [/mm] = -(n+2) [mm] \bruch{1}{\alpha}^{n+3} \cdot e^{- \frac{1}{n^2} \summe_{i=1}^n x_i} [/mm] + [mm] \bruch{1}{\alpha}^{n+2} \cdot \left( - 2 \bruch{1}{\alpha^3} \summe_{i=1}^n x_i \right) \cdot e^{- \bruch{1}{n^2} \summe_{i=1}^n x_i} [/mm] = - [mm] \bruch{1}{\alpha}^{n+3} e^{- \bruch{1}{n^2} \summe_{i=1}^n x_i} \left(n+2 + \bruch{1}{\alpha}^2 \summe_{i=1}^n x_i \right)$
[/mm]
Da erhalte ich keine Nullstelle! :(
|
|
|
| |
|
Hallo wolle238,
> [mm]X_1, ..., X_n[/mm] seien unabhängige, identisch verteilte
> Zufallsvariablen mit der Dichte [mm]x \rightarrow \alpha e^{-\alpha x} 1_{(0, \infty)} (x)[/mm],
> [mm]0 < \alpha < \infty[/mm].
>
> a) Bestimmen Sie Maximum-Likelihood (ML)-Schätzer für die
> Parameter [mm]\bruch{1}{\alpha}[/mm], [mm]\bruch{1}{\alpha^2}[/mm], [mm]\alpha[/mm].
> b) Sind die ML-Schätzer für [mm]\bruch{1}{\alpha}[/mm],
> [mm]\bruch{1}{\alpha^2}[/mm] erwartungstreu?
> c) Sind die ML-Schätzer für [mm]\bruch{1}{\alpha}[/mm],
> [mm]\bruch{1}{\alpha^2}[/mm] konsistent?
> Hey ihr!
>
> Noch ne Frage zum ML-Schätzer.... Ich denke bei a) komme
> ich etwas voran.
Nur noch kurz dazu, weil es noch offen ist:
Du hattest die Likelihoodfunktion aufgestellt, die ist maximal genau dann, wenn alle [mm]x_i[/mm] im Intervall [mm][-\theta,\theta][/mm] liegen (sonst ist das ganze Produkt =0), also für
[mm]-\theta\le x_i\le\theta[/mm] für alle [mm]i\in\{1,...,n\}[/mm]
Oder [mm]|x_i|\le\theta[/mm] für alle i
Und wenn das für alle [mm]|x_i|[/mm] gelten soll, dann sicher auch für das [mm]\max\limits_{i\in\{1,...,n\}}\{|x_i|\}[/mm]
Denn alle anderen [mm]|x_j|[/mm] sind ja kleinergleich dem Max der [mm]|x_i|[/mm] ....
> Nur noch mal ne Frage zur Sicherheit:
> Für den Parameter [mm]\alpha[/mm] ist das Maximum von [mm]L(\alpha) = \produkt_{i=1}^n \alpha e^{- \alpha x_i} 1_{(0,\infty)} (x_i)[/mm]
> gesucht, oder?
>
> [mm]$\begin{matrix} L(\alpha) & = & \produkt_{i=1}^n \alpha e^{- \alpha x_i} 1_{(0,\infty)} (x_i) \\
& = & \alpha^n \produkt_{i=1}^n e^{-\alpha x_i} 1_{(0,\infty)} (x_i) \\
& = & \alpha^n e^{-\alpha \cdot \summe_{i=1}^n x_i} \produkt_{i=1}^n 1_{(0,\infty)} (x_i) \\
& = & \alpha^n e^{-\alpha \cdot \summe_{i=1}^n x_i} 1_{(0,\infty)}max_{1 \le i \le n} |x_i| \\
\end{matrix}$[/mm]
>
> Also ist [mm]L(\alpha) = \alpha^{\red{n}} e^{-\alpha \cdot \summe_{i=1}^n x_i}[/mm] ![[ok]](/images/smileys/ok.gif "[ok]")
>
> Wenn ich jetzt die Ableitung bilde, erhalte ich
> [mm]$\begin{matrix} L'(\alpha) & = & n \alpha^{n-1} e^{- \alpha \summe_{i=1}^n x_i} - \alpha^n \summe_{i=1}^n x_i \cdot e^{-\alpha \summe_{i=1}^n x_i} \\
& = & e^{- \alpha \summe_{i=1}^n x_i} \left(n \alpha^{n-1} - \alpha^n \summe_{i=1}^n x_i \right) \\
\\
&\Rightarrow & 0 & = & e^{- \alpha \summe_{i=1}^n x_i} \left(n \alpha^{n-1} - \alpha^{n} \summe_{i=1}^n x_i \right) & \Rightarrow e^{- \alpha \summe_{i=1}^n x_i} > 0, \alpha^{n-1} > 0 \\
&\Leftrightarrow & 0 & = & n - \alpha \summe_{i=1}^n x_i \\
&\Leftrightarrow & n & = & \alpha \summe_{i=1}^n x_i \\
&\Leftrightarrow & \bruch{n}{\summe_{i=1}^n x_i} & = & \alpha \end{matrix}$[/mm]
Ich habe nicht alle Schritte nachgerechnet, aber [mm]\hat\alpha[/mm] ist korrekt.
Das bekommst du aber auch um Längen einfacher, wenn du die Log-Likelihoodfunktion maximierst ...
> Ist doch so richtig, oder hab ich wieder mal blöde
> Umformungsfehler gemacht?
>
> Für [mm]\bruch{1}{\alpha}[/mm] und [mm]\bruch{1}{\alpha^2}[/mm] muss ich
> dann einfach [mm]L\left( \bruch{1}{\alpha} \right)[/mm] und [mm]L\left( \bruch{1}{\alpha^2} \right)[/mm]
> berechnen?
Nein, prüfe, ob die 2.Ableitung [mm] $L''(\alpha)$ [/mm] an der Stelle [mm]\hat\alpha=\frac{n}{\sum\limits_{i=1}^nx_i} \ < \ 0[/mm] ist ...
>
> Dann erhalte [mm]L'(\alpha) = - \bruch{1}{\alpha} e^{-\bruch{1}{n}\summe_{i=1}^n x_i} \left( n + \bruch{1}{\alpha} \summe_{i=1}^n x_i \right)[/mm]
>
> Und somit für den ML Schätzer: [mm]\alpha = - \dfrac{\summe_{i=1}^n x_i}{n}[/mm]
>
> Für [mm]\bruch{1}{\alpha^2}[/mm] erhalte ich keine Maximum der
> Funktion [mm]L(\bruch{1}{\alpha^2}) = \bruch{1}{\alpha}^{n+2} \cdot e^{- \bruch{1}{\alpha^2} \summe_{i=1}^n x_i}[/mm]
>
> [mm]L'(\bruch{1}{\alpha^2}) = -(n+2) \bruch{1}{\alpha}^{n+3} \cdot e^{- \frac{1}{n^2} \summe_{i=1}^n x_i} + \bruch{1}{\alpha}^{n+2} \cdot \left( - 2 \bruch{1}{\alpha^3} \summe_{i=1}^n x_i \right) \cdot e^{- \bruch{1}{n^2} \summe_{i=1}^n x_i} = - \bruch{1}{\alpha}^{n+3} e^{- \bruch{1}{n^2} \summe_{i=1}^n x_i} \left(n+2 + \bruch{1}{\alpha}^2 \summe_{i=1}^n x_i \right)[/mm]
>
> Da erhalte ich keine Nullstelle! :(
Gruß
schachuzipus
|
|
|
|
