Schätzer multivar. Normalvert. < Statistik (Anwend.) < Stochastik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 18:57 Sa 23.04.2016 | | Autor: | Voxxy |
| Aufgabe | a)Seien [mm] X_{1},...,X_{n} \sim_{u.i.v.} N_{d} (\mu,\summe). [/mm] Beweisen Sie, dass
[mm] \overline{X_n} [/mm] = [mm] \frac{1}{n}\summe_{i=1}^{n} X_{i} [/mm] ,
[mm] S_n [/mm] = [mm] \frac{1}{n} \summe_{i=1}^{n} (X_i [/mm] - [mm] \overline{X_n}) (X_i [/mm] - [mm] \overline{X_n})^{T}
[/mm]
stochastisch unabhängig sind.
b)Seien [mm] X_{1},...,X_{n} \sim_{u.i.v.} N_{d} (\mu,\sigma^{2} I_d), [/mm] wobei [mm] \mu^{T}\mu [/mm] = 1, also [mm] \mu \in S_{d-1}, [/mm] der Oberfläche der d-dimensionalen Einheitskugel. Berechnen sie den ML-Schätzer von [mm] \mu. [/mm] (wobei [mm] I_d [/mm] die d-dimensionale Einheitsmatrix ist) |
a) Bekomme ich das über die ganz normale Gleichung für Zufallsvariablen errechnet? Also stochastische Unabhängigkeit liegt genau dann vor, wenn ich habe:
[mm] E(\overline{X_n} [/mm] ) [mm] E(S_n) [/mm] = [mm] E(\overline{X_n} [/mm] * [mm] S_n)
[/mm]
Rechne da gerade dran rum, aber komme nicht auf das gewünschte Ergebnis.
b)Bei b) fehlt mir der Ansatz. Der ML-Schätzer für [mm] \mu [/mm] ist ja gerade gegeben durch unser [mm] \overline{X_n}. [/mm] Nun weiß ich leider nicht wie ich z.B. das [mm] \mu^{T}\mu [/mm] = 1 ins Spiel bringen soll, bzw. allgemein ansetze.
Ich habe diese Frage in keinem Forum auf anderen Internetseiten gestellt.
Schöne Wochenendgrüße,
Voxxy
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 19:19 Sa 23.04.2016 | | Autor: | luis52 |
Moin Voxxy
![[willkommenmr]](/images/smileys/willkommenmr.png "[willkommenmr]")
> a) Bekomme ich das über die ganz normale Gleichung für
> Zufallsvariablen errechnet? Also stochastische
> Unabhängigkeit liegt genau dann vor, wenn ich habe:
>
> [mm]E(\overline{X_n}[/mm] ) [mm]E(S_n)[/mm] = [mm]E(\overline{X_n}[/mm] * [mm]S_n)[/mm]
>
> Rechne da gerade dran rum, aber komme nicht auf das
> gewünschte Ergebnis.
Hier bist du vollkommen auf dem Holzweg. Schau mal in deine (Vorlesungs-?)Unterlagen.
>
> b)Bei b) fehlt mir der Ansatz. Der ML-Schätzer für [mm]\mu[/mm]
> ist ja gerade gegeben durch unser [mm]\overline{X_n}.[/mm] Nun weiß
> ich leider nicht wie ich z.B. das [mm]\mu^{T}\mu[/mm] = 1 ins Spiel
> bringen soll, bzw. allgemein ansetze.
>
Hast du schon die Likelihoodfunktion aufgestellt?
|
|
|
| |
|
| Status: |
(Frage) reagiert/warte auf Reaktion  | | Datum: | 14:15 So 24.04.2016 | | Autor: | Voxxy |
Hallo luis,
besten Dank schon mal :)
> Hier bist du vollkommen auf dem Holzweg. Schau mal in deine
> (Vorlesungs-?)Unterlagen.
Hab da nun noch nichts konkretes zu gefunden. Schaue da aber nun gleich nochmal nach und melde mich dann nochmal :)
> Hast du schon die Likelihoodfunktion aufgestellt?
Die Likelihoodfunktion müsste meiner Meinung nach so aussehen:
[mm] L(x|\mu [/mm] , [mm] \sigma^{2}) [/mm] = [mm] \big(\frac{1}{2\pi\sigma^{2}}\big)^{\frac{n}{2}} exp\Bigg(-\frac{\summe_{i=1}^{n}(x_i-\mu)^{2}}{2\sigma^{2}}\Bigg)
[/mm]
Hier schau ich dann nun einfach erstmal wo sich ein Maximum ergibt für [mm] \mu?
[/mm]
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 16:12 So 24.04.2016 | | Autor: | Voxxy |
Habe nun noch einmal die b) umgeschrieben in die notation aus der Aufgabenstellung bzw. unserer Vorlesung.
Wir betrachten die Dichte:
[mm] f(\mu, \summe)(X_1,...,X_n) [/mm] = [mm] ((2\pi^{d} det\summe)^{-\frac{n}{2}} [/mm] exp [mm] (-\frac{n}{2}(tr(\Sigma^{-1}S_n+(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T}))
[/mm]
Dann erhalte ich für die Log-Likelihoodfunktion
l [mm] =-\frac{nd}{2} ln(2\pi)-\frac{n}{2}det\Sigma-\frac{n}{2}tr(\Sigma^{-1}S_n-\frac{n}{2}(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T}))
[/mm]
Wenn ich das nun allgemein nach [mm] \mu [/mm] ableite, erhalte ich.
l' = [mm] n(\overline{X_n}-\mu)\Sigma^{-1}
[/mm]
Da muss ich ja nun irgendwie die Voraussetzungen ins Spiel bringen? Weil sonst würde ich ja allgemein den Schätzer in a) erhalten. Oder muss ich die schon vorher einbringen?
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 16:25 So 24.04.2016 | | Autor: | luis52 |
> Habe nun noch einmal die b) umgeschrieben in die notation
> aus der Aufgabenstellung bzw. unserer Vorlesung.
> Wir betrachten die Dichte:
>
> [mm]f(\mu, \summe)(X_1,...,X_n)[/mm] = [mm]((2\pi^{d} det\summe)^{-\frac{n}{2}}[/mm]
> exp
> [mm](-\frac{n}{2}(tr(\Sigma^{-1}S_n+(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T}))[/mm]
>
> Dann erhalte ich für die Log-Likelihoodfunktion
>
> l [mm]=-\frac{nd}{2} ln(2\pi)-\frac{n}{2}det\Sigma-\frac{n}{2}tr(\Sigma^{-1}S_n-\frac{n}{2}(\overline{X_n}-\mu)\Sigma^{-1}(\overline{X_n}-\mu)^{T}))[/mm]
>
> Wenn ich das nun allgemein nach [mm]\mu[/mm] ableite, erhalte ich.
>
> l' = [mm]n(\overline{X_n}-\mu)\Sigma^{-1}[/mm]
>
> Da muss ich ja nun irgendwie die Voraussetzungen ins Spiel
> bringen? Weil sonst würde ich ja allgemein den Schätzer
> in a) erhalten. Oder muss ich die schon vorher einbringen?
Schon besser. Beachte noch [mm] $\Sigma=\sigma^2I_d$. [/mm]
Aber letztendlich geht es um die Bestimmung des ML-Schatzers fuer [mm] $\mu$, [/mm] das [mm] $\sigma^2$ [/mm] interessiert nicht.
Demnach ist [mm] $g(\mu)=(\bar x-\mu)'(\bar x-\mu)$ [/mm] unter der Nebenbedingung [mm] $\mu'\mu=1$ [/mm] zu minimieren.
Fuer (a) schau mal ![[]](/images/popup.gif) hier, Seite 11.
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 14:57 Mo 25.04.2016 | | Autor: | Voxxy |
> Schon besser. Beachte noch [mm]\Sigma=\sigma^2I_d[/mm].
>
> Aber letztendlich geht es um die Bestimmung des
> ML-Schatzers fuer [mm]\mu[/mm], das [mm]\sigma^2[/mm] interessiert nicht.
> Demnach ist [mm]g(\mu)=(\bar x-\mu)'(\bar x-\mu)[/mm] unter der
> Nebenbedingung [mm]\mu'\mu=1[/mm] zu minimieren.
>
> Fuer (a) schau mal
> hier,
> Seite 11.
>
Hallo Luis,
danke für deine Antwort.
Hab mir nun [mm] g(\mu) [/mm] angeschaut und folgendes gemacht.
Erstmal umgeschrieben [mm] g(\mu)=n*\overline{X_n}^{2}-2\overline{X_n}\summe_{i=1}^{n}\mu_i +\summe_{i=1}^{n} \mu_i^{2}
[/mm]
Dann bilde ich die Funktion nach Lagrange-Methode unter Einbezug der NB:
[mm] h(\mu, \lambda) [/mm] = [mm] n*\overline{X_n}^{2}-2\overline{X_n}\summe_{i=1}^{n}\mu_i +\summe_{i=1}^{n} \mu_i^{2} [/mm] + [mm] \lambda\mu^{T}\mu-\lambda
[/mm]
Wenn ich diese nun nach [mm] \mu [/mm] bzw. [mm] \lambda [/mm] ableite erhalte ich die Gleichungen:
I: [mm] -2n\overline{X_n} [/mm] + [mm] 2\summe_{i=1}^{n}\mu_i [/mm] + [mm] n\lambda= [/mm] 0
II: [mm] \mu^{T}\mu [/mm] -1 = 0
Stimmt das bis dahin so? Ich sehe nun leider noch nicht wie ich die Gleichungen so umgeformt bekomme, dass ich den Schätzer erhalte.
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 21:01 Mo 25.04.2016 | | Autor: | luis52 |
Du musst mit Vektoren rechnen, nicht mit Skalaren. Die Lagrangefunktion lautet
[mm] $g(\mu)=(\bar x-\mu)'(\bar x-\mu) +\lambda (\mu'\mu-1) [/mm] $
Fuer das Weitere brauchst du etwas Kenntnisse zur Matrixdiifferentiation, wie z.B hier, ab Seite 4. Bestimme also
[mm] $\frac{\partial g}{\partial \mu}$ [/mm] und [mm] $\frac{\partial g}{\partial \lambda}$ [/mm] ...
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 21:48 Mo 25.04.2016 | | Autor: | Voxxy |
> Du musst mit Vektoren rechnen, nicht mit Skalaren. Die
> Lagrangefunktion lautet
>
> [mm]g(\mu)=(\bar x-\mu)'(\bar x-\mu) +\lambda (\mu'\mu-1)[/mm]
>
> Fuer das Weitere brauchst du etwas Kenntnisse zur
> Matrixdiifferentiation, wie z.B
> hier,
> ab Seite 4. Bestimme also
>
>
> [mm]\frac{\partial g}{\partial \mu}[/mm] und [mm]\frac{\partial g}{\partial \lambda}[/mm]
> ...
>
>
Das mit den Vektoren kann ich mir für den hinteren Teil gerade nicht vorstellen. Wenn ich mir das [mm] \lambda [/mm] als Diagonalmatrix mit [mm] \lambda [/mm] auf der Diagonalen denke und das ableiten, würde ich ja die Einheitsmatrix bekommen und für den Teil dahinter die Nullmatrix. Dann wäre mein [mm] \frac{\partial g}{\partial \lambda} [/mm] insgesamt 0 und das kann irgendwie nicht. Ähnlich bei [mm] \frac{\partial g}{\partial \mu}.
[/mm]
Das wäre bei mir dann: [mm] diag(-\mu_1 -\mu_2...-\mu_n)*diag(-\mu_1 -\mu_2...-\mu_n) [/mm] + 0
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 22:25 Mo 25.04.2016 | | Autor: | luis52 |
> > Du musst mit Vektoren rechnen, nicht mit Skalaren. Die
> > Lagrangefunktion lautet
> >
> > [mm]g(\mu)=(\bar x-\mu)'(\bar x-\mu) +\lambda (\mu'\mu-1)[/mm]
> >
> > Fuer das Weitere brauchst du etwas Kenntnisse zur
> > Matrixdiifferentiation, wie z.B
> >
> hier,
> > ab Seite 4. Bestimme also
> >
> >
> > [mm]\frac{\partial g}{\partial \mu}[/mm] und [mm]\frac{\partial g}{\partial \lambda}[/mm]
> > ...
> >
> >
>
> Das mit den Vektoren kann ich mir für den hinteren Teil
> gerade nicht vorstellen.
[mm] $\lambda$ [/mm] ist ein Skalar, [mm] $\mu'\mu-1$ [/mm] auch.
|
|
|
| |
|
| Status: |
(Frage) überfällig  | | Datum: | 22:52 Mo 25.04.2016 | | Autor: | Voxxy |
[mm]\lambda[/mm] ist ein Skalar, [mm]\mu'\mu-1[/mm] auch.
Also dann ist für mich
[mm] \frac{\partial g}{\partial\lambda}= \mu'\mu-1
[/mm]
Bei der anderen bin ich mir nun nicht sicher.
Das was ich gerade hatte mit den Dianoalmatrizen erscheint mir irgendwie logisch, aber dann klappt das mit dem Nullsetzen nicht.
Meine zweite Idee wäre:
[mm] \frac{\partial g}{\partial\mu}= (\overline{x}-1)'(\overline{x}-\mu)+(\overline{x}-\mu)'(\overline{x}-1)
[/mm]
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 23:03 Mo 25.04.2016 | | Autor: | luis52 |
>
> Meine zweite Idee wäre:
>
> [mm]\frac{\partial g}{\partial\mu}= (\overline{x}-1)'(\overline{x}-\mu)+(\overline{x}-\mu)'(\overline{x}-1)[/mm]
>
Ich glaube, du raetst. Ich kann dir nicht weiterhelfen.
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig | | Datum: | 23:20 Mi 27.04.2016 | | Autor: | matux |
$MATUXTEXT(ueberfaellige_frage)
|
|
|
|
