Gleichungen mit Matrizen < Gleichungssysteme < Lineare Algebra < Hochschule < Mathe < Vorhilfe
|
Hallo
Ich habe drei Probleme mit Gleichungen aus Matrizen. Hoffentlich kann mir da jemand helfen.
1. [mm]\left| \Sigma^{-1/2}(v + A*p) \right|^2 = (v + A*p)^T \Sigma^{-1}(v + A*p)[/mm]
wobei [mm]\Sigma = \begin{pmatrix}
\sigma_1^2 & 0 & 0 & 0 \\
0 & \sigma_2^2 & 0 & 0 \\
0 & 0 & \sigma_3^2 & 0 \\
0 & 0 & 0 & \sigma_4^2
\end{pmatrix}[/mm] und v und p Vektoren sind und A eine Matrix.
Ich verstehe nicht wie man auf den Term nach dem Gleichheitszeichen kommt. Wenn ich das an einem Beispiel durchrechnen würde (Also zuerst die Multiplikaton A * p machen, dann noch v addieren und dann mit Sigma Multiplizieren und zuletzt noch den Betrag nehmen, dann würde ich wohl auch auf den Term rechts vom Gleichheitszeichen kommen, allerdings habe ich an einer Prüfung nicht Zeit, das alles so durchzudenken.
Gibt es daher vielleicht eine einfachere Methode sich das zu überlegen?
2. [mm] S(p) = (v + A*p)^T \Sigma^{-1} (v + A*p)[/mm]
[mm]\nabla S(p) = 2(A*p + v)^T\Sigma^{-1}A[/mm]
Wie kommt man da auf den Gradient? Verstehe ich überhaupt nicht. Gibt es da vielleicht Regeln, mit denen man schnell zum Ergebnis kommt ohne wieder alles auszuschreiben? Bei Ableitungen ohne Matrizen, also nur mit Vektoren, gibt es ja auch Regeln und man muss nicht alles aussschreiben. Ich habe allgemein Mühe mit Ableitungen, in denen Matrizen enthalten sind.
3. [mm]\nabla S(p) = 2(A*p + v)^T\Sigma^{-1}A = 0[/mm]
[mm] p = -(A^T \Sigma^{-1} A)^{-1} A^T \Sigma^{-1} v[/mm]
Da verstehe ich auch nicht wie man auf p kommt, wenn man nach p auflöst.
Ich komme da auf folgendes:
[mm]\nabla S(p) = 2(A*p + v)^T\Sigma^{-1}A = 0[/mm] // durch 2 dividieren
[mm]\nabla S(p) = (A*p + v)^T\Sigma^{-1}A = 0[/mm] // mit (A*p + v) von links multiplizieren
[mm]\Sigma^{-1}A = (A*p + v)[/mm] // -v
[mm]\Sigma^{-1}A - v = A*p[/mm] // mit [mm] A^T [/mm] von links multiplizieren
[mm]A^T(\Sigma^{-1}A - v) = p[/mm]
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 07:38 Fr 29.06.2012 | | Autor: | Marcel |
Hallo,
> Hallo
>
> Ich habe drei Probleme mit Gleichungen aus Matrizen.
> Hoffentlich kann mir da jemand helfen.
>
> 1. [mm]\left| \Sigma^{-1/2}(v + A*p) \right|^2 = (v + A*p)^T \Sigma^{-1}(v + A*p)[/mm]
>
> wobei [mm]\Sigma = \begin{pmatrix}
\sigma_1^2 & 0 & 0 & 0 \\
0 & \sigma_2^2 & 0 & 0 \\
0 & 0 & \sigma_3^2 & 0 \\
0 & 0 & 0 & \sigma_4^2
\end{pmatrix}[/mm]
> und v und p Vektoren sind und A eine Matrix.
>
> Ich verstehe nicht wie man auf den Term nach dem
> Gleichheitszeichen kommt. Wenn ich das an einem Beispiel
> durchrechnen würde (Also zuerst die Multiplikaton A * p
> machen, dann noch v addieren und dann mit Sigma
> Multiplizieren und zuletzt noch den Betrag nehmen, dann
> würde ich wohl auch auf den Term rechts vom
> Gleichheitszeichen kommen, allerdings habe ich an einer
> Prüfung nicht Zeit, das alles so durchzudenken.
>
> Gibt es daher vielleicht eine einfachere Methode sich das
> zu überlegen?
na, es gelten doch [mm] $|v|^2=v^Tv$ [/mm] und [mm] $(XY)^T=Y^TX^T\,.$ [/mm] Damit
[mm] $$\left| \Sigma^{-1/2}(v + A*p) \right|^2=\Big( \Sigma^{-1/2}(v [/mm] + [mm] A*p)\Big)^T*\Big( \Sigma^{-1/2}(v [/mm] + [mm] A*p)\Big)=\Big((v+A*p)^T*(\Sigma^{-1/2})^T\Big)*\Big( \Sigma^{-1/2}(v [/mm] + [mm] A*p)\Big)\,.$$
[/mm]
Der Rest ist Anwendung des Assoziativgesetzes und der Erkenntnis, dass hier [mm] $(\Sigma^{-1/2})^T\Sigma^{-1/2}=\Sigma^{-1}$ [/mm] ist. [mm] ($\Sigma$ [/mm] soll invertierbar sein und hat Diagonalgestalt: Wenn's unklar ist, rechne diese letzte Erkenntnis nach!)
Gruß,
Marcel
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 21:54 Mo 02.07.2012 | | Autor: | Marcel |
Hallo,
> 2. [mm]S(p) = (v + A*p)^T \Sigma^{-1} (v + A*p)[/mm]
> [mm]\nabla S(p) = 2(A*p + v)^T\Sigma^{-1}A[/mm]
>
> Wie kommt man da auf den Gradient? Verstehe ich überhaupt
> nicht. Gibt es da vielleicht Regeln, mit denen man schnell
> zum Ergebnis kommt ohne wieder alles auszuschreiben?
ja, da kann man sicher auch mit sowas wie Produkt- und Kettenregel arbeiten - müsste ich aber selbst jetzt nochmal nachschlagen, weil man da genau auf die Formulierungen achten muss. Eventuell geht das dann estmal nur komponentenweise, und man muss am Ende was zusammensetzen, um zu sehen, dass die Formel so, wie sie da steht, dann auch wirklich gilt.
Aber wir machen's uns einfacher, denn:
Du kannst es auch ziemlich schnell durch direktes nachrechnen sehen:
$$S(p) = (v + [mm] A*p)^T \Sigma^{-1} [/mm] (v + [mm] A*p)=v^T \Sigma^{-1}v+p^TA^T \Sigma^{-1}v+v^T \Sigma^{-1}Ap+p^T\underbrace{A^T \Sigma^{-1} A}_{=:R} p\,.$$
[/mm]
Jetzt kannst Du nämlich einfach summandenweise den Gradienten berechnen - probier's mal.
Tipp:
Überlege Dir Regeln für
[mm] $$\nabla_x [/mm] (M*x) $$
und
[mm] $$\nabla_x (x^T N)\,,$$
[/mm]
wenn $x [mm] \in \IR^n\,,$ [/mm] $n [mm] \in \IN$ [/mm] und [mm] $M\,$ [/mm] eine [mm] $\mathbf{\blue{1}} \times [/mm] n$-Matrix mit Werten in [mm] $\IR$ [/mm] und [mm] $N\,$ [/mm] eine $n [mm] \times \mathbf{\blue{1}}$-Matrix [/mm] mit Werten in [mm] $\IR$ [/mm] ist. (Die Matrizen [mm] $M\,$ [/mm] und [mm] $N\,$ [/mm] seien [mm] $x\,$-unabhängig!) [/mm]
Wenn's unklar ist, fang' mal mit $x [mm] \in \IR^2$ [/mm] an - rechne ein Beispiel!
Analog: Überlege Dir, dass [mm] $\nabla_x (x^T [/mm] R x)=2R [mm] x\,.$ [/mm] (Da brauchst Du aber sicher sowas wie die Symmetrie von [mm] $R\,$ [/mm] - ohne [mm] $R^T=R\,$ [/mm] würde das schiefgehen, denke ich!)
> 3. $ [mm] \nabla [/mm] S(p) = [mm] 2(A\cdot{}p [/mm] + [mm] v)^T\Sigma^{-1}A [/mm] = 0 $
> $ p = [mm] -(A^T \Sigma^{-1} A)^{-1} A^T \Sigma^{-1} [/mm] v $
> Da verstehe ich auch nicht wie man auf p kommt, wenn man nach p
> auflöst.
> Ich komme da auf folgendes:
> $ [mm] \nabla [/mm] S(p) = [mm] 2(A\cdot{}p [/mm] + [mm] v)^T\Sigma^{-1}A [/mm] = 0 $ // durch 2
> dividieren
> $ [mm] \nabla [/mm] S(p) = [mm] (A\cdot{}p [/mm] + [mm] v)^T\Sigma^{-1}A [/mm] = 0 $ // mit (A*p + v)
> von links multiplizieren
> $ [mm] \Sigma^{-1}A [/mm] = [mm] (A\cdot{}p [/mm] + v) $ // -v
Was hast Du denn da am Ende gerechnet? (Was ist denn etwa [mm] $(A*p+v)*0\,$ [/mm] rechterhand? Das ergibt [mm] $A*p+v\,$? [/mm] Und wie Du auf den Term linkerhand kommst, sehe ich auch nicht!)
Also, soweit ist's okay:
[mm] $$\nabla [/mm] S(p) = [mm] 2(A\cdot{}p [/mm] + [mm] v)^T\Sigma^{-1}A [/mm] = 0$$
[mm] $$\Rightarrow (Ap+v)^T\Sigma^{-1}A=0 \gdw (\*)$$
[/mm]
Und jetzt kannst Du so weiterrechnen (die Rechenregeln kannst Du mal selbst ergänzen):
[mm] $$(\*) \gdw p^TA^T \Sigma^{-1}A+v^T\Sigma^{-1}A=0$$
[/mm]
[mm] $$\gdw p^T(A^T \Sigma^{-1}A)=-v^T \Sigma^{-1}A$$
[/mm]
Jetzt muss man argumentieren, warum [mm] $A^T \Sigma^{-1}A$ [/mm] invertierbar ist. Diese Aufgabe übergeb ich Dir auch, ich rechne einfach mal in blindem Vertrauen weiter, dass dem so sei:
[mm] $$\gdw p^T=-v^T \Sigma^{-1}A*(A^T \Sigma^{-1}A)^{-1}$$
[/mm]
[mm] $$\gdw ((p^T)^T=\;\;)\;\;\;\;p=(-v^T \Sigma^{-1}A*(A^T \Sigma^{-1}A)^{-1})^T$$
[/mm]
[mm] $$\gdw p=-(A^T \Sigma^{-1}A)^{-T}*(v^T \Sigma^{-1}A)^T$$
[/mm]
[mm] $$\gdw [/mm] ...$$
Das kannst Du ja mal weiterrechnen. Aber ich glaube auch, dass die angegebene Lösung $p = [mm] -(A^T \Sigma^{-1} A)^{-1} A^T \Sigma^{-1} [/mm] v$ so nicht stimmt...
Ich revidiere: Ich glaube doch, dass sie stimmt, aber man muss halt dran denken, dass [mm] $\Sigma$ [/mm] und [mm] $\Sigma^{-1}$ [/mm] symmetrisch sind und auch Rechenregeln für Transponierte benutzen (s.u.).
Beachte aber: [mm] $(MNP)^T=P^TN^TM^T$ [/mm] kannst Du hier stets anwenden (das folgt aus der Regel [mm] $(MN)^T=N^TM^T$ [/mm] durch zweimalige Anwendung!), ebenso gilt für invertierbares [mm] $M\,$ [/mm] die Regel [mm] $(M^{-1})^T=(M^T)^{-1}\,,$ [/mm] weswegen man dann, wenn [mm] $M\,$ [/mm] invertierbar ist, auch kurz [mm] $M^{-T}$ [/mm] für die Inverse der transponierten schreiben darf. (Denn es ist egal, ob man [mm] $M^{-T}$ [/mm] dann als [mm] $(M^{-1})^T$ [/mm] oder als [mm] $(M^T)^{-1}$ [/mm] versteht!)
Oben ist aber bei [mm] $A^T \Sigma^{-1} [/mm] A$ nicht notwendig invertierbar (wenn ich das richtig sehe), daher kannst Du bei [mm] $(A^T \Sigma^{-1} A)^{-1}$ [/mm] nicht eine Regel der Form [mm] $(MNP)^{-1}=P^{-1}N^{-1}M^{-1}$ [/mm] verwenden (zumal dort ja $M,N,P$ auch quadratische Matrizen gleicher Zeilen-=Spaltenzahl sein müßten: Also $M,N,P$ dann auch alle $n [mm] \times [/mm] n$ Matrizen!)
P.S.
Bei allen Überlegungen/Rechnungen sollte man sich am besten immer klar machen, "wo" man gerade rechnet:
Wenn etwa $v [mm] \in \IR^n=\IR^{n \times 1}\,,$ [/mm] und wenn $p [mm] \in \IR^m=\IR^{m \times 1}\,,$ [/mm] dann sollte bei $v+A*p$ sicher $A [mm] \in \IR^{n \times m}$ [/mm] sein. Dann ist [mm] $(v+A*p)^T \in \IR^{1 \times n}$...
[/mm]
P.P.S.
1.) Beachte auch, dass hier [mm] $\Sigma=\Sigma^{T}$ [/mm] und damit wegen der Invertierbarkeit von [mm] $\Sigma$ [/mm] auch [mm] $\Sigma^{-1}=(\Sigma^{-1})^T=\Sigma^{-T}$ [/mm] gilt...
2.) Und nach wie vor gilt: Da man hier schnell mal ein wenig durcheinanderkommt (man schreibt mal schnell die Matrix anstelle der transponierten hin oder sowas - solche Fehler vermeidet man aber wirklich, wenn man ein einfaches Beispiel mal durchrechnet und dann vergleicht, ob die allgemeine Rechnung zur speziellen passt!): Auch mir kann das hier passiert sein. Also: Alles mal schön detailliert nachrechnen - Übung macht den Meister. Und wenn Du solche Rechnungen und die entsprechenden Rechenregeln ein paar Mal gemacht und zu Ende gerechnet hast, wirst Du sehen, dass Dir das in der Prüfung schnell von der Hand geht!
Gruß,
Marcel
|
|
|
| |
|
Hallo Marcel
Also erst einmal vielen Dank für deine ausführliche Antwort. Frage 3 ist nun klar, bei Frage 2 habe ich aber noch ein Problem.
[mm] $$\nabla_x [/mm] (M*x) = M$$
[mm] $$\nabla_x (x^T [/mm] N) = [mm] N^T$$ [/mm]
Das ist so korrekt, oder? Habe da ein Beispiel gerechnet, bin aber nicht ganz sicher.
Wir haben ja $$S(p) = (v + [mm] A*p)^T \Sigma^{-1} [/mm] (v + [mm] A*p)=v^T \Sigma^{-1}v+p^TA^T \Sigma^{-1}v+v^T \Sigma^{-1}Ap+p^T\underbrace{A^T \Sigma^{-1} A}_{=:R} p\,.$$ [/mm]
Wenn wir nun die obigen zwei Regeln und [mm] $\nabla_x (x^T [/mm] R x)=2R [mm] x\,.$ [/mm] anwenden, dann kommt man auf
[mm] $$\nabla S(p)=v^T\Sigma^{-1}A [/mm] + [mm] v^T\Sigma^{-1}A [/mm] + [mm] \nabla_p (p^T\underbrace{A^T \Sigma^{-1} A}_{=:R} p\,) [/mm] = [mm] 2v^T\Sigma^{-1}A [/mm] + [mm] 2A^T\Sigma^{-1}Ap$$
[/mm]
Die offizielle Lösung ist ja [mm]\nabla S(p) = 2(A*p + v)^T\Sigma^{-1}A = 2(p^TA^T + v^T)\Sigma^{-1}A = (2p^TA^T + 2v^T)\Sigma^{-1}A = 2v^T\Sigma^{-1}A + 2p^TA^T\Sigma^{-1}A[/mm]
Der zweite Term [mm] $$2p^TA^T\Sigma^{-1}A$$ [/mm] stimmt ja nun nicht mit dem zweiten Term meiner Lösung [mm] $$2A^T\Sigma^{-1}Ap$$ [/mm] überein. Was lief da falsch?
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 07:53 Mo 16.07.2012 | | Autor: | Marcel |
Hallo,
> Hallo Marcel
>
> Also erst einmal vielen Dank für deine ausführliche
> Antwort. Frage 3 ist nun klar, bei Frage 2 habe ich aber
> noch ein Problem.
>
> [mm]\nabla_x (M*x) = M[/mm]
> [mm]\nabla_x (x^T N) = N^T[/mm]
>
> Das ist so korrekt, oder? Habe da ein Beispiel gerechnet,
> bin aber nicht ganz sicher.
das kommt drauf an: Ich kenne es so, dass der Gradient ein Spaltenvektor ist. Habt ihr den als Zeilenvektor definiert? Denn wenn ihr ihn als Spaltenvektor definiert habt, dann muss bei dem [mm] $M\,$ [/mm] das transponiert dranstehen und bei dem [mm] $N\,$ [/mm] nicht. Wurde er als Zeilenvektor definiert, dann ist das korrekt, was Du schreibst!
> Wir haben ja [mm]S(p) = (v + A*p)^T \Sigma^{-1} (v + A*p)=v^T \Sigma^{-1}v+p^TA^T \Sigma^{-1}v+v^T \Sigma^{-1}Ap+p^T\underbrace{A^T \Sigma^{-1} A}_{=:R} p\,.[/mm]
>
> Wenn wir nun die obigen zwei Regeln und [mm]\nabla_x (x^T R x)=2R x\,.[/mm]
> anwenden, dann kommt man auf
>
> [mm]\nabla S(p)=v^T\Sigma^{-1}A + v^T\Sigma^{-1}A + \nabla_p (p^T\underbrace{A^T \Sigma^{-1} A}_{=:R} p\,) = 2v^T\Sigma^{-1}A + 2A^T\Sigma^{-1}Ap[/mm]
>
> Die offizielle Lösung ist ja [mm]\nabla S(p) = 2(A*p + v)^T\Sigma^{-1}A = 2(p^TA^T + v^T)\Sigma^{-1}A = (2p^TA^T + 2v^T)\Sigma^{-1}A = 2v^T\Sigma^{-1}A + 2p^TA^T\Sigma^{-1}A[/mm]
>
> Der zweite Term [mm]2p^TA^T\Sigma^{-1}A[/mm] stimmt ja nun nicht mit
> dem zweiten Term meiner Lösung [mm]2A^T\Sigma^{-1}Ap[/mm] überein.
> Was lief da falsch?
Eventuell hast Du (s.o.) ein transponiert falsch, denn dann würde es passen. Dazu rechne ich einfach mal das Transponierte Deines Terms/Deiner letztstehenden Matrix aus:
[mm] $$(A^T\Sigma^{-1}Ap)^T=(p^T A^T)(A^T \Sigma^{-1})^T=p^TA^T\Big(\Sigma^{-T}(A^T)^T\Big)\;\;\;\;\stackrel{\substack{\text{wegen }\\\Sigma^{-T}=\Sigma^{-1}}}{=}\;\;\;\;p^TA^T \Sigma^{-1}A\,.$$
[/mm]
Gruß,
Marcel
|
|
|
| |
|
> das kommt drauf an: Ich kenne es so, dass der Gradient ein
> Spaltenvektor ist. Habt ihr den als Zeilenvektor definiert?
> Denn wenn ihr ihn als Spaltenvektor definiert habt, dann
> muss bei dem [mm]M\,[/mm] das transponiert dranstehen und bei dem
> [mm]N\,[/mm] nicht. Wurde er als Zeilenvektor definiert, dann ist
> das korrekt, was Du schreibst!
Wir haben den Gradienten eigentlich als Spaltenvektor definiert. Wenn man dann allerdings [mm] $$\nabla_x [/mm] (M*x) = [mm] M^T$$ $$\nabla_x (x^T [/mm] N) = N$$ verwendet, so würde man auf folgende Lösung kommen.
[mm] $$\nabla [/mm] S(p) = [mm] 2A^T\Sigma^{-1}v [/mm] + ...$$
was ja gerade die Transponierte des Terms der offiziellen Lösung wäre
[mm] $$\nabla [/mm] S(p) = [mm] 2v^T\Sigma^{-1}A [/mm] + ...$$
> Eventuell hast Du (s.o.) ein transponiert falsch, denn dann
> würde es passen. Dazu rechne ich einfach mal das
> Transponierte Deines Terms/Deiner letztstehenden Matrix
> aus:
> [mm](A^T\Sigma^{-1}Ap)^T=(p^T A^T)(A^T \Sigma^{-1})^T=p^TA^T\Big(\Sigma^{-T}(A^T)^T\Big)\;\;\;\;\stackrel{\substack{\text{wegen }\\\Sigma^{-T}=\Sigma^{-1}}}{=}\;\;\;\;p^TA^T \Sigma^{-1}A\,.[/mm]
Ich sehe da bei meiner Rechnung keinen Fehler. Ich habe einfach die Regel [mm] $$\nabla_x (x^T [/mm] R x)=2R [mm] x\,.$$ [/mm] auf [mm] $$S(p)=...+p^T\underbrace{A^T \Sigma^{-1} A}_{=:R} p\,.$$ [/mm] angewendet und da erhält man ja [mm] $$\nabla [/mm] S(p)= ...+ [mm] 2A^T\Sigma^{-1}Ap$$ [/mm]
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 08:04 Mi 18.07.2012 | | Autor: | Marcel |
Hallo,
ich muss mir das nochmal in Ruhe angucken. Aber ich denke, dass Dir das Wesentliche nun eigentlich auch klar ist.
Es sollte aber uns beiden eigentlich sicher gelingen, herauszufinden, wo da ein Transponiert falsch ist oder zu erkennen, ob da in der Musterlösung etwas falsch ist/fehlt. Schlimmstenfalls rechnet man die einzelnen Umformungen mal an einem einfachen Beispiel nach und vergleicht das mit unserer hier "allgemeinen" Form.
Gruß,
Marcel
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig | | Datum: | 10:20 Fr 20.07.2012 | | Autor: | matux |
$MATUXTEXT(ueberfaellige_frage)
|
|
|
|
