Bayes-Theorem: Klassifikation < Stochastik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 13:16 Mo 01.09.2014 | | Autor: | ttl |
| Aufgabe | Fehlerwahrscheinlichkeit
Gegeben seien die folgenden klassenbedingten Wahrscheinlichkeiten:
[mm] p(x|w_{1})=\begin{cases} -\frac{2}{5} + \frac{2}{5}x, & \mbox{für } x\in [1,2) \\ \frac{3}{5} -\frac{1}{10}x, & \mbox{für } x\in [2,6]\\ 0, &\mbox{sonst } \end{cases}
[/mm]
[mm] p(x|w_{2})=\begin{cases} -\frac{1}{5} + \frac{1}{5}x, & \mbox{für } x\in [1,3) \\ \frac{4}{5} -\frac{2}{15}x, & \mbox{für } x\in [3,6]\\ 0, &\mbox{sonst } \end{cases}
[/mm]
[mm] p(x|w_{3})=\begin{cases} -\frac{1}{5} + \frac{1}{10}x, & \mbox{für } x\in [2,6) \\ \frac{14}{5} -\frac{2}{5}x, & \mbox{für } x\in [6,7]\\ 0, &\mbox{sonst } \end{cases}
[/mm]
Des weiteren gelte [mm] P(w_{1}) [/mm] = [mm] 3P(w_{2}) [/mm] und [mm] P(w_{2}) [/mm] = [mm] P(w_{3}), [/mm] wobei es keine weiteren Klassen gibt.
1. Ermitteln Sie grafisch die Anzahl der Schwellwerte [mm] \theta_{i}, [/mm] die benötigt werden um eine minimale Fehlerwahrscheinlichkeit bei der Klassifikation zu erhalten. (Schon geschehen!)
2. Berechnen Sie die Position der Schwellwerte [mm] \theta_{i} [/mm] mit denen die Fehlerwahrscheinlichkeit bei der Klassifikation minimal wird. (Schon geschehen!)
3. Bestimmen Sie die minimale Fehlerwahrscheinlichkeit, di durch eine geeignete Wahl der Schwellwerte bei der Klassifkation möglich ist. (Noch offen!) |
Hi,
wenn es um die Klassifikation geht, habe ich leider etwas Probleme.
Z.B. wenn man nur zwei Klassen hätte, die sie sich in einem gewissen Punkt schneiden, dann hätte man links vom Schwellwert Objekte, die fälschlicherweise als Objekte der rechten Klasse zugeordnet wird und analog für die Objekte rechts vom Schwellwert.
Was mir vor allen Dingen Kopfzerbrechen verursacht, sind Klassen n > 2, also wie in diesem Fall 3 Klassen.
Klasse 1 und 3 schneiden sich im Punkt x = 5 und hier ist auch der Schwellwert.
Wenn man alle drei Klassen zweichnet, dann liegt die zweite Klasse komplett in der ersten Klasse vom Intervall [1,6].
Ein Teil von Klasse 3 verläuft in Klasse 1 und 2.
Ein Teil von Klasse 1 und damit auch Klasse 2 befindet sich rechts vom Schwellwert in Klasse 3.
Also ich versuche gerade dies bildlich zu beschreiben, wie es links und rechts vom Schwellwert aussieht. Wenn man [mm] p(x|w_{i})P(w_{i}) [/mm] für i = 1,2,3 hingemalt hat, wird man es sehen.
Um die minimale Fehlerwahrscheinlichkeit zu berechnen, wird die folgende Formel verwendet:
P(Fehler) = [mm] P(w_{1})\integral_{5}^{6}{P(x|w_{1}) dx} [/mm] + [mm] P(w_{2}) \integral_{1}^{6}{P(x|w_{2}) dx} [/mm] + [mm] P(w_{3})\integral_{2}^{5}{P(x|w_{1}) dx} [/mm] = [mm] \frac{3}{5}\cdot\frac{1}{20} [/mm] + [mm] \frac{1}{5}\cdot [/mm] 1 + [mm] \frac{1}{5}\cdot\frac{9}{20} [/mm] = [mm] \frac{32}{100} [/mm] = 0.32
Leider kann ich dies nicht begründen und damit habe ich es nicht verstanden.
Wäre jemand so freundlich mir dies zu erklären, damit ich es auch für den Fall n>2 verstanden habe.
Gruß
ttl
|
|
| |
|
Die Fehlerwahrscheinlichkeit würdest Du so berechnen: es gibt drei Fälle, die Klassen 1, 2 und 3. Es gibt folglich auch drei Arten zu irren: Klasse 1 tritt ein und Du klassierst es falsch; Klasse 2 tritt ein und Du klassierst es falsch; Klasse 3 tritt ein und Du klassierst es falsch.
Die erste Wahrscheinlichkeit ist die W'keit, dass Klasse 1 eintritt, mal die bedingte Warscheinichkeit, dass falsch klassiert wird, wenn Klasse 1 eintritt:
$ [mm] P(w_{1})\cdot\integral_{B_1}{P(x|w_{1}) dx} \;,$
[/mm]
wobei über den Bereich [mm] $B_1$ [/mm] zu integrieren ist, in dem nicht als Klasse 1 klassiert wird. Das ist zwischen $5$ und $6$, also
$ [mm] P(w_{1})\integral_{5}^{6}{P(x|w_{1}) dx} \;,$
[/mm]
und so weiter für die anderen Klassen.
Hilft das?
Gruss,
Hanspeter
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 18:59 Sa 06.09.2014 | | Autor: | ttl |
Hi,
der dritte Fall verwirrt mich ein wenig. Dort wird die W'keit der Klasse 3 mit der bedingten Wahrscheinlichket [mm] p(x|w_{1}) [/mm] multipliziert.
Wieso?
Viele Grüße
ttl
|
|
|
| |
|
Das habe ich gar nicht beachtet, und es ist auch ganz einfach falsch. Richtig ist
$ [mm] P(w_{3})\integral_{2}^{5}{P(x|w_{3}) dx} [/mm] $
Ich habe übrigens nicht kontrolliert, ob die Integrationsgrenzen wirklich stimmen. Nach meiner schnell gemachten Handskizze habe ich aber Zweifel, das wäre also noch zu kontrollieren.
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 13:05 Mo 08.09.2014 | | Autor: | ttl |
Hi,
ich hätte dann eine weitere Frage, und zwar, wenn bestimmte Flächen zum Gesamtfehler mehrfach beitragen, muss man diese Flächen auch entsprechend mehrfach zum Gesamtfehler addieren?
Angenommen eine Fläche trägt zum Gesamtfehler dreimal bei. Muss man diese Fläche zum Gesamtfehler auch dreimal dazuaddieren?
Viele Grüße
ttl
|
|
|
| |
|
Nehmen wir an, Du hast vier Klassen:
Klasse 1 für [mm] $x\in (-\infty,1)$
[/mm]
Klasse 2 für [mm] $x\in [/mm] [1,2)$
Klasse 3 für [mm] $x\in [/mm] [2,3)$
Klasse 4 für [mm] $x\in [4,\infty)$
[/mm]
Dann ist
[mm] $P(\mathrm{Fehler}) [/mm] = [mm] P(w_{1})\integral_{1}^{\infty}{P(x|w_{1}) dx} [/mm] + [mm] P(w_{2}) \left( \integral_{-\infty}^{1}{P(x|w_{2}) dx} + \integral_{2}^{\infty}{P(x|w_{2}) dx} \right) [/mm] + [mm] P(w_{3}) \left( \integral_{-\infty}^{2}{P(x|w_{3}) dx} + \integral_{3}^{\infty}{P(x|w_{3}) dx} \right) [/mm] + [mm] P(w_{4}) \integral_{-\infty}^{4}{P(x|w_{4}) dx} [/mm] $
Dann kommt der Bereich $[1,2)$ in drei Integralen vor. Hast Du das gemeint mit "dreimal dazuaddieren"? Es ist ja dann nicht dreimal dieselbe Fläche, sondern dreimal die Fläche unter drei verschiedenen Kurven über dasselbe Intervall.
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 23:54 Mo 08.09.2014 | | Autor: | ttl |
Hi,
genau das habe ich gemeint. :)
Vielen Dank!
Viele Grüße
ttl
|
|
|
|
