Jestem trochę zdezorientowany przez wszystkie klasyfikatory probabilistyczne.
-
Bayes optymalny klasyfikator jest podawany jako $ max (p (x | C) p (C)) $ i jeśli wszystkie klasy mają równe przed, to redukuje się do $ max (p (x | C)) $
-
Wskaźnik prawdopodobieństwa jest podany jako $ \ frac {p (x | C1)} {p (x | C2)} $
Gdybym tylko mają 2 klasy z równymi wcześniej, jaka jest różnica między optymalnym klasyfikatorem Bayesa a współczynnikiem wiarygodności? Czy obaj nie zwrócą mi tej samej klasy co wynik?
Komentarze
- Są to zupełnie inne rzeczy, więc czy mógłbyś wyjaśnić, co sprawia, że je uważasz " w zasadzie to samo "?
- Przepraszam, że zmodyfikowałem moje pytanie. Mam nadzieję, że moje pytanie jest teraz jaśniejsze.
- To, co opisujesz, wydaje się być klasyfikatorem Bayesa, a nie optymalnym klasyfikatorem Bayesa.
Odpowiedź
Nie są takie same, ale w Twoim przypadku mogą być użyte w tym samym celu.
Optymalny klasyfikator Bayesa to
$$ \ DeclareMathOperator * {\ argmax} {arg \, max} \ argmax_ {c \ in C} p (c | X ) $$
tzn. spośród wszystkich hipotez weź $ c $, który maksymalizuje późniejsze prawdopodobieństwo. Używasz twierdzenia Bayesa
$$ \ underbrace {p (c | X)} _ {\ text {posterior}} \ propto \ underbrace {p (X | c)} _ {\ text {likelihood} } \ underbrace {p (c)} _ {\ text {prior}} $$
ale ponieważ wcześniej używano uniforma (wszystkie $ c $ są równie prawdopodobne, więc $ p (c) \ propto 1 $ ) redukuje się do funkcji prawdopodobieństwa
$$ p (c | X) \ propto p (X | c) $$
Różnica między maksymalizacją funkcji wiarygodności a porównaniem współczynników wiarygodności polega na tym, że przy współczynniku wiarygodności porównujesz tylko dwa prawdopodobieństwa, podczas gdy maksymalizując prawdopodobieństwo, możesz rozważyć wiele hipotez. Więc jeśli masz tylko dwie hipotezy, to zrobią w zasadzie to samo . Wyobraź sobie jednak, że masz wiele klas, w takim przypadku porównywanie każdej z nich ze wszystkimi innymi parami byłoby naprawdę nieefektywnym rozwiązaniem.
Zauważ, że współczynnik prawdopodobieństwa służy również innym celom niż znalezienie tego, który z dwóch modeli ma większe prawdopodobieństwo. Współczynnik prawdopodobieństwa może być użyty do testowania hipotez i wskazuje, o ile bardziej (lub mniej) prawdopodobne jest porównanie jednego z modeli. Co więcej, możesz zrobić to samo, porównując późniejsze dystrybucje, używając współczynnika Bayesa w podobny sposób.
Komentarze
- Dziękuję! Planowałem edytować swoje pytanie, aby zapytać o oszacowanie maksymalnego prawdopodobieństwa, ponieważ wygląda podobnie do klasyfikatora Bayesa! Dziękuję za rozwianie wątpliwości!