Všechny pravděpodobnostní klasifikátory jsem trochu zmatený.
-
Bayes optimální klasifikátor je uveden jako $ max (p (x | C) p (C)) $ a pokud jsou všechny třídy stejné dříve, pak se sníží na $ max (p (x | C)) $
-
Poměr pravděpodobnosti je uveden jako $ \ frac {p (x | C1)} {p (x | C2)} $
Pokud pouze mít 2 třídy se stejnými před tím, jaký je rozdíl mezi Bayesovým optimálním klasifikátorem a poměrem pravděpodobnosti? Nebudou mi oba vracet stejnou třídu jako výstup?
Komentáře
- Jsou to úplně jiné věci, takže byste mohli objasnit, proč je považujete za " v podstatě stejný "?
- Omlouvám se, upravil jsem svoji otázku. Doufám, že moje otázka je nyní jasnější.
- To, co popisujete, se zdá být Bayesovým klasifikátorem, nikoli Bayesovým optimálním klasifikátorem.
Odpověď
Nejsou stejné, ale ve vašem případě by mohly být použity pro stejný účel.
$$ \ DeclareMathOperator * {\ argmax} {arg \, max} \ argmax_ {c \ v C} p (c | X ) $$
tj. ze všech hypotéz vezměte $ c $, které maximalizuje zadní pravděpodobnost. Používáte Bayesovu větu
$$ \ underbrace {p (c | X)} _ {\ text {posterior}} \ propto \ underbrace {p (X | c)} _ {\ text {likelihood} } \ underbrace {p (c)} _ {\ text {prior}} $$
ale vzhledem k tomu, že se používá uniformní prior (všechny $ c $ jsou stejně pravděpodobné, tak $ p (c) \ propto 1 $ ) snižuje na pravděpodobnost funkce
$$ p (c | X) \ propto p (X | c) $$
Rozdíl mezi maximalizací funkce pravděpodobnosti a porovnáním poměrů pravděpodobnosti spočívá v tom, že s poměrem pravděpodobnosti porovnáváte pouze dvě pravděpodobnosti, zatímco při maximalizaci pravděpodobnosti můžete zvážit několik hypotéz. Pokud tedy máte pouze dvě hypotézy, budou dělat v podstatě totéž . Představte si však, že jste měli více tříd, v takovém případě by porovnání každé z nich se všemi ostatními pár po páru bylo opravdu neefektivní cestou.
Všimněte si, že poměr pravděpodobnosti slouží i jinému účelu než hledání toho, který ze dvou modelů má větší pravděpodobnost. Pro testování hypotéz lze použít poměr pravděpodobnosti a řekne vám, o kolik pravděpodobnější je jeden (nebo méně) jeden z modelů ve srovnání s ostatními. Totéž můžete udělat při porovnávání zadních distribucí podobným způsobem pomocí Bayesova faktoru .
Komentáře
- Děkuji! Plánoval jsem upravit svou otázku a zeptat se na odhad maximální pravděpodobnosti, protože vypadá podobně jako Bayesův klasifikátor! Děkuji za objasnění mé pochybnosti!