Clasificator optim Bayes vs Raport de probabilitate

Sunt ușor confuz de toți clasificatorii probabilistici.

  1. Bayes clasificatorul optim este dat ca $ max (p (x | C) p (C)) $ și dacă toate clasele au prioritate egală atunci se reduce la $ max (p (x | C)) $

  2. Raportul de probabilitate este dat ca $ \ frac {p (x | C1)} {p (x | C2)} $

Dacă numai eu au 2 clase cu prioritate egală atunci care este diferența dintre clasificatorul optim bayes și raportul de probabilitate? Amândoi nu-mi vor întoarce aceeași clasă ca și rezultatul?

Comentarii

  • Sunt lucruri total diferite, așa că ai putea clarifica ce te face să le consideri " în esență același "?
  • Ne pare rău că mi-am editat întrebarea. Sper că întrebarea mea este mai clară acum.
  • Ceea ce descrieți pare să fie un clasificator Bayes, nu un clasificator Bayes optim .

Răspuns

Nu sunt la fel, dar în cazul dvs. ar putea fi utilizate în același scop.

Clasificatorul optim Bayes este

$$ \ DeclareMathOperator * {\ argmax} {arg \, max} \ argmax_ {c \ in C} p (c | X ) $$

adică, printre toate ipotezele, luați $ c $ care maximizează probabilitatea posterioară. Utilizați teorema Bayes

$$ \ underbrace {p (c | X)} _ {\ text {posterior}} \ propto \ underbrace {p (X | c)} _ {\ text {probabilitate} } \ underbrace {p (c)} _ {\ text {prior}} $$

dar din moment ce se utilizează uniformul anterior (toate $ c $ sunt la fel de probabile, deci $ p (c) \ propto 1 $ ) se reduce la funcția de probabilitate

$$ p (c | X) \ propto p (X | c) $$

Diferența dintre maximizarea funcției de probabilitate și compararea raporturilor de probabilitate este că, cu raportul de probabilitate, comparați doar două probabilități, în timp ce la maximizarea probabilității, puteți lua în considerare ipoteze multiple. Deci, dacă aveți doar două ipoteze, atunci ele vor face în esență același lucru . Cu toate acestea, imaginați-vă că ați avut mai multe clase, într-un astfel de caz, compararea fiecăreia dintre ele cu toate celelalte pereche cu pereche ar fi o cale cu adevărat ineficientă.

Observați că raportul de probabilitate servește, de asemenea, și altui scop decât găsirea careia dintre cele două modele are o probabilitate mai mare. Raportul de probabilitate poate fi utilizat pentru testarea ipotezelor și vă arată cât de mult (sau mai puțin) probabil este unul dintre modelele în comparație cu celălalt. Mai mult, puteți face același lucru atunci când comparați distribuțiile posterioare utilizând factorul Bayes în mod similar.

Comentarii

  • Vă mulțumim! Plănuiam să-mi editez întrebarea pentru a întreba despre estimarea maximă a probabilității, deoarece arată similar cu clasificatorul Bayes! Vă mulțumim că mi-ați îndepărtat îndoielile!

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *