Je suis un peu confus par tous les classificateurs probabilistes.
-
Les bayes le classificateur optimal est donné comme $ max (p (x | C) p (C)) $ et si toutes les classes ont égal avant alors il se réduit à $ max (p (x | C)) $
-
Le rapport de vraisemblance est donné par $ \ frac {p (x | C1)} {p (x | C2)} $
Si seulement avoir 2 classes avec égal avant alors quelle est la différence entre le classificateur optimal de bayes et le rapport de vraisemblance? Est-ce quils ne me renverront pas tous les deux la même classe que la sortie?
Commentaires
- Ce sont des choses totalement différentes, alors pourriez-vous clarifier ce qui vous fait les considérer " essentiellement le même "?
- Désolé, jai modifié ma question. Jespère que ma question est plus claire maintenant.
- Ce que vous décrivez semble être un classificateur Bayes, pas un classificateur Bayes optimal .
Réponse
Ils ne sont pas les mêmes, mais dans votre cas, ils pourraient être utilisés dans le même but.
Le classificateur Bayes optimal est
$$ \ DeclareMathOperator * {\ argmax} {arg \, max} \ argmax_ {c \ in C} p (c | X ) $$
cest-à-dire, parmi toutes les hypothèses, prenons le $ c $ qui maximise la probabilité postérieure. Vous utilisez le théorème de Bayes
$$ \ underbrace {p (c | X)} _ {\ text {postérieur}} \ propto \ underbrace {p (X | c)} _ {\ text {vraisemblance} } \ underbrace {p (c)} _ {\ text {prior}} $$
mais depuis lutilisation de luniform prior (tous les $ c $ sont également probables, donc $ p (c) \ propto 1 $ ) il se réduit à la fonction de vraisemblance
$$ p (c | X) \ propto p (X | c) $$
La différence entre maximiser la fonction de vraisemblance et comparer les rapports de vraisemblance, cest quavec le rapport de vraisemblance, vous ne comparez que deux probabilités, tandis quen maximisant la vraisemblance, vous pouvez considérer plusieurs hypothèses. Donc, si vous navez que deux hypothèses, alors elles feront essentiellement la même chose . Cependant, imaginez que vous ayez plusieurs classes, dans ce cas, comparer chacune delles avec toutes les autres paire par paire serait une manière vraiment inefficace de procéder.
Notez que le rapport de vraisemblance sert également à dautres fins que de trouver lequel des deux modèles a la plus grande probabilité. Le rapport de vraisemblance peut être utilisé pour le test dhypothèse et il vous indique dans quelle mesure lun des modèles est plus (ou moins) probable par rapport à lautre. De plus, vous pouvez faire de même lorsque vous comparez les distributions postérieures en utilisant le facteur de Bayes de manière similaire.
Commentaires
- Merci! Javais lintention déditer ma question pour poser des questions sur lestimation du maximum de vraisemblance car elle ressemble au classificateur bayes! Merci davoir dissipé mon doute!