すべての確率的分類器に少し混乱しています。
-
ベイズ最適な分類器は$ max(p(x | C)p(C))$として与えられ、すべてのクラスが以前に等しい場合、$ max(p(x | C))$
-
尤度比は$ \ frac {p(x | C1)} {p(x | C2)} $
に減少します。
の場合のみ事前に等しい2つのクラスがある場合、ベイズの最適分類器と尤度比の違いは何ですか?どちらも出力と同じクラスを返しますか?
コメント
- まったく異なるものなので、何が原因であるかを明確にしてください。 "基本的に同じ"?
- 申し訳ありませんが、質問を編集しました。私の質問がより明確になったことを願っています。
- あなたが説明しているのはベイズ分類器であり、ベイズ最適分類器ではないようです。
回答
同じではありませんが、同じ目的で使用できる場合があります。
$$ \ DeclareMathOperator * {\ argmax} {arg \、max} \ argmax_ {c \ in C} p(c | X )$$
つまり、すべての仮説の中で、事後確率を最大化する$ c $を取ります。ベイズの定理を使用します
$$ \ underbrace {p(c | X)} _ {\ text {posterior}} \ propto \ underbrace {p(X | c)} _ {\ text {likelihood} } \ underbrace {p(c)} _ {\ text {prior}} $$
ただし、均一な事前確率を使用しているため(すべての$ c $の可能性は同じであるため、$ p(c)\ propto 1 $ )尤度関数
$$ p(c | X)\ propto p(X | c)$$
尤度関数の最大化と尤度比の比較の違いは、尤度比では2つの尤度のみを比較するのに対し、尤度を最大化する場合は複数の仮説を検討できることです。したがって、仮説が2つしかない場合、それらは基本的に同じことを行います。ただし、複数のクラスがあると想像してください。そのような場合、各クラスを他のすべてのクラスとペアごとに比較することは、非常に非効率的な方法です。
尤度比は、2つのモデルのどちらがより尤度が高いかを見つける以外の目的にも役立つことに注意してください。尤度比は、仮説検定に使用でき、モデルの1つが他のモデルと比較してどれだけ高い(または低い)可能性があるかを示します。さらに、同様の方法でベイズ因子を使用して事後分布を比較する場合にも同じことができます。
コメント
- ありがとうございます!最尤推定はベイズ分類器に似ているので、質問を編集して質問することを計画していました。疑問を解消していただきありがとうございます!