Önceden üniform bir ünite, maksimum olasılık ve posterior modundan aynı tahminlere nasıl yol açar?


9

Farklı nokta tahmin yöntemleri üzerinde çalışıyorum ve MAP vs ML tahminleri kullanırken, "tekdüze bir önceki" kullandığımızda tahminlerin aynı olduğunu okudum. Birisi "tekdüze" önceliğin ne olduğunu açıklayabilir ve MAP ve ML tahmincilerinin ne zaman aynı olacağına dair bazı (basit) örnekler verebilir mi?



Yanıtlar:


10

Bu a, düzgün bir dağılımı (sürekli ya da kesikli).

Ayrıca bakınız

http://en.wikipedia.org/wiki/Point_estimation#Bayesian_point-estimation

ve

http://en.wikipedia.org/wiki/Maximum_a_posteriori_estimation#Description

MLE içeren bir kümede önceden üniforma kullanırsanız, daima MAP = MLE olur. Bunun nedeni, bu önceki yapı altında, posterior dağılım ve olasılığın orantılı olmasıdır.


2
Bence bu iyi bir cevap. Posterior dağılımın ve olasılığın orantılı olmasının nedeninin posterior dağılımın kendisinin olasılık ve önceliğin çarpımı ile orantılı olması olduğunu eklemeye değer olabilir. Öncekiler her yerde eşit değer dağılımında olduğu gibi aynı değeri aldığında, posterior dağılım olasılıkla orantılıdır.
TooTone

1
@TooTone Ben de su götürmezlik hakkında bir nokta eklemek istiyorum.
Stéphane Laurent

Önceden tekdüze, tahmin etmeye çalıştığınız her sınıf için bir kullanıcı kümesi veya eşit bir olasılık vermek olarak görülebilir. Örneğin, iki sınıf problemimiz varsa ve pozitif örneklerin dağılımı% 10 ise (yani önceki 0.1 olasılığı), orijinalin dengesizlik etkisinin üstesinden gelmek için pozitif vakaların 0,5 olması için üniformayı 0,5 olarak ayarlayabiliriz. dağılımı.
soufanom

2
Açıklamada, MAP ve ML'den önce tekdüze altında, yalnızca tekdüze önceki tekdüze parametrenin geçerli değerlerinin üzerindeyse çarpışır. Diğer bir deyişle, parametre sürekli ise ve öncekinin yalnızca [0, 1] 'de aynı olması beklemez.
Royi

@Drazick: iyi açıklama. Aslında bundan daha kötüdür, yani MAP (değeri), Druihlet ve Marin'in bu yazısında açıklandığı gibi, baskın önlemin seçimine bağlıdır .
Xi'an

1

MLE, bir parametrenin verildiği olayın gerçekleşme tahminidir, MAP ise bir olayın verilen bir parametrenin tahminidir. MAP tahmin ederken Bayes teoremini daha fazla kullandığımızdaP(D|θ)P(θ) nerede P(θ)MLE ile ilgili tek ek terimdir. MAP'nin ortalama ve varyans tahmini, Prior'in her seferinde aynı kalması ve hiç değişmemesi nedeniyle MLE'nin ortalama ve varyans tahmini ile aynı olacaktır. Böylece sadece sabit olarak hareket eder ve bu nedenle ortalama ve varyansın değerini etkilemede hiçbir rol oynamaz.


(-1) Maksimum olabilirlik tahmini (bir parametrenin), bir parametrenin tahminidir, 'verilen olayın gerçekleşme tahmini' değildir. Cevabın geri kalanı da biraz karışık / kafa karıştırıcıdır, örneğin 'ortalama ve varyansın' ne anlama geldiği belirsizdir.
Juho Kokkala

@ Zaman, gösteren bir kanıt (veya anahat) sağlayabilir The mean and variance estimate of MAP will be same as mean and variance estimate of MLEmisiniz? Thank you
curious_dan

@curious_dan Bayes teoremi p(θ|X)αp(X|θ)p(θ), Eğer p(θ)α1 tekdüze, daha sonra p(θ|X)αp(X|θ)x1, böylece yalnızca olasılığı en üst düzeye çıkarırsınız, bu yüzden MLE ile aynıdır.
Tim

teşekkür ederim, @Tim --- Bunun maksimum / beklenen değer için neden doğru olduğunu anlayabiliyorum, ama bana göre varyans aynı olacak
curious_dan

@curious_dan varyansı nedir? Bu, tahmin ettiğiniz parametre için geçerlidir.
Tim
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.