Önyargılı maksimum olabilirlik tahmin edicilerinin arkasındaki sezgisel muhakeme


25

Önyargılı maksimum olabilirlik (ML) tahmin edicileri hakkında bir kafa karışıklığım var . Bütün kavramın matematiği benim için oldukça açık ama arkasındaki sezgisel mantığı bulamıyorum.

Tahmini almak istediğimiz bir parametrenin işlevi olan bir dağılımdan örnekleri olan belirli bir veri kümesi göz önüne alındığında, ML tahmincisi, veri kümesini üretmesi en muhtemel olan parametrenin değeriyle sonuçlanır.

Önyargılı bir ML tahmincisini şu anlamda sezgisel olarak anlayamıyorum: parametrenin en muhtemel değeri parametrenin gerçek değerini yanlış bir değere doğru önyargılı olarak nasıl tahmin edebilir?



Buradaki önyargıya odaklanmanın, kesinlikle çok yakından ilişkili olsalar bile, bu soruyu önerilen kopyadan ayırabileceğini düşünüyorum.
Silverfish,

Yanıtlar:


14

ML tahmincisi, veri kümesinde ortaya çıkması muhtemel olan parametrenin değerine yol açar.

Varsayımlar göz önüne alındığında, ML tahmincisi, veri kümesini üretme şansı en yüksek olan parametrenin değeridir.

Önyargılı bir ML tahmincisini "Parametre için en olası değer parametrenin gerçek değerini, yanlış bir değere yönelik önyargıyla nasıl tahmin edebilir?" Anlamında sezgisel olarak anlayamıyorum.

Önyargı, örnekleme dağılımlarının beklentileri hakkındadır. “Verileri üretmesi en muhtemel” örnekleme dağılımlarının beklentileri ile ilgili değildir. Neden bir araya gelmeleri bekleniyor?

Mutlaka uyuşmamalarının şaşırtıcı olmasının temeli nedir?

Bazı basit MLE vakalarını düşünmenizi ve bu özel durumlarda farkın nasıl ortaya çıktığını düşünmenizi öneririm.

(0,θ)

θθθ

görüntü tanımını buraya girin

θθ

U(0,θ)nn+1θθ^=n+1nX(n)X(n)

Bu, MLE'nin sağında yatar ve bu yüzden daha düşük olabilir.


Cevabınız için teşekkürler. İlk bölüm hakkında kendimi yanlış ifade ettim. Temelde söylediklerini kastettim. İkinci bölüme verdiğiniz cevaba dayanarak, aynı dağılımdan elde edilen başka bir veri seti verildiğinde, ML tahmincisinin farklı bir önyargıya neden olacağı sonucuna varabilir miyim? ML tahmincisinin “büyük olasılıkla” verileri ürettiğini söylediğinizden beri. Verileri değiştirirsek, başka bir tahmin edici de büyük olasılıkla onu üretebilir. Bu doğru mu?
ssah

Nüfus dağılımının şekli değişmezse, tahmin edici değişmez. Bazı diğer tahminler farklı bir örnekle üretilecek ve önyargılı miktar genellikle farklı olacaktır - önyargı, popülasyon aynı olsa bile, genellikle örneklem büyüklüğü ile ilgilidir. ... (
ctd

(Ctd) ... mnθ

Yansız ve ML tahmin ediciler arasındaki farkı görmek için kanonik örneğin iyi kullanılması.
jwg

6

βMLEβββMLE

MLE yalnızca asimptotik olarak tarafsızdır ve genellikle sonlu örneklerde tahmin ediciyi daha iyi çalışacak şekilde ayarlayabilirsiniz. Örneğin, rastgele bir değişkenin varyansının MLE'si, çarpmanın bir örnektir.NN1


İlk bölümdeki hata için özür dilerim. Düzenledim ve düzelttim. Fakat MLE hakkında söyledikleriniz hakkında, neden asimptotik olmayan bir durumda ilk etapta önyargılı olacak?
ssah

2
"Daha iyi", neye baktığınıza bağlıdır; Bessel’in düzeltmesi onu tarafsızlaştırıyor, fakat tarafsızlık otomatik olarak “daha ​​iyi” değil. Yansızlık iyi olmak için iddia edilebilir, paribus ceteris ama maalesef ceteris olmayacak paribus .
Glen_b

Anladığım kadarıyla tarafsız tahmin edicinin MLE ile Cramer-Rao alt sınırı arasındaki ilişkide en tarafsız olduğu gösterilebilir.
Dimitriy V. Masterov

@ ssah, formülde gerçek ortalama yerine örnek ortalamayı kullandığımız için söylendi. Dürüst olmak gerekirse, bu açıklamayı hiçbir zaman özellikle sezgisel bulmamıştım, çünkü ortalamanın MLE tahmincisi tarafsızsa, bu neden yanlış olmalı? Genelde bir simülasyonla dinlenmekten şüphelerim olur.
Dimitriy V. Masterov 05.05

5

İşte sezgim.

Önyargı bir doğruluk ölçütüdür , ancak aynı zamanda bir hassasiyet kavramı da vardır .

görüntü tanımını buraya girin

İdeal bir dünyada, hem kesin hem de doğru olan bir tahminde bulunacağız, yani her zaman boğanın gözüne çarpar. Maalesef, kusurlu dünyamızda doğruluk ve kesinlik dengelemek zorundayız. Bazen daha fazla hassasiyet kazanmak için biraz doğruluk sağlayabileceğimizi hissedebiliriz: her zaman değiş tokuş yaparız. Dolayısıyla, bir tahmin edicinin önyargılı olması, bunun kötü olduğu anlamına gelmez: daha kesin olabilirdi.

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.