Tahminciler istatistiklerdir ve istatistiklerin örnekleme dağılımları vardır (yani, aynı boyuttaki örnekleri çizmeye devam ettiğiniz ve her bir örnek için bir tane alacağınız tahminlerin dağılımına baktığımız durumdan bahsediyoruz).
Alıntı, MLE'lerin örnek boyutları sonsuza yaklaştıkça dağılımını ifade eder.
Şimdi açık bir örneği, üstel dağılım parametresini ele alalım (oran parametrelemesini değil, ölçek parametrelemesini kullanarak).
f( x ; μ ) =1μe-xμ;x > 0 ,μ > 0
Bu durumda . Teorem bize örnek büyüklüğü büyüdükçe büyüdükçe (uygun şekilde standartlaştırılmış) (üstel verilerde) dağılımının daha normal hale geleceğini verir.μ^=x¯nX¯
Her biri 1 ebatta tekrarlanan numuneler alırsak, numune aracının elde edilen yoğunluğu sol üst grafikte verilir. Her biri 2 büyüklüğünde tekrarlanan numuneler alırsak, numune aracının elde edilen yoğunluğu sağ üst grafikte verilir; n = 25 ile, sağ altta, örnek araçların dağılımı zaten çok daha normal görünmeye başlamıştır.
(Bu durumda, CLT nedeniyle durumun zaten böyle olacağını tahmin ederiz. Ancak dağılımı da normalliğe yaklaşmalıdır çünkü rate parametresi için ve CLT'den - en azından doğrudan değil - - bunu elde edemezsiniz çünkü artık standartlaştırılmış araçlardan bahsetmiyoruz, CLT'nin konusu budur)1 /X¯λ=1/μ
Şimdi bilinen ölçek ortalaması olan bir gama dağılımının şekil parametresini düşünün (burada ölçek ve şekil yerine bir ortalama ve şekil parametrelemesi kullanarak).
Tahminci bu durumda kapalı form değildir ve CLT buna uygulanmaz (yine en azından doğrudan değil *), ancak yine de olabilirlik işlevinin argmax'ı MLE'dir. Daha büyük ve daha büyük numuneler alırken, şekil parametresi tahmininin örnekleme dağılımı daha normal hale gelir.
Bunlar, belirtilen örnek boyutları için bir gammanın şekil parametresinin (2,2) 10000 takım ML tahmininden çekirdek yoğunluğu tahminleridir (ilk iki sonuç kümesi son derece ağır kuyrukluydu; modun yakınındaki şekli görebilirsiniz). Bu durumda, modun yakınındaki şekil şu ana kadar sadece yavaş değişiyor - ancak aşırı kuyruk oldukça dramatik bir şekilde kısaldı. Normal görünmeye başlaması birkaç yüz alabilir .n
-
* Belirtildiği gibi, CLT doğrudan geçerli değildir (açıkça, genel olarak araçlarla uğraşmadığımız için). Bununla birlikte, bir dizide içindeki bir şeyi genişlettiğiniz , daha yüksek sipariş terimleriyle ilgili uygun bir argüman oluşturabileceğiniz ve normalliğe yaklaşır (uygun koşullar altında ...).θ^θ^
Ayrıca, küçük örneklere baktığımızda gördüğümüz etkinin (en azından sonsuzluğa kıyasla küçük, en azından) - yukarıdaki durumlar tarafından motive edildiğini gördüğümüz gibi, çeşitli durumlarda normalliğe doğru düzenli ilerlemenin - standartlaştırılmış bir istatistiğin cdf'sini düşündük, Berry Esseen eşitsizliği gibi bir şeyin, örnekleme dağılımının normalliğe yaklaşma hızını sınırlandıracak MLE'ler ile bir CLT argümanı kullanma biçimine benzer bir yaklaşıma dayanan bir versiyonu olabilir. Böyle bir şey görmedim, ama yapıldığını bulmak beni şaşırtmayacaktı.