Uydurma olasılık dağılımlarındaki MLE'ye karşı en küçük kareler

Okuduğum birkaç makaleye, kitaba ve makaleye dayanarak edindiğim izlenim, bir olasılık kümesi dağılımını bir veri kümesine yerleştirmenin önerilen yolunun, maksimum olasılık tahmini (MLE) kullanmak olmasıdır. Bununla birlikte, bir fizikçi olarak, daha sezgisel bir yol, modelin pdf'sini en az kareler kullanarak verilerin ampirik pdf'sine yerleştirmektir. O zaman neden MLE, olasılık dağılım dağılımındaki en küçük karelerden daha iyi? Birisi beni bu soruyu cevaplayan bilimsel bir makaleye / kitaba yönlendirebilir mi?

Benim önsezim, MLE'nin bir gürültü modeli almaması ve ampirik pdf'deki "gürültü" nin heterossedastik ve normal olmamasıdır.

Bunu düşünmenin yararlı bir yolu, en küçük kareler ve MLE'nin aynı olduğu durumlar olduğunu not etmektir; örneğin, rastgele elemanın normal bir dağılıma sahip olduğu parametreleri tahmin etmek. Aslında, MLE'nin bir gürültü modeli üstlenmemesi yerine (spekülasyon olarak), devam eden şey, rastgele gürültü olduğunu varsaymasıdır, ancak bunu varsaymak yerine nasıl şekillendirildiğine dair daha sofistike bir bakış açısı alır. dağılımı normaldir.

İstatistiksel çıkarımla ilgili herhangi bir ders kitabı, MLE'lerin verimlilik ve tutarlılık açısından güzel özellikleriyle ilgilenecektir (ancak mutlaka önyargılı değildir). MLE'ler ayrıca makul koşullar altında asimptotik olarak normal olma özelliğine sahiptir.