MLE ve OLS kullanma

Sıradan En Küçük Kareler yerine Maksimum Olabilirlik Tahminini kullanmak ne zaman tercih edilir? Her birinin güçlü yönleri ve sınırlamaları nelerdir? Her birinin ortak durumlarda nerede kullanılacağı konusunda pratik bilgiler toplamaya çalışıyorum.

regression maximum-likelihood least-squares

— user38133
kaynak

Açıklandığı gibi burada , EKK MLE sadece belirli örneğidir. İşte MLE açısından bir OLS türevi ile yakından ilgili bir soru.

Koşullu dağılım, gürültü modelinize karşılık gelir (OLS: Gauss için ve tüm girişler için aynı dağıtım). Başka seçenekler de var (t-Student aykırı değerlerle başa çıkmak veya gürültü dağılımının girdiye bağlı olmasına izin vermek )

— jpmuc
kaynak

(-1) Öğrencinin bu doğru değil için bağlı olabilir aykırı başa . Örneğe bakın burada ya bölüm 2. Bu daha açıklamalar için ders kitabı.

t

$t$

— user603

OLS, mesafeyi en aza indirgeyen bir tahmin / tahmin yöntemidir, ML ise bir "olabilirlik" maksimize yöntemidir. OLS, mesafeyi en aza indiren çözümünü sağlamak için stokastik varsayımlara ihtiyaç duymazken ML, ortak olasılık yoğunluğu / kütle fonksiyonu üstlenerek başlar . Bazı durumlarda ikisinin aynı çözümü sağlaması, hiçbir şekilde birini diğerinin belirli bir örneği yapmaz.

— Alecos Papadopoulos