Maksimum olasılıkta tutarlılık ve asimtotik normallik için genel teoremler

Maksimum olabilirlik tahmin edicilerinin asimptotik özelliklerine ilişkin sonuçlar için iyi bir referansla ilgileniyorum. Bir model göz önünde burada olan bir boyutlu yoğunluğu ve örnek dayalı MLE olan dan nerede taşımaktadır "true" değeri . İlgilendiğim iki düzensizlik var.f , n ( x | θ ) n θ n x 1 , ... , x , n f , n ( ⋅ | θ 0 ) θ 0$\{f_n(\cdot \mid \theta): \theta \in \Theta, n \in \mathbb N\}$$f_n(\mathbf x \mid \theta)$$n$$\hat \theta_n$$X_1, \ldots, X_n$$f_n(\cdot \mid \theta_0)$$\theta_0$$\theta$

1. X_n verileri iid değildir ve bunun sonucunda ilgili Fisher bilgileri daha düşük bir hızda tahakkuk eder . θ $X_1, \ldots, X_n$$\theta$$n$
2. $\Theta$ sınırlı bir ve pozitif olasılıkla . Bir "basit" modeline sınır karşılık ve bu yüzden olsun veya olmasın özellikle ilgi vardır sınırda yalanlar.θ$\hat \theta_n$$\theta_0$

Benim özel sorularım

1. İzin vermek karşılık gelen gözlenen Fisher bilgileri göstermek ve varsayalım iç yatıyor . Hangi koşullar altında olarak olarak normaldir ? Özellikle, ilgili değişiklik bir olmak üzere olağan koşullara benzer mi?θ θ 0 Θ [ J , n ( θ n ) ] 1 / 2 ( θ N - θ 0 ) N → ∞ iken J N ( θ n ) → $J_n(\theta)$$\theta$$\theta_0$$\Theta$

   $$\left[J_n(\hat \theta_n)\right]^{1/2}(\hat \theta_n - \theta_0)$$ $n \to \infty$$J_n(\hat \theta_n) \to \infty$

2. Bunun yerine, sınırda olduğunu ve yine pozitif olasılıkla gerçekleştiğini - somutluk açısından, Elimizdeki olabilir . Hangi koşullar altında (neredeyse kesin olarak veya olasılıkla) ve hangi koşullar altında nihayetinde (bu muhtemelen karışık efektler modeli için başarısız olur, ancak "oracle" özelliklerine karşılık gelir. LASSO ve ilgili tahminciler, belki de genel sonuçlar istemek için çok fazladır)?θ n = θ 0 Y, i j = μ + β i + ε i j σ 2 β = 0 θ N → θ 0 θ n = θ $\theta_0$$\hat \theta_n = \theta_0$$Y_{ij} = \mu + \beta_i + \epsilon_{ij}$$\hat \sigma_{\beta}^2 = 0$$\hat \theta_n \to \theta_0$$\hat \theta_n = \theta_0$

Yine, bu genel seviyedeki sonuçlara sahip bir metne sadece bir işaretçi çok takdir edilecektir.

Başlayabileceğiniz referanslar:

Gerçek parametrenin sınırda olduğu durumda :
Moran (1971) "Standart dışı koşullarda maksimum olabilirlik tahmini"

Steven G. Self ve Kung-Yee Liang (1987) "Standart Olmayan Koşullarda Maksimum Olabilirlik Tahmin Edicilerinin Asimtotik Özellikleri ve Olabilirlik Oranı Testleri"

Ziding Feng ve Charles E. McCulloch (1990) "Gerçek Parametre Parametre Alanı Sınırındayken Maksimum Olabilirlik Tahmini ve Genelleştirilmiş Olabilirlik Oranını Kullanan İstatistiksel Çıkarım"

İçin aynı olmayan fakat bağımsız rv en :
Bruce Hoadley (1971) "Bağımsız Değil Bir özdeşlik Dağıtılmış Durumunda Maksimum Olabilirlik Tahmin edicilerin asimptotik Özellikleri"

İçin : bağımlı RV
Martin J. Crowder'ın (1976) "Bağımlı Gözlemleri En Çok Olabilirlik Tahmini"

Ayrıca

Huber, PJ (1967). "Standart dışı koşullar altında maksimum olabilirlik tahminlerinin davranışı" . Olarak matematiksel olasılık ve beşinci Berkeley Sempozyumun Tutanakları (Cilt. 1, No: 1, s. 221-233).

Güncelleme 17-03-2017: bir yorumda önerildiği gibi, aşağıdaki makaleye burada referans verilebilir

Andrews, DW (1987). Doğrusal olmayan ekonometrik modellerde tutarlılık: Büyük sayıların genel tekdüzen kanunu. Econometrica: Ekonometrik Toplum Dergisi, 1465-1471.