Bir tahmin edicinin kehanet özelliği nedir?

Bir tahmin edicinin kehanet özelliği nedir ?
Kehanet mülkiyeti hangi modelleme hedefleriyle ilgilidir (kestirici, açıklayıcı, ...)?

Hem teorik olarak titiz hem de (özellikle) sezgisel açıklamalar açıktır.

— Richard Hardy
kaynak

Bu soruya kesin bir tek elden cevap bulmak güzel olurdu. Bazı ilgili materyaller: Zou "Uyarlanabilir LASSO ve kehanet özellikleri" , s. 1 (s. 1418).

— Richard Hardy

Yanıtlar:

Bir kehanet gerçeği bilir: gerçek altkümeyi bilir ve üzerinde hareket etmeye isteklidir. Kehanet özelliği, tahmin edicinin asimptotik dağılımının sadece gerçek destek üzerindeki MLE'nin asimptotik dağılımıyla aynı olmasıdır. Bu doğru destek bilerek için tahmincisi uyarlar olduğunu olmadan bir fiyat ödeyerek (asimptotik dağılım açısından.)

MLE'nin asimptotik optimallik özellikleriyle, örneğin, Keener'in 9.14 teoremindeki teorik istatistiklerini tartıştığımızı biliyoruz, bazı teknik şartlar altında, örneğin, hata Gauss olduğunda, burada nin gerçek katsayısı olduğunu varsayıyoruz gerçek destek üzerinde . Asimptotik dağılımdaki varyansın, Fisher bilgilerinin tersi olduğuna dikkat edin, asimptotik olarak verimli olduğunu . Gerçek desteği bilen MLE bunu başardığından, oracle özelliğinin bir parçası olarak da gereklidir.

\sqrt{n} ({\hat{β}}_{S} - β_{S}^{*}) \to N- (0, {ben}^{- 1} (β_{S}^{*})),

$\sqrt{n} \left( \hat\beta_S - \beta^*_S \right) \to \mathcal{N} (0, I^{-1}(\beta^*_S)),$

β_{S}^{*}

$\beta^*_S$

S

$S$

{\hat{β}}_{S}

$\hat\beta_S$

Bununla birlikte, dik asimptotik olmayan bir bedel öderiz: bkz.

Hannes Leeb, Benedikt M. Pötscher, Seyrek tahmin ediciler ve kehanet mülkiyeti veya Hodges tahmin edicisinin iadesi, Ekonometri Dergisi, Cilt 142, Sayı 1, 2008, Sayfa 201-211,

bu, herhangi bir “kehanet tahmincisinin” riskinin (Fan ve Li, 2001), sonsuza kadar uzanan bir üstünlüğe sahip olduğunu göstermektedir.

— user795305
kaynak

- yani, kement için kehanet özelliği şu ifadeyi belirtir: kehanet özelliği, tahmin edicinin asimptotik dağılımının, LASSO lojistik regresyonunun asimptotik dağılımının, yalnızca gerçek destek üzerinde olmasıyla aynı olması anlamına gelir

— Annalise Azzopardi,

Oracle mülkiyetinin tanımı, içerikle yakından ilgilidir. Doğrusal regresyonda çok kısa ama kesin cevap (tam olarak yüksek boyutlu):

kehanet tahmincisinin parametre tahmininde ve değişken seçiminde tutarlı olması gerekir.

Değişken seçiminde tutarlı olan bir tahmin edicinin parametre tahmininde mutlaka tutarlı olmadığına dikkat edin. Matematiksel tanımlar için uyarlamalı kement makalesine bakın veya bu slaytları görün .

— TPArrow
kaynak

AdaLASSO makalesinde (yorumuma bağlı olarak) yakınsama oranının da optimal olması gerektiğini söylüyor (tutarlı tahminde bulunmamakta). Bu önemli ve biraz zor bir kavramdır. Bunu açıklayabilir misiniz?

— Richard Hardy

Yakınsama oranı, bağlamla ilgili bir varsayımdır. Kementiyle sırf için gözlem sayısı. Bununla birlikte, tutarlılık kementte asimptotik bir sonuçtur.

\sqrt{n}

$\sqrt{n}$

n

$n$

— TPArrow,

Öyleyse, kehanet mülk tanımında oranın optimal olması gerekliliğini ortadan kaldırmayı öneriyor musunuz?

— Richard Hardy,

Genel tanımlarda, hızdan bahsetmek zorunluluğu göremiyorum. Fakat teoride, en uygun hızı açıkça bilmemiz / belirlememiz gerekir.

— TPArrow

Teşekkürler. Bunu seçiyorum çünkü burada bir tanımdan bahsediyoruz, bu yüzden kesin olmaya çalışıyorum.

— Richard Hardy,