Regresyon katsayısının çok değişkenli normal dağılımı?


12

Regresyon üzerine bir ders kitabı okurken aşağıdaki paragrafla karşılaştım:

Bir doğrusal regresyon katsayıları ( ) vektörünün en küçük kareler tahminiβ

β^=(XtX)1Xty

ki bu, verisinin bir fonksiyonu olarak görüldüğünde ( yordayıcılarını sabit olarak dikkate alarak ), verilerin doğrusal bir kombinasyonudur. Merkezi Limit Teoremini kullanarak, örnek büyüklüğü büyükse dağılımının yaklaşık çok değişkenli normal olacağı gösterilebilir .X βyXβ

Kesinlikle metinden bir şey eksik, ama tek bir değeri nasıl bir dağıtım olabilir anlayamıyorum ? Metinde atıfta bulunulan dağıtımı elde etmek için çoklu değerleri nasıl oluşturulur?βββ


4
regresyon katsayılarının vektörü - bu karışıklığı giderir mi? β
Makro

5
En küçük kareler yaklaşımını kullanırken, sabit olduğunu ancak bilinmediğini varsayarsınız . Bununla birlikte, β bu (rasgele) bir veri fonksiyonu olduğundan, bir dağılımına sahiptir. Asimptotik olarak dağılım normal dağılımdır. Asemptotik olmayan bir şekilde, bireysel bir katsayı dağılımda olacaktır. ββ^
Taylor

7
regresyon ayarında sabit bir matris olarak kabul edildiğini ve y'nin bir (vektör değerli) rastgele değişkenin gerçekleştirildiğini gözlemlemeye yardımcı olabilir . Bununla birlikte, CLT ile ilgili bu biraz doğru değil: ya bazen büyük veri kümelerinde bile gerçekte olmayan belirli bir yapıya sahip olan H'ye dayanıyor , ya da y'nin kendisi çok değişkenli normal (ama sonra gerek yok) CLT'yi çağırınız). H=(XtX)1XtyHy
whuber

@Taylor Ama bildiğim tek şey "örnek boyutu büyük" ise B dağılımını nasıl biliyorsunuz?
upabove

2
@Taylor Beta aşısının bireysel bileşeni, sadece regresyon modelindeki hata bileşiği Gaussian ise 0 ortalama ve sabit varyans ile dağıtılacaktır. Normal olmayan durumda, sıfır hipotezi altındaki dağılımını mutlaka bilmezsiniz, ancak yine de asemptotik olarak normal olabilir. Bununla birlikte, whuber belirttiği gibi, merkezi limit teoremi tutamayabilir çünkü ağırlıklı bir ortalamadır ve ağırlıkların, birkaç terimin toplamı domine etmesine izin verecek şekilde örnek büyüklüğü ile değişmediğini bilmemiz gerekir.
Michael R.Chernick

Yanıtlar:


5

Değil bir dağılım ama sahiptir p Taylor tarafından belirtildiği gibi,. Dağılımı p farklı olsun gerçeğinden kaynaklanmaktadır p farklı numuneler için .--- Sen tek dayanarak bu dağılımı tahmin edebilir p sen dağıtımına ilişkin bazı bilgilere sahip şartıyla senin tek numuneden alınan temel veriler.ββ^β^β^β^

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.