Regresyon modelinin tanımı ve sınırlandırılması

Utanç verici derecede basit bir soru - ama daha önce Cross Valtedted'de sorulmamış gibi görünüyor:

Bir regresyon modelinin tanımı nedir?

Ayrıca bir destek sorusu,

Ne değil bir regresyon modeli?

İkincisi ile ilgili olarak, cevabın hemen belirgin olmadığı, örneğin ARIMA veya GARCH gibi zor örneklerle ilgileniyorum.

— Richard Hardy
kaynak

Yanıtlar:

"Regresyon modeli" nin bir tür meta-kavram olduğunu söyleyebilirim, "regresyon modeli" nin bir tanımını bulamayacağınız, ancak "lineer regresyon", "lineer olmayan regresyon" gibi daha somut kavramlar, "güçlü regresyon" vb. Bu, matematikte olduğu gibi, genellikle "sayı" değil, "doğal sayı", "tamsayılar", "gerçek sayı", "p-adik numarası" vb. Tanımlarız ve eğer birisi sayılar arasındaki kuaterniyonlar öyle olsun! önemli değil, önemli olan şu anda okuduğunuz kitap / kağıt tarafından hangi tanımların kullanıldığıdır.

Tanımlar araçlar ve özcülüktir, yani özünün ne olduğunu, bir kelimenin gerçekte ne anlama geldiğini tartışmak nadiren faydalıdır.

Peki, bir "regresyon modelini" diğer istatistiksel modellerden ayıran nedir? Çoğunlukla, bazı öngörücü değişkenler kümesinden etkilendiği (veya belirlediği) modellemek istediğiniz bir yanıt değişkeni vardır . Diğer yönü etkilemekle ilgilenmiyoruz ve öngörücü değişkenler arasındaki ilişkilerle ilgilenmiyoruz. Çoğunlukla, öngörücü değişkenleri verildiği gibi alır ve rastgele değişkenler olarak değil, modelde sabitler olarak ele alırız.

Yukarıda belirtilen ilişki doğrusal veya doğrusal olmayan, parametrik veya parametrik olmayan bir şekilde belirtilebilir, vb.

Diğer modellerden ayırmak için, öngörücü değişkenlerdeki ölçüm hataları olasılığını kabul ettiğimizde, "regresyon modelleri" için "değişkenlerdeki hatalar" gibi farklı bir şeyi ifade etmek için sık sık alınan bazı kelimelere baksak iyi olur. Bu, yukarıdaki "regresyon modeli" tanımımda iyi bir şekilde yer alabilir, ancak genellikle alternatif bir model olarak alınır.

Ayrıca, alanlar arasında farklılık görebilirsiniz ne kastedilmektedir sabit olarak onları tedavi vs Regresör kondüsyonlamanın arasındaki fark nedir?

Tekrarlamak gerekirse, önemli olan şu anda okuduğunuz yazarlar tarafından kullanılan tanımdır ve “gerçekten” ne olduğu hakkında bazı metafizik değildir.

— kjetil b halvorsen
kaynak

Cevabınızın özüne katılıyorum. Sorum, ifadenin gerçekten neye uygulandığını (ve neye uygulanmadığını) merak etmeme neden olan regresyon modelleri hakkında ifadelerle karşılaşarak motive oldu. Tabii ki, şimdi "en iyi yargınızı kullanın ve ayrıntıları dikkatlice kontrol edin" diyebilirsiniz, ancak bazen genel olarak doğru olmadığını söyleyerek varsayımsal ifadeyi hemen reddetmek isteyebilirim (belki sadece çok özel bir durumda doğrudur) . O zaman başvurmak için bir tanıma ihtiyacım var. Elbette, kesin bir tanımlamanın yararlı olduğu daha fazla durum vardır.

— Richard Hardy

Daha sonra, başvurularla karşılaştığınız bu kullanımlar hakkında özel sorular sormalısınız.

— kjetil b halvorsen

Seçici olmayı düşünmüyorum, ama düşünün: birisi size ne yaptığınızı sorar, "Regresyon modelleri kullanarak analiz ediyorum / tahmin ediyorum / bir şeyleri test ediyorum" diyorsunuz. - "Regresyon modeli nedir?" - (Sessizlik). Veya temel ekonometri sınıfta bir durum: "Profesör ne olduğunu ? Bir regresyon modeli" -- (Cevapsız). Bence bunlar çok doğal sorular, bu yüzden bir cevap almak güzel olurdu.

— Richard Hardy

Evet, bir cevap almak güzel olurdu, ama herkesin kabul edebileceği bir kanonik cevap olduğundan emin değilim. Seber gibi istatistiksel bir kitaptan regresyon fikrini çok farklı buldum: Ekonometrik bir metinden "Doğrusal Regresyon Analizi". Ancak bazı fikirlerin hepsi aynı fikirde olabilir. Sanırım gerçekten bir model ailesi. Sonra tüm bu modellerin ortak çekirdeğinin ne olduğunu sorabiliriz.

— kjetil b halvorsen

Belki de ilgili bir soru ile ilgileneceksiniz: Basit bir doğrusal regresyon modelinin tanımı .

— Richard Hardy

İki güzel cevap zaten verildi, ama iki sentimi eklemek istiyorum.

$Y$ $X_1,\dots,X_k$ $Y$

μ = E (y | x_{1}, \dots, x_{k}) = f (x_{1}, \dots, x_{k})

$\mu = E(y|x_1,\dots,x_k) = f(x_1,\dots,x_k)$

$f$ $\mu$ $\mu$ $L_1$ $\mu$

$Y$

— Tim
kaynak

Teşekkürler. Sezgi acıtmaz, bana soran birine daha resmi bir tanım aramama rağmen, yine de regresyon modeli nedir? ve sonra ayrıntıları seçmeye çalıştı.

— Richard Hardy

@RichardHardy bu olduğunu düşünüyorum hepsi tarafından paylaşılan regresyon modellerinin anahtar özelliği.

— Tim

y

$y$

Literatüre dayanan bazı düşünceler:

Klasik lisansüstü ders kitabı "Ekonometri" (2000) Bölüm 1'deki F. Hayashi , aşağıdaki varsayımların klasik doğrusal regresyon modelini içerdiğini belirtmektedir :

Doğrusallık
Sıkı dışsallık
Çoklu doğrusallık yok
Küresel hata varyansı
"Sabit" regresörler

"Giriş Ekonometrisi: Modern Bir Yaklaşım" (2012) adlı klasik giriş ekonometri ders kitabının 2. Bölümünde Wooldridge , aşağıdaki denklemin basit doğrusal regresyon modelini tanımladığını belirtmektedir :

y = β_{0} + β_{1} x + u .

$y=\beta_0+\beta_1 x+u.$

Greene, popüler ekonometri ders kitabı "Ekonometrik Analiz" (2011)

Klasik doğrusal regresyon modeli , bir veri kümesinin temeldeki “veri oluşturma süreci” tarafından nasıl üretileceğine dair bir dizi varsayımdan oluşur .

ve daha sonra Hayashi'ninkine benzer varsayımların bir listesini verir.

OP'nin GARCH modeline olan ilgisine ilişkin olarak, Bollerslev "Genelleştirilmiş otoregresif koşullu heterosedastisite" (1986) bölüm 5 başlığında ve ayrıca bu bölümün ilk cümlesinde "GARCH regresyon modeli" ifadesini içerir. Dolayısıyla GARCH modelinin babası GARCH'a bir regresyon modeli demeyi umursamadı.

— Richard Hardy
kaynak

Y \approx f (X, β)

$Y\approx f(X, \beta)$

Doğru, benim örneklerim doğrusal regresyon modelleri içindir; yaygın olarak kullanılan ve klasik hale gelen bu ders kitapları gibi güvenilir kaynaklarda bulabildim. İstatistiksel ve ekonometrik sorular için Wikipedia'ya o kadar güvenmiyorum. Her neyse, Wikipedia'da bile ders kitaplarından bahsettiğim şeye benzeyen bir bölüm "Temel varsayımlar" var. Diğer gönderiyle ilgili olarak, orada yanıtlayabilmem için yorumunuzun ilgili kısmını buraya gönderebilir misiniz? Bu yazıda gizli değişken modeller hakkında hiçbir şey söylemedim, ancak görüşlerinizi duymak güzel.

— Richard Hardy

Neden 3. noktaya, "çoklu doğrusallık yok"? Bir sonucun kanıtı olarak bir varsayım olarak kullanıldığını hiç görmedim!

— kjetil b halvorsen

@kjetilbhalvorsen, yazarı olmadığım bir ders kitabında yazılanlardan lütfen beni sorumlu tutmayın. Ama yorum için teşekkürler, elbette ve hatta daha fazlası için cevap!

— Richard Hardy