Çok değişkenli doğrusal modelin çoklu regresyon olarak dökümü

Çok değişkenli bir doğrusal regresyon modelini, çoklu doğrusal regresyon olarak tamamen eşdeğer mi? Ben sadece çalışan kastetmiyorum $t$ farklı gerilemenin.

Bunu birkaç yerde okudum (Bayesian Veri Analizi - Gelman ve ark. Ve Çok Değişkenli Eski Okul - Marden), çok değişkenli doğrusal bir modelin kolayca çoklu regresyon olarak yeniden parametrelendirilebildiğini okudum . Bununla birlikte, her iki kaynak da bu konuyla ilgili ayrıntılı bilgi vermez. Aslında sadece bundan bahsediyorlar, sonra çok değişkenli modeli kullanmaya devam ediyorlar. Matematiksel olarak, önce çok değişkenli versiyonu yazacağım,

$$\underset{n \times t}{\mathbf{Y}} = \underset{n \times k}{\mathbf{X}} \hspace{2mm}\underset{k \times t}{\mathbf{B}} + \underset{n \times t}{\mathbf{R}},$$ burada kalın değişkenler boyutları altında olan matrislerdir. Her zamanki gibi,$\mathbf{Y}$veri,$\mathbf{X}$tasarım matrisi,$\mathbf{R}$normal olarak dağıtılan artıklardır ve$\mathbf{B}$çıkarım yapmakla ilgilendiğimiz şeydir.

Bunu bilindik çoklu doğrusal regresyon olarak yeniden parametrelendirmek için değişkenleri şöyle yeniden yazar:

$$\underset{nt \times 1}{\mathbf{y}} = \underset{nt \times nk}{\mathbf{D}} \hspace{2mm} \underset{nk \times 1}{\boldsymbol{\beta}} + \underset{nt \times 1}{\mathbf{r}},$$

burada kullanılan yeniden parametrelendirmeler , ve \ mathbf {D} = \ mathbf {X} \ otimes \ mathbf {I} _ {n} . satır () , matris satırlarının uçtan uca uzun bir vektöre yerleştirildiği anlamına gelir ve \ otimes kronecker veya dış üründür.β = r o w ( B ) D = X ⊗ I n r o w ( ) $\mathbf{y} = row(\mathbf{Y})$$\boldsymbol\beta = row(\mathbf{B})$$\mathbf{D} = \mathbf{X} \otimes \mathbf{I}_{n}$$row()$$\otimes$

Peki, bu kadar kolaysa, neden çok değişkenli modellerde kitap yazmayı, onlar için test istatistiklerini vb. İlk önce değişkenleri dönüştürmek ve ortak tek değişkenli teknikleri kullanmak en etkilidir. Eminim bunun iyi bir nedeni vardır, en azından doğrusal bir model söz konusu olduğunda birini düşünmekte zorlanıyorum. Bu yeniden parametrelendirmenin uygulanmadığı veya üstlenebileceğiniz analizin olanaklarını sınırladığı çok değişkenli doğrusal model ve normal olarak dağıtılmış rastgele hatalarla ilgili durumlar var mı?

Kaynaklar Bunu gördüm: Marden - Çok Değişkenli İstatistikler: Old School. Bkz. Bölüm 5.3 - 5.5. Kitap şu adresten ücretsiz olarak edinilebilir: http://istics.net/stat/

Gelman ve diğ. - Bayesci Veri Analizi. İkinci basım var ve bu versiyonda Ch. 19 'Çok Değişkenli Regresyon Modelleri' başlıklı: "Eşdeğer tek değişkenli regresyon modeli"

Temel olarak, çok değişkenli modelle yapabileceğiniz eşdeğer doğrusal tek değişkenli regresyon modeliyle her şeyi yapabilir misiniz? Öyleyse, neden çok değişkenli doğrusal modeller için yöntemler geliştirmeliyiz?

Bayesci yaklaşımlara ne dersiniz?

Temel olarak, çok değişkenli modelle yapabileceğiniz eşdeğer doğrusal tek değişkenli regresyon modeliyle her şeyi yapabilir misiniz?

Cevabın hayır olduğuna inanıyorum.

Amacınız sadece etkileri tahmin etmek ( parametreler ) veya modele dayalı tahminler yapmaksa, evet, ikisi arasında hangi model formülasyonunu benimsemek önemli değildir.$\mathbf{B}$

Bununla birlikte, özellikle klasik anlamlılık testini gerçekleştirmek için istatistiksel çıkarımlar yapmak için, çok değişkenli formülasyon pratik olarak vazgeçilmez görünmektedir. Daha spesifik olarak psikolojideki tipik veri analizini örnek olarak kullanayım. denekten elde edilen veriler şu şekilde ifade edilir:$n$

$$\underset{n \times t}{\mathbf{Y}} = \underset{n \times k}{\mathbf{X}} \hspace{2mm}\underset{k \times t}{\mathbf{B}} + \underset{n \times t}{\mathbf{R}},$$

$k-1$$\mathbf{X}$$t$$\mathbf{Y}$

Yukarıdaki formülasyon ile, herhangi bir genel doğrusal hipotez,

$$\mathbf{L} \mathbf{B} \mathbf{M} = \mathbf{C},$$

$\mathbf{L}$$\mathbf{L}$$\mathbf{C}$$\mathbf{0}$

Çok değişkenli sistemin güzelliği, özne ve özne arasındaki iki değişken türü arasındaki ayrımında yatmaktadır. Çok değişkenli çerçeve altında üç tip önem testi için kolay formülasyona izin veren bu ayrımdır: klasik çok değişkenli test, tekrarlanan ölçümler çok değişkenli test ve tekrarlanan ölçümler tek değişkenli test. Ayrıca, küresellik ihlali için Mauchly testi ve karşılık gelen düzeltme yöntemleri (Greenhouse-Geisser ve Huynh-Feldt), çok değişkenli sistemde tek değişkenli testler için doğal hale gelir. Bu istatistik paketleri gibi bu testler uygulanır tam olarak nasıl olduğunu arabada R, içinde GLM IBM SPSS İstatistik ve TEKRARLANAN açıklamada PROC GLM SAS.

Formülasyonun Bayesian veri analizinde önemli olup olmadığından emin değilim, ancak yukarıdaki test yeteneğinin tek değişkenli platform altında formüle edilebildiğinden ve uygulanabileceğinden şüpheliyim.

Uygun varyans-kovaryans yapısına uyarsanız her iki model de eşdeğerdir. Dönüştürülmüş lineer modelde, hata bileşeninin varyans-kovaryans matrisini, mevcut bilgisayar yazılımlarında sınırlı kullanılabilirliğe sahip olan kronecker ürününe uymamız gerekir. Doğrusal Model Teorisi-Tek Değişkenli, Çok Değişkenli ve Karışık Modeller bu konu için mükemmel bir referanstır.

Düzenlenen

İşte başka bir güzel referans serbestçe kullanılabilir.