Katsayılar arasındaki önemli farklılıkları test etmenin doğru yolu nedir?

18

Birisinin benim için karışıklık yaratmasına yardımcı olabileceğini umuyorum. Diyelim ki 2 set regresyon katsayısının aşağıdaki kurulumla birbirinden önemli ölçüde farklı olup olmadığını test etmek istiyorum:

$y_i = \alpha + \beta x_i + \epsilon_i$ 5 bağımsız değişkenli .
2 grup, kabaca eşit boyutlarda (bu değişebilir) $n_1, n_2$
Binlerce benzer regresyon eşzamanlı olarak yapılacak, bu nedenle bir çeşit çoklu hipotez düzeltmesi yapılmalıdır.

Bana önerilen bir yaklaşım bir Z-testi kullanmaktır:

$Z = \frac{b_1 - b_2}{\sqrt(SEb_1^2 + SEb_2^2)}$

Bu tahtada önerdiğim başka bir şey, gruplama için bir kukla değişken tanıtmak ve modeli şu şekilde yeniden yazmaktır:

$y_i = \alpha + \beta x_i + \delta(x_ig_i) + \epsilon_i$ ; burada , 0, 1 olarak kodlanan gruplama değişkenidir. $g$

Benim sorum şu, bu iki yaklaşım nasıl farklı (örneğin farklı varsayımlar yapılmış, esneklik)? Biri diğerinden daha uygun mu? Bunun oldukça basit olduğundan şüpheleniyorum, ancak herhangi bir açıklama çok takdir edilecektir.

regression hypothesis-testing multiple-regression

— cashoes
kaynak

Benzer bir soruya verilen cevapların ve yorumların aradığınız açıklamayı sağlayabileceğine inanıyorum .

— whuber

Teşekkür ederim whuber. Bu cevabı biliyordum. Aşağıdaki tartışmadan kabul edilen cevabın (ve orada yorumlarınızın) 2 ayrı uyumun katsayılarını karşılaştırmanın uygun olmadığı izlenimine kapıldım. Ayrı uyumlardan katsayılara uygulanan bir z testi yanlış mı yoksa kukla değişken kodlamanın daha kolay ve eşdeğer bir cevap vermesi mi?

— cashoes

1

Lütfen cevabımın son paragrafına bakınız ("Ana sınırlama ..."). Z testi,

büyük (varsa testte kullanılması) ve tahmini standart sapmaların

birbirinden çok farklı olduğu varsayılarak geçerlidir . Standart sapmalar çok farklı olduğunda (kabaca 3: 1 oranından daha fazla) her iki yaklaşım da en iyisidir.

n_{i}

$n_i$

S E b_{i}

$SEb_i$

— whuber

13

İki yaklaşım farklıdır.

İki regresyonun tahmini standart hataları ve . Daha sonra, birleşik regresyon (tüm katsayı-kukla etkileşimleriyle) aynı katsayılara uyduğundan, aynı kalıntılara sahiptir, bu nedenle standart hatası şu şekilde hesaplanabilir $s_1$ $s_2$

s = \sqrt{\frac{(n_{1} - p) s_{1}^{2} + (n_{2} - p) s_{2}^{2})}{n_{1} + n_{2} - 2 p}} .

$s = \sqrt{\frac{(n_1-p) s_1^2 + (n_2-p) s_2^2)}{n_1 + n_2 - 2 p}}.$

Örnekte parametre sayısı eşittir : beş eğim ve her regresyonda bir kesişme. $p$ $6$

Let tahmini bir regresyon bir parametre, tahmin diğer regresyon aynı parametre ve bunların tahmin farkı kombine regresyon. Sonra standart hataları $b_1$ $b_2$ $b$

S E (b) = s \sqrt{(S E (b_{1}) / s_{1})^{2} + (S E (b_{2}) / s_{2})^{2}} .

$SE(b) = s \sqrt{(SE(b_1)/s_1)^2 + (SE(b_2)/s_2)^2}.$

Kombine regresyonu yapmadıysanız, ancak sadece ayrı regresyonlar için istatistikleriniz varsa, için önceki denklemi takın . Bu t-testi için payda olacak. Açıkçası bu soruda verilen payda ile aynı değil. $s$

Kombine regresyon tarafından yapılan varsayım, artıkların varyanslarının her iki ayrı regresyonda da esasen aynı olduğudur. Ancak durum böyle değilse, z-testi de iyi olmayacaktır (örnek boyutları büyük olmadığı sürece): bir CABF testi veya Welch-Satterthwaite t-testi kullanmak istersiniz .

— whuber
kaynak

9

İki grup arasındaki katsayıdaki bir farkı test etmenin en doğrudan yolu , regresyonunuza bir etkileşim terimi eklemektir ; bu, sorunuzda neredeyse tanımladığınız şeydir. Çalıştıracağınız model şudur:

$y_i = \alpha + \beta x_i + \gamma g_i + \delta (x_i \times g_i) + \varepsilon_i$

Grup değişkenini modelde ayrı bir regresör olarak eklediğimi unutmayın. Bu modelde, bir ile sıfır hipotezi ile -test iki grup arasında aynı olma katsayıları bir testtir. Bunu görmek için önce yukarıdaki modelde olsun . Sonra, grup 0 için aşağıdaki denklemi elde ederiz: $t$ $H_0: \delta = 0$ $g_i = 0$

$y_i = \alpha + \beta x_i + \varepsilon_i$

Şimdi, eğer , o zaman elimizde: $g_i = 1$

$y_i = (\alpha + \gamma) + (\beta + \delta) x_i + \varepsilon_i$

$\delta$

— Matt Blackwell
kaynak

Modeli düzelttiğiniz için teşekkürler (yukarıdaki versiyonumun kesişimin her iki grupta da aynı olmasını sağladığını düşünüyorum ...). Daha da önemlisi, bu, yukarıda gönderdiğim z testine eşdeğer olur mu?

— cashoes

y_{i} = α + β x_{i} + γ g_{i} + ε_{i}

$y_i = \alpha + \beta x_i + \gamma g_i + \varepsilon_i$

y_{i} = α + β x_{i} + γ g_{i} + δ (x_{i} \times g_{i}) + ε_{i}

$y_i = \alpha + \beta x_i + \gamma g_i + \delta (x_i \times g_i) + \varepsilon_i$

@ matt-blackwell bu kavramsal olarak modeli g'nin her değeriyle katmanlaştırmakla aynı mıdır? (yani. g = 0 olduğunda b'nin katsayısı g ve 1 olduğunda beta + delta olur)

— bobmcpop