Rasgele etkiler, sabit etkiler ve marjinal model arasındaki fark nedir?

İstatistik bilgilerimi genişletmeye çalışıyorum. OLS regresyon - Ben fiziksel testler geçmişinden istatistiksel teste “tarife dayalı” bir yaklaşımla geliyorum , sürekli olduğunu söylüyoruz , normal dağılmış - OLS regresyon .

Okuduğumda şu terimlerle karşılaştım: rastgele etki modeli, sabit etki modeli, marjinal model. Benim sorularım:

Çok basit bir ifadeyle, bunlar nedir?
Aralarındaki farklar nelerdir?
Bunlardan herhangi biri eş anlamlı mı?
OLS regresyonu, ANOVA ve ANCOVA gibi geleneksel testler bu sınıflandırmada nereye düşmektedir?

Kendi kendine çalışma ile nereye gideceğine karar vermeye çalışıyorum.

random-effects-model fixed-effects-model marginal

— N26
kaynak

Olası ilgi alanı: Sabit etki, rastgele etki ve karma etki modelleri arasındaki fark nedir?

— chl

@gung: Asıl ödülü ödüllendireceğiniz cevap, "ana" başlığında yer alan ve sabit / rastgele etkiler arasındaki farklarla ilgili tüm cevapları aştı. Bu soru 40'tan fazla oy ve 25 oy ile kabul edilmiş bir cevap var, bu da ne yazık ki yine de pek yardımcı olmuyor. Belki bu konuları birleştirmeli miyiz? Sanırım bu OP N26’nın soruyu olumlu yönde kaybedeceği, ancak hesaplarının artık aktif görünmediği anlamına geliyor. En iyi hareket tarzının ne olduğundan emin değilim.

— amip diyor Reinstate Monica

Teşekkürler @ amoeba, bunun da daha fazla ilgiyi hak ettiğini düşünüyorum. Bana öyle geliyor ki, benzer bir şekilde isimlendirilmiş olsa da, aslında biraz farklı (ve belki de yanlış). Bunları birleştirme yetkim yok. Sadece bu konuya bağlantı veren bir yorum ekledim. Neden bu konularla meta üzerinde ne yapılacağı sorusunu gündeme getirmiyoruz. İnsanların ne düşündüğünü göreceğiz?

— dediklerinin - Eski Monica

Yanıtlar:

Bu soru aşağıda bu sitede kısmen tartışılmıştır ve görüşler karışık görünmektedir.

Tüm terimler genellikle boyuna / panel / kümelenmiş / hiyerarşik veriler ve tekrarlanan önlemler (ileri regresyon ve ANOVA formatında) ile ilgilidir, ancak farklı bağlamda birden fazla anlama sahiptir. Bu soruya bilgimden yola çıkarak formüller halinde cevap vermek istiyorum.

Sabit etkiler modeli

Biyoistatistikte, aşağıdaki Denklem (*) ' de olarak belirtilen sabit etkiler , genellikle rastgele efektlerle birlikte gelir. Ancak, sabit etkiler modeli, gözlemlerin Hedeker ve Gibbons'un (2006) Boyuna Veri Analizi'nde olduğu gibi kesitsel ayar gibi bağımsız olduğunu varsaymak için de tanımlanmıştır . $\color{red}{\boldsymbol\beta}$
Ekonometride sabit etkiler modeli nerede her konu için sabit (rastgele değil) engelleme ( ), ya da tekrarlanan her ölçüm için ( ) gibi sabit bir etki yapabiliriz ; eş değişkenleri belirtir. $y_{i j} = x_{i j}^{^{'}} β + u_{i} + ϵ_{i j}$ $y_{ij}=\boldsymbol x_{ij}^{'}\boldsymbol\beta+\color{red}{u_i}+\epsilon_{ij}$ $\color{red}{u_i}$ $i$ $u_j$ $j$ $\boldsymbol x_{ij}$
Meta-analizde, sabit-etki modelinin, tüm çalışmalarda altta yatan etkinin aynı olduğunu varsayar (örn. Mantel ve Haenszel, 1959).

Rasgele etkiler modeli

Biyoistatistikte, rastgele etkiler modeli (Laird ve Ware, 1982) burada bir dağılımı takip eder. , sabit efektler için değişkenleri belirtirken, , rastgele efektler için değişkenleri belirtir. $\begin{matrix} (*) & y_{i j} = x_{i j}^{^{'}} β + z_{i j}^{^{'}} u_{i} + e_{i j} \end{matrix}$ $\tag{*} y_{ij}=\boldsymbol x_{ij}^{'}\color{red}{\boldsymbol\beta}+\boldsymbol z_{ij}^{'}\color{blue}{\boldsymbol u_i}+e_{ij}$ $\color{blue}{\boldsymbol u_i}$ $\boldsymbol x_{ij}$ $\boldsymbol z_{ij}$
Ekonometride, rastgele etkiler modeli sadece biyoistatistikte olduğu gibi rastgele engel modeline atıfta bulunabilir , yani ve . $\boldsymbol z_{ij}^{'}=1$ $\boldsymbol u_i$
Meta-analizde rastgele etki modeli, çalışmalar arasında heterojen etkiler üstlenir (DerSimonian ve Laird, 1986).

Marjinal model

Marjinal model genel olarak koşullu modelle (rastgele etki modeli) karşılaştırılır ve eski nüfus ortalamasına odaklanır (bir örnek için doğrusal model alır) ikincisi koşullu ortalama ile ilgilidirMarjinal model ile rasgele etkiler modeli arasındaki regresyon katsayılarının yorumu ve ölçeği doğrusal olmayan modeller için farklı olacaktır (örneğin, lojistik regresyon). Let , daha sonra

E (y_{i j}) = x_{i j}^{^{'}} β,

$E(y_{ij})=\boldsymbol x_{ij}^{'}\boldsymbol\beta,$

E (y_{i j} | u_{i}) = x_{i j}^{^{'}} β + z_{i j}^{^{'}} u_{i} .

$E(y_{ij}|\boldsymbol u_i)=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i.$

h (E (y_{i j} | u_{i})) = x_{i j}^{^{'}} β + z_{i j}^{^{'}} u_{i}

$h(E(y_{ij}|\boldsymbol u_i))=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i$

E (y_{i j}) = E (E (y_{i j} | u_{i})) = E (h^{- 1} (x_{i j}^{^{'}} β + z_{i j}^{^{'}} u_{i})) \neq h^{- 1} (x_{i j}^{^{'}} β),

$E(y_{ij})=E(E(y_{ij}|\boldsymbol u_i))=E(h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i))\neq h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta),$ eğer link işlevi , kimlik linki değilse (doğrusal model) ), veya (rastgele etki yok). İyi örnekler, genelleştirilmiş tahmin denklemlerini (GEE; Zeger, Liang ve Albert, 1988) ve marjinalleştirilmiş çok düzeyli modelleri (Heagerty ve Zeger, 2000) içerir.

h

$h$

u_{i} = 0

$u_i=0$

— Randel
kaynak

Sağol Randel. “Karma model” terminolojisi hakkında bir soru daha. Anladığım kadarıyla, biyoistatistikte denkleminize (*) hem rastgele hem de sabit etkiler içerdiği için karma model denir. Bu doğru mu? Peki ekonometride “karma model” terimi de kullanılıyor mu? Eğer öyleyse, ne anlama geliyor?

— amip diyor Reinstate Monica

Evet, (*) denklemine (bio) istatistiklerinde karma model de denir. Bildiğim kadarıyla, ekonometrist kümelenme heterojenliği ile ilgileniyorlarsa “karma model”, “rasgele etki modeli” veya “rastgele katsayılı model” olarak adlandırılabilir. Bana göre, tek fark küme özgü etkinin sabit veya rastgele olduğu varsayımıdır.

— Randel

@skan z_ , rastgele efektler için değişkenleri belirtir. Bu bir vektör ve devriktir.

z_{i j}

$\boldsymbol z_{ij}$

z_{i j}^{^{'}}

$\boldsymbol z_{ij}^{'}$

— Randel

İşte detaylı bir örnek. Umarım yardımcı olur. @skan

— Randel

@skan Her ikisine de sahip olması önerilmemektedir, ya da yeterlidir. İşte mükemmel bir örnek.

— Randel

Burada yanılıyorsam düzelt beni:

Kavramsal olarak, dört olası etki vardır: Sabit engelleme, sabit katsayı, rasgele engelleme, rastgele katsayı. Çoğu regresyon modeli 'rastgele etki' dir, bu yüzden rastgele engellere ve rastgele katsayılara sahiptirler. 'Tesadüf etkisi' terimi, 'sabit etkinin' aksine kullanıma girdi.

'Sabit etki', bir değişkenin örneğin bazılarını etkilediği, ancak hepsinin etkilemediği durumdur. Sabit etki modelinin en basit versiyonu (kavramsal olarak), ikili değere sahip sabit bir etki için yapay bir değişken olacaktır. Bu modeller tek bir rastgele kesişme noktasına, sabit etki katsayılarına ve rastgele değişken katsayılara sahiptir.

Bir sonraki komplikasyon kademesi (kavramsal olarak) sabit etkinin ikili değil, nominal olarak birçok değeri olduğu zamandır. Bu durumda, üretilen şey birçok kavrama içeren bir modeldir (nominal değerlerin her biri için bir tane). Panel veri modelinin klasik 'çoklu hatlarını' burada bulabilirsiniz, burada sabit efekt değişkeninin 'seçeneklerinin' her biri kendi efektini alır. Tüm farklı faktöre özgü veri serilerinin tek bir regresyona atılması (sabit etkinin her bir faktörünü kendi regresyonu olarak yapmak yerine) tek bir regresyona koyma gerçeği, tüm farklı efektlerin varyansını bir denklemde toplamanızdır. tüm katsayılarınız için daha iyi (daha kesin) değerler elde edin.

Komplikasyonun 'üçüncü aşaması', 'sabit etkinin' tesadüfi bir değişken olması durumunda, etkilerinin sadece numunenin bir alt kümesini etkilemek için 'sabit' olması dışında olacaktır. Hangi noktada model rastgele bir kesişime, çoklu sabit kesişimlere ve çoklu rastgele değişkenlere sahip olacaktır. Bence 'karma etki' modeli olarak bilinen şey bu mu?

'Karışık efekt' modelleri çok seviyeli modelleme (MLM) için kullanılır; çünkü 'sabit efektler' bir alt veri kümesini diğerinin içine yerleştirmek için kullanılabilir. Bu gruplandırma, sınıflara yerleştirilmiş, okullara yerleştirilmiş öğrencilerle birden fazla katmana sahip olabilir. Okul, sınıflar ve sınıflar öğrenciler üzerinde sabit bir etkiye sahiptir. (Okul deneysel tasarıma bağlı olarak, öğrenci üzerinde sabit bir etkisi olabilir veya olmayabilir - emin değil)

Panel veri modelleri 'karma efektli' modellerdir, ancak gruplandırma için genellikle zaman ve bir tür kategori olmak üzere iki boyut kullanır.

— Mox
kaynak

"Sabit etkiler 'seçim kümelerini' kapsar: A veya B; ... Rastgele etkiler vücut ağırlığını içerir. Sabit efektlerin ayrık değişkenler için mi, rasgele efektler sürekli değişkenler için mi? Ayrıca "aynı şey için birden fazla kukla değişken kullanmanın istatistiksel olarak uygun olmadığını" da bilmiyorum. Ekonometride sabit etkiler modeli, her "panel" için sahte bir değişkene sahiptir. "Karışık" modellerle aynı fikirde değilim. "Sabit" gruplama yaparak kesiyor, artık rastgele bir kesişme durumu da yok ". Pek çok karma efektli model rastgele bir kesime sahiptir.

— Randel

Benim anlayışım kusurlu. Cevabımı düzenleyeceğim ve tekrar deneyeceğim.

— Mox

Bir değişkenin aynı anda sabit etki ve rasgele etki olarak görünmesi mümkün mü?

— skan

< theanalysisfactor.com/mixed-models-predictor-both-fixed-random > evet diyor.

— Mox