Diğer öngörücüleri dahil ettikten sonra işareti çeviren regresyon katsayıları

Hayal etmek

• Dört sayısal kestiricili doğrusal bir regresyon çalıştırıyorsunuz (IV1, ..., IV4)
• Öngörücü olarak sadece IV1 dahil edildiğinde standart beta +.20
• Ayrıca IV2 ila IV4'ü dahil ettiğinizde, IV1'in standardize edilmiş regresyon katsayısının işareti -.25(örneğin negatif olur) ile çevrilir .

Bu birkaç soruya yol açar:

• Terminoloji ile ilgili olarak, buna "baskılayıcı etki" diyor musunuz?
• Bu etkiyi açıklamak ve anlamak için hangi stratejileri kullanırsınız?
• Uygulamada bu tür etkilerden herhangi bir örneğiniz var mı ve bu etkileri nasıl açıkladınız ve anladınız?

Çok hücreli olma, JoFrhwld'in dediği gibi olağan şüphelidir. Temel olarak, eğer değişkenleriniz pozitif korelasyon gösteriyorsa, o zaman katsayılar negatif bir korelasyon içinde olacaktır, bu da katsayılardan birinin üzerinde yanlış bir işarete yol açabilir.

Bir kontrol ana bileşenlerin regresyonunu veya sırt regresyonunu gerçekleştirmek olacaktır. Bu, çoklu doğrusallığı yöneterek, regresyon uzayının boyutsallığını azaltır. Önyargılı tahminlerle sonuçlanır, ancak muhtemelen daha düşük bir MSE ve düzeltilmiş işaretler bulunur. Bu sonuçlarla devam edip etmemeniz iyi bir tanı kontrolüdür. Eğer hala işaret değişikliği alıyorsanız, teorik olarak ilginç olabilir.

GÜNCELLEŞTİRME

John Christie'nin cevabındaki yorumundan sonra, bu ilginç olabilir. Birlikteleki tersine çevirme (büyüklük veya yön) Simpson Paradoksunun, Lord Paradoksunun ve Bastırma Etkilerinin örnekleridir. Farklılıklar esasen değişken tipi ile ilgilidir. Belli bir "paradoks" veya etki açısından düşünmek yerine, altta yatan olguyu anlamak daha yararlıdır. Nedensel bir perspektif için, aşağıdaki makale nedenini açıklamak için iyi bir iş çıkarır ve iştahınızı kabartmak için giriş ve sonuçlarının uzunluğunu teklif edeceğim.

• Nedensel akıl yürütmenin Simpson'un paradoksunu, Lord'un paradoksunu ve bastırma etkisini anlamadaki rolü: gözlemsel çalışmaların analizinde ortak değişken seçimi

Tu ve ark., Üç paradoksun denkliğinin bir analizini sunar; sonuç olarak, üçünün de, üçüncü bir değişken istatistiksel olarak kontrol edildiğinde, herhangi iki değişken arasındaki ilişkideki şaşırtıcı olmayan değişikliği yinelendiriyor. Buna şaşırtıcı değil çünkü şartlı analizde tersine çevirme veya büyüklük değişimi sıkça rastlanmaktadır. Her ikisinden de kaçınmak için şartlı analizlerden tamamen kaçınmalıyız. Simpsonlar ve Lord'un paradoksları ya da bastırma etkisi hakkında, literatürde görülen aralıklı ve bazen de alarmcı çıkarları çeken açık olanı işaret etmenin ötesinde nedir?

[...]

Sonuç olarak, Simpson ve ilgili paradokslar nedensel analize rehberlik etmek için istatistiksel kriterleri kullanmanın tehlikesini ortaya çıkarsa da, ne göstermeyeceği, ne de nasıl önlenebileceği konusunda göstericilere açıklama yapamayacakları vurgulanamaz. Açıklamalar ve çözümler, istatistiksel ölçütlere değil, arka plan bilgisine dayanan nedensel akıl yürütmelere dayanır. Yanlış anlaşılmış belirti ve semptomları (“paradokslar”) tedavi etmeyi bırakmanın vakti geldi ve hastalığı idare etme işine başladık (“nedensellik”). Dikkatsiz bir şekilde dikkatimizi deneysel olmayan verileri kullanarak nedensel analiz için çok yıllık ortak değişken seçimine yöneltmeliyiz.

Bunun gibi etkilerin sık sık eşlikliliğe bağlı olduğuna inanıyorum ( bu soruya bakın ). Bence Gelman ve Hill'in çok seviyeli modelleme kitabından bahsediyor. Sorun şu ki IV1, diğer öngörücülerden biri ya da birkaçı ile ilişkilidir ve hepsi modele dahil edildiklerinde, tahminleri düzensizleşir.

Katsayı saygısızlığı, eşdoğrusallıktan kaynaklanıyorsa, raporlamak gerçekten ilginç değildir, çünkü öngörücülerinizle sonuç arasındaki ilişkiden değil, gerçekte yordayıcılar arasındaki ilişkiden kaynaklanmaktadır.

Bu sorunu çözmek için önerdiğim şey artıklaştırma. İlk önce bir modele uyuyorsunuz IV2 ~ IV1, sonra o modelin kalıntılarını olduğu gibi alıyorsunuz rIV2. Tüm değişkenleriniz birbiriyle ilişkiliyse, gerçekten hepsini kalıcı hale getirmelisiniz. Böyle yapmayı seçebilirsiniz.

rIV2 <- resid(IV2 ~ IV1)
rIV3 <- resid(IV3 ~ IV1 + rIV2)
rIV4 <- resid(IV4 ~ IV1 + rIV2 + rIV3)

Şimdi, son model ile uygun

DV ~ IV1 + rIV2 + rIV3 + rIV4

Şimdi, katsayı, kendisine verilen korelasyonun rIV2bağımsız etkisini IV2göstermektedir IV1. Farklı bir düzende kalıntı bıraktıysanız aynı sonucu elde edemeyeceğinizi ve artıklık düzenini seçmenin gerçekten araştırmanızın içindeki bir yargılama çağrısı olduğunu duydum.

Simpson'ın Paradoksuna bakınız . Kısacası, bir modele bir etkileşim eklendiğinde gözlemlenen ana etki tersine dönebilir. Bağlantılı sayfada örneklerin çoğu kategoriktir ancak sayfanın en üstünde sürekli olarak hayal edebileceğiniz bir rakam vardır. Örneğin, kategorik ve sürekli bir tahminciniz varsa, kategorik olan eklendiyse, sürekli öngörücü işareti kolayca çevirebilir ve her kategorideki işaret genel puan için farklıdır.