Farklı bağımlı değişkenlere sahip modellerde lojistik katsayılar karşılaştırılsın mı?

14

Bu, birkaç gün önce sorduğum bir soru . Konuya farklı bir eğim verdiğini hissediyorum, bu yüzden yeni bir soru listeledi.

Soru şudur: Farklı bağımlı değişkenlere sahip modeller arasındaki katsayıların büyüklüğünü karşılaştırabilir miyim? Örneğin, tek bir örnekte ekonominin Temsilciler Meclisi'nde mi yoksa Başkan için mi daha güçlü bir oy tahmincisi olduğunu bilmek istiyorum. Bu durumda, iki bağımlı değişkenim Meclis'teki oy (Demokrat için 1 kodlu ve Cumhuriyetçi için 0 kodlu) ve Başkan (Demokrat için 1 ve Cumhuriyetçi için 0) oy ve bağımsız değişkenim ekonomidir. Her iki ofiste de istatistiksel olarak anlamlı bir sonuç beklemekteyim, ama bir diğerinde 'daha büyük' bir etkisi olup olmadığını nasıl değerlendirebilirim? Bu özellikle ilginç bir örnek olmayabilir, ancak karşılaştırmanın bir yolu olup olmadığını merak ediyorum. Birinin katsayının 'boyutuna' bakamayacağını biliyorum. Yani, bağımlı değişkenli modellerde katsayıların karşılaştırılması mümkün müdür? Ve eğer öyleyse, nasıl yapılabilir?

Bunlardan herhangi biri anlamlı değilse, bana bildirin. Tüm tavsiyeler ve yorumlar takdir edilmektedir.

regression logistic

— Ejs
kaynak

2

Birinin katsayının 'boyutuna' bakamayacağını nasıl bilebilirsiniz?

— onestop

İki hesabınızı birleştirdim. SSS bölümünde belirtildiği gibi yine de kaydolmanız gerekir . (@onestop Thx yinelemeye işaret ettiği için.)

— chl

Önceki sorumun cevaplarından katsayılara bakarak yordayıcıların modeller arasındaki etkisini 'modeller arasında karşılaştıramayacağımı varsaydım. Yukarıdaki örneğim için işler farklı mı?

— Ejs

2

Ödül başlatmak - hiçbirinin tek bir oyu olmayan üç çok farklı cevabı olan önemli bir soru gibi görünüyor . Daha iyisini yapabiliriz. Andy W'nin kağıt bağlantı üzerinde bu ilgili soruya uygun görünüyor.

— Matt Parker

4

Kısa cevap "evet yapabilirsiniz" - ancak "büyük model" in Maksimum Olabilirlik Tahminlerini (MLE) her ikisine de takılan her iki modeldeki tüm ortak değişkenlerle karşılaştırmalısınız.

Bu, sorunuzu cevaplamak için olasılık teorisini elde etmenin "yarı resmi" bir yoludur

Örnekte, ve aynı tip değişkenlerdir (kesirler / yüzdeler) ve bu nedenle karşılaştırılabilirler. Aynı modeli her ikisine de uyduğunuzu varsayacağım. Yani iki modelimiz var: $Y_{1}$ $Y_{2}$

M_{1} : Y_{1 i} \sim B i n (n_{1 i}, p_{1 i})

$M_{1}:Y_{1i}\sim Bin(n_{1i},p_{1i})$

l o g (\frac{p_{1 i}}{1 - p_{1 i}}) = α_{1} + β_{1} X_{i}

$log\left(\frac{p_{1i}}{1-p_{1i}}\right)=\alpha_{1}+\beta_{1}X_{i}$

M_{2} : Y_{2 i} \sim B i n (n_{2 i}, p_{2 i})

$M_{2}:Y_{2i}\sim Bin(n_{2i},p_{2i})$

l o g (\frac{p_{2 i}}{1 - p_{2 i}}) = α_{2} + β_{2} X_{i}

$log\left(\frac{p_{2i}}{1-p_{2i}}\right)=\alpha_{2}+\beta_{2}X_{i}$

Böylece değerlendirmek istediğiniz hipoteziniz var:

H_{0} : β_{1} > β_{2}

$H_{0}:\beta_{1}>\beta_{2}$

Ve bazı verileriniz ve bazı önceki bilgileriniz (lojistik model kullanımı gibi) var. Yani olasılığı hesaplıyorsunuz: $\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n}$

P = P r (H_{0} | {Y_{1 i}, Y_{2 i}, X_{i}}_{i = 1}^{n}, I)

$P=Pr(H_0|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I)$

Şimdi , regresyon parametrelerinin hiçbirinin gerçek değerine bağlı değildir, bu nedenle marjinalleştirilerek kaldırılması gerekir. $H_0$

P = \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} P r (H_{0}, α_{1}, α_{2}, β_{1}, β_{2} | {Y_{1 i}, Y_{2 i}, X_{i}}_{i = 1}^{n}, I) d α_{1} d α_{2} d β_{1} d β_{2}

$P=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(H_0,\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$

Hipotez, entegrasyon aralığını basitçe kısıtlar, bu yüzden:

P = \int_{- \infty}^{\infty} \int_{β_{2}}^{\infty} \int_{- \infty}^{\infty} \int_{- \infty}^{\infty} P r (α_{1}, α_{2}, β_{1}, β_{2} | {Y_{1 i}, Y_{2 i}, X_{i}}_{i = 1}^{n}, I) d α_{1} d α_{2} d β_{1} d β_{2}

$P=\int_{-\infty}^{\infty} \int_{\beta_{2}}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$

Olasılık veriler üzerinde koşullu olduğu için, her model için iki ayrı posterior içerecektir.

P r (α_{1}, β_{1} | {Y_{1 i}, X_{i}, Y_{2 i}}_{i = 1}^{n}, I) P r (α_{2}, β_{2} | {Y_{2 i}, X_{i}, Y_{1 i}}_{i = 1}^{n}, I)

$Pr(\alpha_{1},\beta_{1}|\{Y_{1i},X_{i},Y_{2i}\}_{i=1}^{n},I)Pr(\alpha_{2},\beta_{2}|\{Y_{2i},X_{i},Y_{1i}\}_{i=1}^{n},I)$

Şimdi ve arasında doğrudan bir bağlantı olmadığı için , sadece bilinen üzerinden dolaylı bağlantılar, ikinci çıkacaktır. aynı ilk posteriordaki için de . $Y_{1i}$ $\alpha_{2},\beta_{2}$ $X_{i}$ $Y_{2i}$

Standart lojistik regresyon teorisinden ve tekdüze önceki olasılıklar varsayıldığında, parametreler için posterior, MLE'lere eşit ortalama ile V- ve ile belirtilen bilgi matrisine eşit varyans ile yaklaşık iki değişkenli normaldir - parametrelere bağlı olmayan, sadece MLE'ler. böylece bilinen varyans matrisi ile düz ileriye doğru normal integrallere sahipsiniz. herhangi bir katkı olmaksızın marjinalleşir (diğer herhangi bir "ortak değişken" gibi) ve olağan sonuçla kalırız (isterseniz türetmenin ayrıntılarını gönderebilirim, ancak oldukça "standart" şeyler): $V_{1}$ $V_{2}$ $\alpha_{j}$

P = Φ (\frac{{\hat{β}}_{2, M L E} - {\hat{β}}_{1, M L E}}{\sqrt{V_{1 : β, β} + V_{2 : β, β}}})

$P=\Phi\left(\frac{\hat{\beta}_{2,MLE}-\hat{\beta}_{1,MLE}}{\sqrt{V_{1:\beta,\beta}+V_{2:\beta,\beta}}}\right)$

Nerede sadece standart normal CDF olduğunu. Bu normal araç testinin olağan karşılaştırmasıdır. Ancak bu yaklaşımın her birinde aynı regresyon değişkenleri setinin kullanılmasını gerektirdiğini unutmayın. Birçok öngörücüye sahip çok değişkenli durumda, farklı regresyon değişkenlerine sahipseniz, integraller yukarıdaki teste etkili bir şekilde eşit olacaktır, ancak her iki modelden tüm ortak değişkenleri içeren "büyük model" deki iki betanın MLE'lerinden. $\Phi()$

— probabilityislogic
kaynak

3

Neden olmasın? Modeller, herhangi bir model öngörücüsünde 1 birim değişikliğin sonuç değişkeni için "1" olasılığını ne kadar etkileyeceğini tahmin ediyor. Modellerin aynı olduğunu varsayacağım - içlerinde aynı öngörücülere sahipler. 2 modelde herhangi bir öngörücünün göreceli büyüklüklerini karşılaştırmanın en bilgilendirici yolu, modellerin, yordayıcı ilgili sonuç değişkenlerinin olasılıklarını etkiler - ve karşılaştırın! İki tahmin için güven aralıkları belirlemek isteyeceksiniz, böylece farkın pratikte ve istatistiksel olarak "önemli" olduğunu tatmin edebilirsiniz.

— dmk38
kaynak

Teşekkürler dmk8, çok yararlı. Bazı takip noktaları / soruları: Tüm kontrol değişkenlerini ellerinde tutarken, ilgi değişkenini (örneğin ekonomi kötüden iyiye) değiştirmek söz konusu olduğunda sıklıkla kastedilen bu mudur? Deterministik olarak ne demek istiyorsun? Olasılıklar arasındaki güven aralıklarını nasıl belirlerim?

— Ejs

2

Krala danışın. Hayal kırıklığına uğratmayacak. King, G., Tomz, M. ve Wittenberg., J. (2000). İstatistiksel Analizlerden En İyi Şekilde Yararlanmak: Yorum ve Sunumun Geliştirilmesi. Am. J. Pol. Sci, 44 (2), 347-361'de tarif edilmektedir.

— dmk38

2

"Bağımsız değişkenim ekonomidir" ile belirli bir yordayıcı için kısayol kullandığınızı varsayıyorum.

Bir düzeyde, şöyle bir açıklama yaparken yanlış bir şey görmüyorum

X, Y1'i _ oran oranı ve% 95 güven aralığı [_, _] ile tahmin ederken X, Y2'yi olasılık oranı oranı ve% 95 güven aralığı [_, _] ile tahmin eder.

@ dmk38'in son önerileri bu konuda çok yardımcı görünüyor.

Karşılaştırmayı kolaylaştırmak için katsayıları standartlaştırmak da isteyebilirsiniz.

Başka bir düzeyde, örneğiniz genelleştirmek isteyebileceğiniz yılların popülasyonunun rasgele olmayan bir örneğini oluşturduğunda kelimenin tam anlamıyla çıkarımsal istatistikler (standart hatalar, p -değerleri, CI'ler) almaya dikkat edin .

— rolando2
kaynak

Evet, 'ekonomi' ulusal ekonomik koşulların algılanması için bir kısaltmadır. Modele diğer öngörücüler (kontroller) dahil edildiğinde de aynı tavsiye geçerli midir?

— Ejs

@Ejs - Korkarım son sorunuzun kısa cevabı yok. İstatistiksel kontrol kullanırken ilişkileri değerlendirmenin ne anlama geldiğini anlıyorsunuz - kapsamlı çalışmaya layık inanılmaz karmaşık bir konu. Muhtemelen büyük bir değişken olan değişken seçim konusuna da giriyorsunuz. Bu konulardaki kararlı öğrenciler için en iyi kaynak, Pedhazur'un amazon.com/Multiple-regression-behavioral-research-Pedhazur/…

— rolando2

1

iki insan grubunu karşılaştırmak olduğunu söyleyelim: olanlar ve . $X_{1} = 1$ $X_{1} = 0$

Üstel , karşılık gelen katsayı, sahip olanlar için başarı oran oranı olarak yorumlanır olanlar için başarı oran üzerinden , koşullu modeldeki diğer değişkenler. $\beta_{1}$ $X_{1} = 1$ $X_{1} = 0$

Dolayısıyla, farklı bağımlı değişkenlere sahip iki modeliniz varsa, in yorumu aynı değişkenler kümesinde koşullandırılmadığından değişir. Sonuç olarak, karşılaştırma doğrudan değildir ... $\beta_{1}$

— ocram
kaynak

Bunun roland2'nin önerisi üzerinde herhangi bir etkisi var mı?

— Ejs

@Ejs. Standardizasyon adımına atıfta bulunuyor musunuz? Bu arada cevabım yardımcı oluyor mu? Soruyu yanlış anladım mı?

— ocram