Lojistik regresyonu ikili sonuç ve yordayıcı ile kullanmak mantıklı mı?

Bir ikili sonuç değişkeni {0,1} ve bir tahmin değişkeni {0,1} var. Düşüncelerim, diğer değişkenleri dahil etmediğim ve olasılık oranını hesaplamadığım sürece lojistik yapmanın mantıklı olmadığıdır.

Bir ikili öngörücü ile olasılık oranının olasılık oranına karşı hesaplanması yeterli olmaz mı?

Bu durumda verilerinizi daraltabilirsiniz ; burada S i j , x = i ve y = j için i , j ∈ { 0 , 1 örnek sayısıdır } . Genel olarak n gözlem olduğunu varsayalım .

$$\begin{array}{c|cc} X \backslash Y & 0 & 1 \\ \hline 0 & S_{00} & S_{01} \\ 1 & S_{10} & S_{11} \end{array}$$ $S_{ij}$$x = i$$y =j$$i,j \in \{0,1\}$$n$

Biz modeli uygun ise (burada g eden bağlantı fonksiyonu ise) bulacaksınız p 0 olduğu başarı oranı logit zaman x i = 0 ve p 0 + β 1 başarıları zaman oranının logit olan$p_i = g^{-1}(x_i^T \beta) = g^{-1}(\beta_0 + \beta_1 1_{x_i = 1})$$g$$\hat \beta_0$$x_i = 0$$\hat \beta_0 + \hat \beta_1$ . Diğer bir deyişle, β 0 = gr ( S $x_i = 1$ ve β 0+ β 1=gr(S

$$\hat \beta_0 = g\left(\frac{S_{01}}{S_{00} + S_{01}}\right)$$ $$\hat \beta_0 + \hat \beta_1 = g\left(\frac{S_{11}}{S_{10} + S_{11}}\right).$$

Bunun olup olmadığını kontrol edelim R.

n <- 54
set.seed(123)
x <- rbinom(n, 1, .4)
y <- rbinom(n, 1, .6)

tbl <- table(x=x,y=y)

mod <- glm(y ~ x, family=binomial())

# all the same at 0.5757576
binomial()$linkinv( mod$coef[1])
mean(y[x == 0])
tbl[1,2] / sum(tbl[1,])

# all the same at 0.5714286
binomial()$linkinv( mod$coef[1] + mod$coef[2])
mean(y[x == 1])
tbl[2,2] / sum(tbl[2,])

Dolayısıyla lojistik regresyon katsayıları tam olarak tablodan gelen oranların dönüşümleridir.

Sonuç olarak, bir dizi Bernoulli rasgele değişkeninden gelen verilerimiz varsa, bu veri kümesini kesinlikle lojistik regresyon ile analiz edebiliyoruz, ancak sonuçta ortaya çıkan beklenmedik durum tablosunu doğrudan analiz etmekten farklı olmadığı ortaya çıkıyor.

---

Bunun neden çalıştığını teorik bir bakış açısıyla yorumlamak istiyorum. Lojistik bir gerilemeye uyduğumuzda, . Daha sonra ortalamayı x i cinsinden veya p i = g - 1 ( β 0 + β 1 x i ) sembollerinde doğrusal bir yordayıcı dönüşümü olarak modellemeye karar veririz . Bizim durumumuzda sadece iki benzersiz x i değerine sahibiz ve bu nedenle sadece iki benzersiz p değeri vardır.$Y_i | x_i \stackrel{\perp}{\sim} \text{Bern}(p_i)$$x_i$$p_i = g^{-1}\left( \beta_0 + \beta_1 x_i\right)$$x_i$ , diyelim ki p 0 ve p 1 . Bağımsızlık varsayımımız nedeniyle ∑ i : x i = 0 Y i = S 01 ∼ Kutu ( n 0 , p 0 ) ve ∑ i : x i = 1 Y i = S 11 ∼ Kutu ( n 1 , p 1 ) var . Dikkat edin ki$p_i$$p_0$$p_1$

$$\sum \limits_{i : x_i = 0} Y_i = S_{01} \sim \text{Bin} \left(n_0, p_0\right)$$ $$\sum \limits_{i : x_i = 1} Y_i = S_{11} \sim \text{Bin} \left(n_1, p_1\right).$$ $x_i$$n_0$$n_1$

Bu, anlamına gelir

$$S_{01} / n_0 = \frac{S_{01}}{S_{00} + S_{01}} \to_p p_0 \hspace{2mm} \text{ and } \hspace{2mm} S_{11} / n_1 = \frac{S_{11}}{S_{10} + S_{11}} \to_p p_1.$$

$Y_i | x_i = j \sim \text{Bern}(p_j)$$S_{j1} \sim \text{Bin}(n_j, p_j)$ancak her ikisi de aynı başarı olasılığına sahiptir. Bu olasılık tablosu oranlarının gözlem düzeyinde lojistik regresyon ile aynı şeyi tahmin etmesinin nedeni budur. Bu sadece tablo ile bir tesadüf değil: yaptığımız dağıtımsal varsayımların doğrudan bir sonucudur.

Birden fazla öngörücünüz varsa ve tüm öngörücüler ikili değişkenler olduğunda, Mantıksal Regresyon [1] kullanarak bir modele sığdırabilirsiniz ("Lojistik" değil "Mantık" olduğunu unutmayın). Öngörücüleriniz arasındaki etkileşim etkilerinin belirgin olduğuna inandığınızda faydalıdır. R'de ( LogicRegpaket) bir uygulama var .

[1] Ruczinski, I., Kooperberg, C. ve LeBlanc, M. (2003). Mantık gerilemesi. Hesaplamalı ve Grafik İstatistik Dergisi, 12 (3), 475-511.