Varsayılan başlangıç değerlerinin nasıl belirtildiğini merak ediyorum glm
.
Bu gönderi , varsayılan değerlerin sıfır olarak ayarlandığını gösterir. Bu bir yandan alakalı bağlantı bozuldu arkasında bir algoritma, olduğunu söylüyor.
Basit lojistik regresyon modelini algoritma iziyle uydurmaya çalıştım:
set.seed(123)
x <- rnorm(100)
p <- 1/(1 + exp(-x))
y <- rbinom(100, size = 1, prob = p)
# to see parameter estimates in each step
trace(glm.fit, quote(print(coefold)), at = list(c(22, 4, 8, 4, 19, 3)))
İlk olarak, başlangıç değerlerinin belirtimi olmadan:
glm(y ~ x, family = "binomial")
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
NULL
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.386379 1.106234
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3991135 1.1653971
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3995188 1.1669508
İlk adımda başlangıç değerleri NULL
.
İkinci olarak, başlangıç değerlerini sıfır olarak ayarladım:
glm(y ~ x, family = "binomial", start = c(0, 0))
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0 0
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3177530 0.9097521
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3909975 1.1397163
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3994147 1.1666173
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3995191 1.1669518
Birinci ve ikinci yaklaşım arasındaki iterasyonların farklı olduğunu görebiliriz.
Tarafından belirtilen başlangıç değerlerini görmek glm
için tek bir yineleme ile modele uymaya çalıştım:
glm(y ~ x, family = "binomial", control = list(maxit = 1))
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
NULL
Call: glm(formula = y ~ x, family = "binomial", control = list(maxit = 1))
Coefficients:
(Intercept) x
0.3864 1.1062
Degrees of Freedom: 99 Total (i.e. Null); 98 Residual
Null Deviance: 134.6
Residual Deviance: 115 AIC: 119
Parametrelerin tahminleri (şaşırtıcı değil), ikinci iterasyondaki ilk yaklaşımın tahminlerine karşılık gelir, yani, [1] 0.386379 1.106234
bu değerlerin başlangıç değerleri olarak ayarlanması, ilk yaklaşımdakiyle aynı iterasyon sırasına yol açar:
glm(y ~ x, family = "binomial", start = c(0.386379, 1.106234))
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.386379 1.106234
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3991135 1.1653971
Tracing glm.fit(x = structure(c(1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, .... step 22,4,8,4,19,3
[1] 0.3995188 1.1669508
Soru şu: bu değerler nasıl hesaplanıyor?
glm.fit
Kodu çalışmaya çalıştım ama başlangıç değerlerinin nasıl hesaplandığına dair hiçbir fikrim yok.
start
değerleri, bunlar geçirilen Nelerin hesaplanmasında kullanılanC_Cdqrls
rutin. Bunu yapmazsanız, iletilen değerler hesaplanır (çağrı dahileval(binomial()$initialize)
), ancakglm.fit
değerlerini hiçbir zaman açıkça hesaplamazstart
. Bir iki saatinizi alıpglm.fit
kodu inceleyin.