“Kademeli regresyon” nasıl çalışır?

Bir probit modeline uyması için aşağıdaki R kodunu kullandım:

p1 <- glm(natijeh ~ ., family=binomial(probit), data=data1)
stepwise(p1, direction='backward/forward', criterion='BIC')

Ben yok ne olduğunu bilmek istiyorum stepwiseve backward/forwardtam olarak ne yapacağını ve nasıl değişkenleri seçmek?

Kademeli seçim prensibi

1. İstediğiniz tüm değişkenleri içeren bir modele uyuyorsunuz. Bu şu anki en iyi modeliniz.
2. Bir değişkeni kaldırırsınız (veya geçerli en iyi modelde kullanılmayan değişkenler arasına bir değişken eklersiniz) ve her biri için yeni modele uyarsınız ve bunları BIC'ye (veya herhangi birine göre) AIC gibi diğer kriterler ). Başka bir "şimdiki en iyi model" elde edersiniz.

BIC azaltılıncaya kadar tekrarlayın. Yalnızca yerel minimum BIC'niz vardır, yani değişken alt kümelerinin tüm olası seçenekleri arasında en iyi modeli alamayabilirsiniz. Her neyse, genellikle çok fazla var, bu yüzden çok fazla iş yapmadan biraz optimize etmenin bir yolu.

Ayrıca bkz . Wikipedia'da Kademeli regresyon ve Model seçimi .

Aşamalı regresyon temel olarak, belirtilen bir kritere dayanarak birer birer ortak değişkenler ekleyerek / bırakarak regresyon modeline uyar (yukarıdaki örnekte kriter BIC'ye dayalı olacaktır).

İleriyi belirterek R, en basit modelle (yani, bir ortak değişken) başlamak istediğinizi ve daha sonra yalnızca BIC modellerinde bir iyileşme ile sonuçlananları koruyarak birer birer ortak değişken ekleyin.

Geriye doğru belirterek R, tam modelle (yani tüm ortak değişkenlere sahip modelle) başlamak ve daha sonra BIC'de bir iyileşme ile sonuçlanan ortak değişkenleri bir kez atamak istediğinizi söylersiniz.

Aşamalı regresyon çok tehlikeli bir istatistiksel prosedür olabilir çünkü optimal bir model seçim prosedürü değildir. Yöntem, çok zayıf model seçimine yol açabilir ve sizi birden fazla karşılaştırma gibi sorunlara karşı korumaz.