Enterprise miner kullanarak olay oranı yaklaşık% 1 ile bir veri kümesinde degrade artırmayı deniyorum, ancak herhangi bir çıktı üretmek için başarısız. Sorum şu ki, karar ağacı temelli bir yaklaşım olduğu için, bu kadar düşük bir olayla gradyan artırmayı kullanmak doğru mu?
3
Dengesiz veri seti ile ilgileniyorsunuz. Artırmak gerçekten onunla başa çıkmak için iyi bir yoldur. Ayrıntılar için bkz. Stats.stackexchange.com/questions/157940/…
—
DaL
Fakat benim için lojistik regresyon, rastgele orman veya gradyan artırımından daha iyi sonuçlar veriyor. Yükseltilmiş ağaçları deneyerek modelimin performansını artırmak istedim.
—
user2542275
Yükseltme zayıf sınıflandırıcılara dayanır. Teorik olarak, rastgele olandan biraz daha iyi olan herhangi bir zayıf sınıflandırıcı yapacaktır. Uygulamada, farklı algoritmalar bazı veri kümeleri için daha uygundur, bu nedenle seçtiğiniz zayıf sınıflandırıcı önemlidir. Kullandığınız algoritmalar, sonuçları ve veri kümesi hakkında daha fazla bilgi verebilir misiniz?
—
DaL
Tamam. Veri kümesi hakkında: Örnek boyutu> 4m, etkinlik oranı =% 1,2. Anlamlı p değeri <0,05 olan prediktör sayısı 150'dir. En anlamlı değişkenli lojistik regresyon% 20 popülasyonda 3'lük artış sağlamıştır. Sinir ağı yaklaşık 2.8'lik bir artış verdi. Gradyan yükseltme, ters önceki ağırlıklarla tabakalı örnekleme kullanılana kadar herhangi bir çıktı üretmedi. Ancak performans düşük.
—
user2542275
Veri kümeniz oldukça büyük olduğundan, azınlık sınıfınızdan yeterli sayıda örneğiniz olmalıdır, bu nedenle sorun göreceli dengesizlikten kaynaklanmaktadır. Çok az özelliğiniz var, ancak çok fazla değil, ama aslında karar ağacı bu veri kümeleri için daha az uygundur. Dengeli bir veri kümesi oluşturmanızı ve algoritmalarınızın bu konuda ne kadar iyi performans gösterdiğini görmenizi öneririm. Daha sonra algoritmayı orijinal veri kümesine ilk yorumda açıkladığım şekilde uygulayabileceksiniz.
—
DaL