Neredeyse karşılaştığım her karar ağacı örneği ikili bir ağaç oluyor. Bu oldukça evrensel mi? Standart algoritmaların çoğu (C4.5, CART, vb.) Yalnızca ikili ağaçları destekliyor mu? Topladığım kadarıyla, CHAID ikili ağaçlarla sınırlı değil, ama bu bir istisna gibi görünüyor.
Çocuklardan birine iki yönlü bir bölünme izleyen iki yönlü bir bölünme, üç yönlü bir bölünme ile aynı şey değildir. Bu akademik bir nokta olabilir, ancak en yaygın kullanım durumlarını anladığımdan emin olmaya çalışıyorum.
Yanıtlar:
Bu esas olarak teknik bir konudur: İkili seçimlerle sınırlı değilseniz, ağaçtaki bir sonraki bölünme için çok fazla olasılık vardır. Demek, sorunuzda belirtilen her konuda kesinlikle haklısınız.
Çoğu ağaç türü algoritmaların adım adım çalıştığını ve mümkün olan en iyi sonucu vermenin garanti edilmediğini bile unutmayın. Bu sadece bir ekstra uyarı.
Çoğu pratik amaç için, ağacın inşası / budaması sırasında olmasa da, birbirinden hemen sonra görünmeleri koşuluyla, iki bölme türü eşdeğerdir.
Çocuklardan birine iki yönlü bir bölünme izleyen iki yönlü bir bölünme, üç yönlü bir bölünme ile aynı şey değildir.
Burada ne demek istediğini anlamadım. Herhangi bir çok yönlü bölünme, iki yönlü bölünmeler dizisi olarak gösterilebilir. Üç yollu bir bölünme için, önce C ve A'yı B'ye bölüp sonra A'dan B'ye bölerek A, B ve C'ye bölebilirsiniz.
Verilen bir algoritma bu sekansı seçmeyebilir (özellikle, çoğu algoritmada olduğu gibi açgözlü ise), ancak kesinlikle olabilir. Ve rastgele ormanlarda veya yükseltilmiş ağaçlarda olduğu gibi herhangi bir rasgele ya da aşamalı prosedür yapılırsa, doğru ayrılmalar dizisini bulma şansı artar. Diğerlerinin de belirttiği gibi, çok yönlü bölmeler hesaplamalı olarak maliyetlidir, bu nedenle bu alternatifler göz önüne alındığında, çoğu araştırmacı ikili bölmeler seçmiş görünmektedir.
Bu yardımcı olur umarım
Karar ağacının kullanımı ve bölünmesiyle ilgili olarak (aksi takdirde ikili), sadece ikili olmayan bölmelere sahip olan CHAID'i biliyorum, ancak muhtemelen başkaları da var. Benim için, ikili olmayan bir bölünmenin temel kullanımı, nominal bir değişkeni birçok seviye ile optimal olarak nasıl bağlayacağımı araştırdığım veri madenciliği alıştırmalarıdır. Bir dizi ikili bölme, CHAID tarafından yapılan bir gruplandırma kadar kullanışlı değildir.
Lütfen okuyun bu
Pratik nedenlerden dolayı (kombinasyonel patlama) çoğu kütüphane, karar alanlarını ikili bölünmelerle uygular. Güzel olan şey, NP tamamlanmış olmalarıdır (Hyafil, Laurent ve Ronald L. Rivest. "Optimal ikili karar ağaçları oluşturmak NP tamamlanmıştır." Bilgi İşlem Mektupları 5.1 (1976): 15-17.)