Karar ağacı algoritmaları doğrusal mı yoksa doğrusal değil mi?


21

Son zamanlarda bir arkadaşımdan bir röportajda karar ağacı algoritmalarının doğrusal mı yoksa doğrusal olmayan algoritma mı olduğu soruldu. Bu sorunun cevabını aramaya çalıştım ama tatmin edici bir açıklama bulamadım. Herkes bu sorunun çözümünü cevaplayabilir ve açıklayabilir mi? Ayrıca, doğrusal olmayan makine öğrenme algoritmalarına başka örnekler nelerdir?


Bu bağlamda ne demek istediğini merak ediyor, regresyon, doğrusal olarak ayrılabilir veriler?
image_doctor

1
Muhtemelen sınıflar arasındaki sınır anlamına geliyorlardı; hiperplantan oluşup oluşmadığı.
Emre

Yanıtlar:


17

Bir karar ağacı bir doğrusal olmayan haritalama olduğu Xiçin y. Bu, rasgele bir işlev alıp maksimum derinliğine kadar bir ağaç oluşturup oluşturmadığınızı görmek kolaydır.

Örneğin:

if x = 1, y = 1
if x = 2, y = 15
if x = 3, y = 3
if x = 4, y = 27
...

Tabii ki, bu tamamen aşırı uygun bir ağaçtır ve genellemez. Ancak karar ağacının neden doğrusal olmayan bir eşleme olduğunu gösterir.


10

Son zamanlarda bir arkadaşımdan röportajda karar ağacı algoritmasının doğrusal mı yoksa doğrusal olmayan bir algoritma mı olduğu soruldu

Karar ağaçları, sinir ağları, vb. Gibi doğrusal olmayan bir sınıflandırıcıdır. Genellikle doğrusal olmayan ayrılabilir verilerin sınıflandırılması için kullanılır.

Regresyon örneğini göz önünde bulundursanız bile, karar ağacı doğrusal değildir.

Örneğin, doğrusal bir regresyon çizgisi şöyle görünebilir:

resim açıklamasını buraya girin

Kırmızı noktalar veri noktalarıdır.

Ve bir karar ağacı regresyon grafiği şöyle görünecektir:

resim açıklamasını buraya girin

Yani, karar ağaçları açıkça doğrusal değil


Ağacın derinliğinin arttırılması daha fazla sığmaya ve dolayısıyla daha doğrusal olmayan bir yapıya yol açacaktır.
Dawny33

3

Karar ağaçları doğrusal değildir. Doğrusal regresyondan farklı olarak, bağımsız ve bağımlı değişkenler arasındaki ilişkiyi ifade eden bir denklem yoktur.

Ör:

Doğrusal regresyon - Meyve fiyatı = b0 + b1 * Tazelik + b2 * Boyut

Karar ağacı - Düğümler: Olgun - Evet veya hayır | Taze - Evet veya Hayır | Boyut - <5,> 5 ancak <10 ve> 10 |

İkinci durumda bağımsız ve bağımlı değişkenler arasında doğrusal bir ilişki yoktur.


3

Birçok kişinin belirttiği gibi, bir regresyon / karar ağacı doğrusal olmayan bir modeldir. Bununla birlikte, parçalı bir doğrusal model olduğuna dikkat edin : her mahallede (doğrusal olmayan bir şekilde tanımlanır), doğrusaldır. Aslında, model sadece yerel bir sabittir.

θ

yi=α11(xi<θ)+α21(xiθ)+ϵi

1(A)


2

VC2dd22dmdmin(2d,m)ID3C4.5

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.