Bir yayında rastgele bir orman sunmanın en iyi yolu?

Rastgele orman algoritmasını, iki grubun sağlam bir sınıflandırıcısı olarak, 1000'li özelliklere sahip bir mikro dizi çalışmasında kullanıyorum.

• Rastgele ormanı sunmanın en iyi yolu nedir, böylece bir makalede tekrarlanabilir kılmak için yeterli bilgi olacak?
• Az sayıda özellik varsa, aslında ağacı çizmek için R'de bir çizim yöntemi var mı?
• OOB hata oranı tahmini için en uygun istatistik nedir?

Tekrarlanabilir kılmakla ilgili olarak, en iyi yol, makale ile birlikte tekrarlanabilir araştırma (örn. Kod ve veri) sağlamaktır . Web sitenizde veya bir barındırma sitesinde (github gibi) kullanıma sunun.

Görselleştirme ile ilgili olarak, Leo Breiman bu konuda bazı ilginç çalışmalar yaptı ( ana sayfasını , özellikle grafikler bölümüne bakınız ).

Ancak R kullanıyorsanız, randomForestpaketin bazı yararlı işlevleri vardır:

data(mtcars)
mtcars.rf <- randomForest(mpg ~ ., data=mtcars, ntree=1000, keep.forest=FALSE,
                           importance=TRUE)
plot(mtcars.rf, log="y")
varImpPlot(mtcars.rf)

Ve

set.seed(1)
data(iris)
iris.rf <- randomForest(Species ~ ., iris, proximity=TRUE,
                        keep.forest=FALSE)
MDSplot(iris.rf, iris$Species)

Gerçekten bir ağacı çizmenin basit bir yolunun farkında değilim, ancak getTreeağacı almak ve ayrı ayrı çizmek için işlevi kullanabilirsiniz .

getTree(randomForest(iris[,-5], iris[,5], ntree=10), 3, labelVar=TRUE)

“Neden ve nasıl rasgele orman değişken önem tedbirleri (ve nasıl kullanmamalısınız)” kullanımı üzerine verilen Strobl / Zeileis sunumunun, bu şekilde üretilmiş ağaç örnekleri vardır. Ağaç modelleriyle ilgili bu blog yazısında, örneğin kullanabileceğiniz bazı CART ağacı çizimleri örnekleri var.

@Chl'ın yorumladığı gibi, tek bir ağaç bu bağlamda özellikle anlamlı değildir, bu yüzden rastgele bir ormanın ne olduğunu açıklamak için kullandığımda, bunu bir makaleye dahil etmem.

1. Shane'nin yazdığı gibi; RF, stokastik olduğu için tekrarlanabilir araştırmayı + rastgele tohumları içerir.
2. Her şeyden önce, RF oluşturan tek ağaçları çizmek saçmalıktır; bu bir topluluk sınıflandırıcısıdır, sadece bir bütün olarak anlam ifade eder. Ancak bütün ormanın çizilmesi bile saçmalıktır - kara kutu sınıflandırıcısıdır, bu nedenle verileri orijinal süreci kopyalamak yerine yapısıyla açıklamak amaçlanmamıştır. Bunun yerine, Shane'in önerdiği parselleri yapın.
3. Uygulamada, OOB çok iyi bir hata yaklaşımıdır; Yine de, bu yaygın olarak kabul edilen bir gerçek değildir, bu nedenle yayın için onaylamak için bir özgeçmiş hazırlamak daha iyidir.

Arsa ile ilgili diğer cevaplardaki uyarıları mutlaka anlamlı bir şekilde aklınızda bulundurun. Ancak açıklayıcı / pedagojik amaçlar için bir arsa istiyorsanız, aşağıdaki R pasajı faydalı olabilir. Gerekirse kenar metne "ayırma noktası" eklemek zor değildir.

to.dendrogram <- function(dfrep,rownum=1,height.increment=0.1){

  if(dfrep[rownum,'status'] == -1){
    rval <- list()

    attr(rval,"members") <- 1
    attr(rval,"height") <- 0.0
    attr(rval,"label") <- dfrep[rownum,'prediction']
    attr(rval,"leaf") <- TRUE

  }else{##note the change "to.dendrogram" and not "to.dendogram"
    left <- to.dendrogram(dfrep,dfrep[rownum,'left daughter'],height.increment)
    right <- to.dendrogram(dfrep,dfrep[rownum,'right daughter'],height.increment)
    rval <- list(left,right)

    attr(rval,"members") <- attr(left,"members") + attr(right,"members")
    attr(rval,"height") <- max(attr(left,"height"),attr(right,"height")) + height.increment
    attr(rval,"leaf") <- FALSE
    attr(rval,"edgetext") <- dfrep[rownum,'split var']
    #To add Split Point in Dendrogram
    #attr(rval,"edgetext") <- paste(dfrep[rownum,'split var'],"\n<",round(dfrep[rownum,'split point'], digits = 2),"=>", sep = " ")
  }

  class(rval) <- "dendrogram"

  return(rval)
}

mod <- randomForest(Species ~ .,data=iris)
tree <- getTree(mod,1,labelVar=TRUE)

d <- to.dendrogram(tree)
str(d)
plot(d,center=TRUE,leaflab='none',edgePar=list(t.cex=1,p.col=NA,p.lty=0))