Kabitli istifleme / montaj modelleri

Sık sık kendimi caretR kullanarak birkaç farklı öngörü modeli eğitirken buluyorum. Bunları hepsini aynı çapraz onaylama katları üzerinde eğiteceğim caret::: createFolds, sonra bunları kullanarak çapraz onaylanmış hataya dayalı en iyi modeli seçeceğim.

Bununla birlikte, birkaç modelden elde edilen medyan tahmin genellikle bağımsız bir test setindeki en iyi tekli modelden daha iyi performans gösterir. Aynı çapraz onaylama katlarıyla eğitilmiş şapka modellerini istifleme / montaj için bazı fonksiyonlar yazmayı düşünüyorum, örneğin her kattaki her modelden medyan tahminler alarak veya bir "meta model" eğiterek.

Tabii ki, bu bir dış çapraz doğrulama döngüsü gerektirebilir. Şapka modelleri için (varsa bu grupları çapraz onaylamak için) mevcut paketler / açık kaynak kodları bilen var mı?

Görünüşe göre, Max Kuhn , topluluk modellerinin montajı için bir paket üzerinde çalışmaya başladı , ancak henüz bitirmek için zamanı olmadı. Bu tam olarak aradığım şeydi. Umarım bir gün proje biter!

düzenleme: Bunu yapmak için kendi paketini yazdım: caretEnsemble

Aradığın şeye "model montaj" denir. R kodlu basit bir giriş dersi burada bulunabilir: http://viksalgorithms.blogspot.jp/2012/01/intro-to-ensemble-learning-in-r.html

Ne aradığınızdan emin değilim ama bu yardımcı olabilir: http://www.jstatsoft.org/v28/i05/paper

Şapkada çoklu modellerin kullanımı nasıldır? İlginizi çekebilecek bölüm sayfa 5'teki bölümdür. 13.