Topluluk yöntemlerinin nasıl uygulanacağını öğrenmek için kaynaklar

Teorik olarak (nasıl çalışacaklarını) anlıyorum, ama aslında bir topluluk yöntemini (oylama, ağırlıklı karışımlar, vb.) Kullanmayı nasıl yapacağımdan emin değilim.

• Topluluk yöntemlerini uygulamak için iyi kaynaklar nelerdir?
• Python'da uygulama ile ilgili belirli kaynaklar var mı?

DÜZENLE:

Bazı yorumlarda tartışmaya dayanarak temizlemek için, randomForest, vb gibi topluluk algoritmaları aramıyorum. Bunun yerine, farklı algoritmalardan farklı sınıflamaları nasıl birleştirebileceğinizi merak ediyorum.

Örneğin, birinin belirli bir gözlemin sınıfını tahmin etmek için lojistik regresyon, SVM ve diğer bazı yöntemleri kullandığını varsayalım. Bu tahminlere dayanarak sınıfın en iyi tahminini yakalamanın en iyi yolu nedir?

Başlamak için iyi bir yer , topluluk öğrenimine genel bir bakış elde etmektir . Özellikle takviye ve torbalamaya bakmak isteyeceksiniz . Başka bir yöntem Netflix Ödülünde "Topluluk" ekibi tarafından kullanılan "karıştırma" veya özellik istifleme olarak adlandırıldı .

Sonra, bunları uygulayan ve oradan çalışan bazı kütüphaneler bulun. Hızlı bir googling , her ikisi de torbalama ve artırma (ve her ikisi de Python) olması gereken scikit ve turuncuya dönüştü .

Sadece topluluk yöntemlerini kullanmanın ötesinde , biraz teori öğrenmek istiyorsanız, o zaman bu makalenin iyi bir sıçrama noktası olacağını düşünüyorum (ilgilendiğiniz bölümlerin referanslarını izleyin).

Şerefe.

'Veri Madenciliğinde Topluluk Yöntemleri: Tahminleri Birleştirerek Doğruluğu Artırma', Seni ve Elder - Pratik topluluk teorisi ve uygulaması üzerinde mükemmel referans, ancak beraberindeki kod R tabanlıdır.

'Makine Öğrenimi: Algoritmik Bir Bakış', S. Marsland - Mükemmel Python tabanlı pratik metin, ancak ilk referans olarak saf topluluk kavramlarına adanmış değil.

Stumpy Joe Pete'nin tepkisi mükemmeldi, ancak bir Python uygulamasından bahsettiğinizden beri Universidade Federal de Pernambuco'nun demleme projesinden bahsetmek istedim .

https://github.com/viisar/brew

from brew.base import Ensemble
from brew.base import EnsembleClassifier
from brew.combination import import Combiner

# create your Ensemble
clfs = your_list_of_classifiers # [clf1, clf2]
ens = Ensemble(classifiers = clfs)

# create your Combiner
# the rules can be 'majority_vote', 'max', 'min', 'mean' or 'median'
comb = Combiner(rule='majority_vote')

# now create your ensemble classifier
ensemble_clf = EnsembleClassifier(ensemble=ens, combiner=comb)
ensemble_clf.predict(X)

Bu noktada, topluluk oluşturma, kombinasyon, budama ve dinamik seçim var.

Sınırlamalar: sadece sınıflandırma; geçerli genel sürümde yığın yok; çok fazla belge.

Salford Systems, Random Forests adında bir sınıflandırma ve regresyon ağacı toplulukları için uygulayan bir yazılım paketine sahiptir. Sunacak ücretsiz R paketim yok. Uygulamalarını açıklayacak bir kullanım kılavuzuna sahip olduklarını düşünüyorum. Analoji ile muhtemelen diğer topluluk yöntemleri için nasıl yapılacağını anlayabilirsiniz.

Son derece yardımcı olan bu öğretici buldum. Tüm parçalara cevap vermiyor, ancak tartışmaya harika bir başlangıç ​​olduğunu düşünüyorum: http://vikparuchuri.com/blog/intro-to-ensemble-learning-in-r/

Scikit-öğrenmek kılavuz asamblesi sağlar torbalama ve artırılması meta sınıflandırıcılar ve regressors. Ek olarak, mlxtend kütüphanesi istifleme meta-sınıflandırıcılarının ve regresörlerinin uygulamalarını sağlar .