Derin öğrenme vs. Karar ağaçları ve güçlendirme yöntemleri

18

Ben (ampirik veya teorik olarak) karşılaştırmak ve tartışmak kağıtları veya metin arıyorum:

Arttırılması ve karar ağaçları gibi algoritmalar Rasgele Orman veya AdaBoost ve GentleBoost karar ağaçlarına uygulanmıştır.

ile

Kısıtlı Boltzmann Makineleri , Hiyerarşik Geçici Bellek , Konvolüsyonel Sinir Ağları , vb. Gibi derin öğrenme yöntemleri .

Daha spesifik olarak, bu iki ML yöntemi bloğunu hız, doğruluk veya yakınsama açısından tartışan veya karşılaştıran bir metin biliyor mu? Ayrıca, ikinci bloktaki modeller veya yöntemler arasındaki farkları (örn. Artıları ve eksileri) açıklayan veya özetleyen metinler arıyorum.

Bu tür karşılaştırmaları doğrudan ele alan herhangi bir işaretçi veya cevap çok takdir edilecektir.

— Amelio Vazquez-Reina
kaynak

1

Baktığınız veri türleri hakkında daha spesifik olabilir misiniz? Bu, kısmen hangi tür algoritmanın en hızlı şekilde birleşeceğini belirleyecektir.

Ayrıca, gerçekten sadece bir yöntem koleksiyonu olduğu için, boost ve DL gibi yöntemleri nasıl karşılaştıracağımdan emin değilim. Güçlendirme ile başka hangi algoritmaları kullanıyorsunuz?

Genel olarak, DL teknikleri kodlayıcı / kod çözücü katmanları olarak tarif edilebilir. Gözetimsiz ön eğitim, önce her bir katmanı önce sinyali kodlayarak, sinyali çözerek, sonra yeniden yapılandırma hatasını ölçerek çalışır. Tuning daha sonra daha iyi performans elde etmek için kullanılabilir (örn. Denoising yığılmış oto-kodlayıcılar kullanıyorsanız geri yayılım kullanabilirsiniz).

DL teorisi için iyi bir başlangıç noktası:

http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.73.795&rep=rep1&type=pdf

yanı sıra bunlar:

http://portal.acm.org/citation.cfm?id=1756025

(üzgünüm, SPAM filtreleme sistemi nedeniyle son bağlantıyı silmek zorunda kaldım)

RBM'ler hakkında herhangi bir bilgi içermedim, ancak bunlar yakından ilişkilidir (kişisel olarak ilk başta anlaşılması biraz daha zor olsa da).

— user5268
kaynak

Teşekkürler @f (x), (2D veya 3D) piksel segmentlerinin veya yamaların sınıflandırılmasıyla ilgileniyorum, ancak orijinal soruyu olabildiğince genel tutmak istedim. Farklı yöntemler farklı veri kümeleri türlerinde en iyi sonucu verirse, bu farklılıkları ele alan bir tartışma ile ilgilenirim.

— Amelio Vazquez-Reina

1

Genellikle görüntü işleme açısından DL yöntemleri, daha sonra sınıflandırma yapmak için SVM'lerle eşleştirilebilen özellik çıkarıcılar olarak işlev görür. Bu yöntemler genellikle SIFT, SURF ve HOG gibi elle tasarlanmış yaklaşımlarla karşılaştırılabilir. DL yöntemleri, geçitli CRBM'ler ve ISA ile videoya genişletildi. Elle tasarlanan yöntemler arasında HOG / HOF, HOG3d ve eSURF bulunur (iyi bir karşılaştırma için bkz. Wang ve ark. 2009).

— user5268

1

Harika bir soru! Hem uyarlanabilir güçlendirme hem de derin öğrenme olasılıklı öğrenme ağları olarak sınıflandırılabilir. Fark, "derin öğrenme" nin özellikle bir veya daha fazla "sinir ağı" içermesi, "güçlendirici" ise, zayıf öğrenenler olarak adlandırılan ve "herhangi bir şey" olabilecek bir veya daha fazla öğrenme ağı gerektiren bir "meta-öğrenme algoritması" dır. sinir ağı, karar ağacı, vb.). Artırıcı algoritma, zayıf öğrenen ağlarından birini veya daha fazlasını, genel öğrenme ağlarının sonuçlarını önemli ölçüde "artıran" (yani Microsoft'un Viola ve Jones Yüz Dedektörü, OpenCV) oluşturabilen "güçlü öğrenen" olarak adlandırılan şeyi oluşturmak için alır.

— SensorVista
kaynak