Rasgele ormanlar için teorik sonuçlar?

9

Rasgele ormanlar, uygulayıcılar arasında en etkili sınıflandırma teknikleri arasında yer almakla ünlüdür. Yine de, derin teorik sonuçların yokluğunu tahmin ettiğim öğrenme-teorik literatürde onlarla çok fazla karşılaşmıyoruz. Eğer kişi bu teoriyi araştırmak isterse, nereden başlamalı?

machine-learning lg.learning

— Aryeh
kaynak

2

Yaklaşan SODA'15'te alakalı olabilecek yeni bir makale var. Bkz meetings.siam.org/sess/dsp_talk.cfm?p=68795

— Chandra Chekuri

@ChandraChekuri, sadece bir özet görüyorum, ancak bir kağıt görmüyorum. Tam bir kağıt var mı? Ve rastgele ormanların makine öğrenme yöntemiyle (denetimli öğrenme / sınıflandırma görevleri için) bir ilgisi var mı?

— DW

@DW Yazarlara yazın ve bir kopyasını paylaşmak isteyip istemediklerine bakın. Sonuçların farkındayım ama makaleyi kendim görmedim.

— Chandra Chekuri

5

Simone'un cevabından sonra, Gerard Biau'nun rastgele ormanlar için yakınsama ve tutarlılığa bakan birkaç çok iyi makalesi var. Analizler, algoritmanın Breiman 2001'e kıyasla biraz basitleştirilmiş versiyonları içindir, ancak önceki sonuçlardan daha az basitleştirilmiştir.

Biau'nun makaleleri (ortaklarıyla birlikte) web sitesinde mevcuttur:

http://www.lsta.upmc.fr/BIAU/publications.html

Özellikle ilgili olan tutarlılık üzerine bir "baskıda" çalışma: http://www.lsta.upmc.fr/BIAU/sbv.pdf

Rastgele orman içeriğine sahip 2-3 makale daha var. Az önce cstheory'ye katıldım, bu yüzden ikiden fazla bağlantı yayınlayamıyorum ama yukarıdaki yayınların hepsinde var.

Umarım bu yardımcı olur. Yöntemin büyük ölçüde ampirik kullanımından sonra, 2008'den beri son zamanlarda bir faaliyet patlaması görülmektedir. İyi haber şu ki, teorik araştırmalar yöntemin sağlam ve iyi özelliklere sahip olduğunu gösteriyor.

— Mark Madsen
kaynak

6

Sanırım Breiman'ın RF hakkındaki 2001 tarihli makalesine zaten bakmıştınız. Birkaç referans daha gösterebilirim:

Teoremleri kanıtlamaya izin veren farklı RF basitleştirmelerinin ampirik karşılaştırmaları: Boşluğu Daraltmak: Teori ve Uygulamada Rastgele Ormanlar

Bu, verebileceğim en yeni referans. Bu makalede ayrıca Biau'nun RF için teorik sonuçlarla ilgili ilk çalışmalarla ilgili bazı alıntılarını da bulabilirsiniz.

RF'de değişken önem ile ilgili teorik sonuçlarla ilgileniyorsanız: Randomize ağaçların ormanlarındaki değişken önemlerin anlaşılması

Aslında yeni makalenin yazarı (Gilles Louppe) doktora tezini (v2) az önce arxiv'de yayınladığını öğrendim: Rastgele Ormanları Anlamak: Teoriden Uygulamaya

— Simone
kaynak