Makine öğrenimi sınıflandırıcıları big-O veya karmaşıklık


14

Yeni bir sınıflandırıcı algoritması performansını değerlendirmek için, doğruluk ve karmaşıklığı karşılaştırmaya çalışıyorum (eğitim ve sınıflandırmada big-O). Gönderen Machine Learning: Bir yorum Ben algoritmalar arasında ayrıca bir doğruluk tablosunu tam denetimli sınıflandırıcılar listesini almak ve 44 test problemi UCI veri repositoy . Ancak, gibi ortak sınıflandırıcılar için big-O ile bir inceleme, kağıt veya web sitesi bulamıyorum:

  • C4.5
  • RIPPER (Bence bu mümkün olmayabilir, ama kim bilir)
  • Geri Yayılımlı YSA
  • Saf Bayesian
  • K-NN
  • SVM

Bu sınıflandırıcılar için herhangi bir ifade varsa, çok yararlı olacaktır, teşekkür ederim.


2
Aşağıdaki makale ilginizi çekebilir: thekerneltrip.com/machine/learning/… Tam sorumluluk reddi, bu benim blogum :)
RUser4512

Sorunun şu anki ölü-bağlantılarının işaret ettiği yerleri geri izlemek ister misiniz?
mat

@ RUser4512 gerçekten harika bir blog müzakere! uzay karmaşıklığı da eklemeyi düşündünüz mü?
mat

1
@matt Teşekkür ederim :) evet, ama muhtemelen başka bir makalede, bu konuda da söylenecek çok şey var!
RUser4512

Yanıtlar:


11

Ndc

O zaman eğitimin karmaşıklıkları vardır:

  1. O(Nd)di
  2. kO(1)O(Nd)
  3. O(N2)O(N3)O(N3)O(N2.3)
  4. O(NR)

Test karmaşıklıkları:

  1. O(cd)dc
  2. kO(Nd)

Kaynak: "Temel Vektör Makineleri: Çok Büyük Veri Kümeleri Üzerinde Hızlı SVM Eğitimi" - http://machinelearning.wustl.edu/mlpapers/paper_files/TsangKC05.pdf

Üzgünüm, diğerleri hakkında bilmiyorum.


6
O(n2)O(n3)

@MarcClaesen Bağlantı artık çalışmıyor ve geri dönüş makinesinde değil. Aynı kağıt mı: leon.bottou.org/publications/pdf/lin-2006.pdf ?
1919'da
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.