Regresyon için kısıtlı Boltzmann Makineleri?


13

Daha önce RBM'lerde sorduğum soruyu takip ediyorum . Onları tanımlayan birçok literatür görüyorum ama hiçbiri gerçekte regresyondan söz etmiyor (etiketli verilerle sınıflandırma bile değil). Yalnızca etiketlenmemiş veriler için kullanıldığını hissediyorum. Regresyonla başa çıkmak için herhangi bir kaynak var mı? Yoksa gizli katmanın üstüne başka bir katman eklemek ve CD algoritmasını yukarı ve aşağı çalıştırmak kadar basit mi? Şimdiden çok teşekkürler.

Yanıtlar:


18

Etiketlenmemiş veriler konusunda haklısınız. RBM'ler üretken modellerdir ve en yaygın olarak denetimsiz öğrenciler olarak kullanılır.

Bir Derin İnanç Ağı oluşturmak için kullanıldığında en tipik prosedür, her yeni RBM'yi birbiri üzerine istiflenmiş olarak her seferinde bir tane eğitmektir. Yani karşıt ıraksaklık demek istediğini düşündüğüm anlamda aşağı yukarı gitmiyor. Yeni en üstteki RBM'nin girişi olarak, bir önceki en üstteki RBM'nin gizli katmanını kullanarak bir seferde yalnızca bir RBM ile çalışır. Tüm bunlardan sonra, RBM ağırlık yığınını standart bir ileri besleme sinir ağı için başlangıç ​​ağırlıkları olarak değerlendirebilir ve etiketli verilerinizi ve geri yayılımınızı kullanarak egzersiz yapabilir veya uyandırma-uyku algoritmasını kullanmak gibi daha egzotik bir şey yapabilirsiniz. Bu son adıma kadar etiketlenmiş herhangi bir veri kullanmadığımıza dikkat edin, bu da bu tür modellerin avantajlarından biridir.

Öte yandan, sınıflandırma için RBM'leri kullanmanın birkaç yolu vardır.

  • Bir RBM veya birkaç RBM yığınını eğitin. En üstteki gizli katmanı başka bir denetimli öğreniciye girdi olarak kullanın.
  • Her sınıf için bir RBM eğitin ve normalleştirilmemiş enerjileri ayrımcı bir sınıflandırıcıya girdi olarak kullanın.
  • RBM'yi P (X, Y) 'nin ortak yoğunluk modeli olacak şekilde eğitin. Daha sonra bazı x girişleri verildiğinde, enerji işlevini en aza indiren y sınıfını seçmeniz yeterlidir (normalizasyon yukarıdaki gibi bir sorun değildir çünkü Z sabiti tüm sınıflar için aynıdır).
  • Ayrımcı bir RBM eğitin

Geoff Hinton'un Kısıtlı Boltzmann Makinelerini Eğitmek için Pratik Bir Kılavuz adlı teknik raporu okumanızı şiddetle tavsiye ederim . Bu konuların birçoğunu daha ayrıntılı olarak tartışır, paha biçilmez ipuçları sağlar, birçok ilgili makaleye atıfta bulunur ve sahip olabileceğiniz diğer karışıklıkları gidermeye yardımcı olabilir.


1
RBM'ler regresyon için kullanılabilir mi?
waspinator

Bir RBM'yi ortak yoğunluk modeli olarak nasıl eğitirsiniz? Hem X hem de Y'yi gizli olmayan girişler olarak sağlayarak, yani P (X, Y | H) (H gizli katman) olarak mı eğitiyorsunuz?
AkiRoss

Yorumuma kendi kendime cevap veriyorum: evet, "RBM eğitimi için pratik bir rehberde" (Hinton, 2010), yukarıda açıklanan 3 yöntem ayrıntılı olarak açıklanmıştır ve 3. yöntemde, "iki grup görünür" burada ", verilere ek olarak, sınıfı temsil etmek için bir softmax etiket birimi sunulmaktadır.
AkiRoss


0

Kısıtlı Boltzman Makinesi (RBM) gibi sinir ağlarını test etmenin bir yolunun, bunları yeni veri kümelerine veya daha genel olarak toplam veri kümesinin bir alt kümesine uygulamak ve nasıl performans gösterdiğini görmek olduğunu düşünüyorum. Modeli çapraz doğrulamayla da test edebilirsiniz. Kurması ve kullanması kolay olan popüler bir açık kaynaklı makine öğrenimi (ML) yazılım araç seti kullandım ve modelin regresyon istatistiklerinin bir dizi ( http: // www) ile birçok ML algoritması türünü kolayca test etmenizi sağlar . cs.waikato.ac.nz/ml/weka/ ). Bu, programı çalıştırmanın temelleri dışında çok fazla müdahale olmadan hızlı bir analiz verebilir, ancak verilerinizi biçimlendirmek zor olacaksa buna değmeyebilir (örneğin, genellikle "csv to arff çevrimini çevrimiçi" yapabilirsiniz. tek adımlı biçimlendirme için).

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.