Önemsiz sorunları iyi bir şekilde çözen çok az sayıda düğümü olan sinir ağları var mı?


11

Çok az sayıda düğüm (20 düğüm zor bir sınır değildir) kullanan herhangi bir önemsiz sorunu (> =% 80 doğruluk ile) çözen herhangi bir sinir ağı olup olmadığını bilmek ilgileniyorum. Sinir ağlarının boyutları hakkında bir sezgi geliştirmek istiyorum.


Evrensel yaklaşım teoremi: bir gizli katmanı olan bir sinir ağı, gizli katmandaki yeterli sayıda düğüm verildiğinde herhangi bir "makul" fonksiyona yaklaşabilir.
nbro

2
Bence sorunuza cevap vermek kolay olmayacak. "Önemsiz sorun" ile ne demek istiyorsun?
nbro

Gizli katmanlarda bile birkaç düğüm istiyorum.
Guillermo Mosse

@nbro bu bağlamda "önemsiz olmayan" duygum inatçı veya çözümsüzdür.
DukeZhou

Yanıtlar:


13

Önemsiz olmayan iyi tanımlanmadığı için bu soruyu doğru bir şekilde cevaplamak imkansız olsa bile (belki de yazar bu soruları daha sonra düzenlemek, daha iyi belirtmek için düzenleyecektir), bana ilginç görünen bu makaleye işaret etme fırsatını kullanıyorum

Ising Eleştirisini Öğrenmek için En Küçük Sinir Ağı

Ising Modeli hakkında genel bir fikriniz olduğunu varsayarsak , kritik ısıyı veri odaklı bir perspektiften tanımlama sorunu önemsiz olarak düşünülebilir ve makale yazarların bu görevi NN'den geçerken çözmek için ilgili performansı nasıl geliştirdiğini göstermektedir. Bu makalede yapıldığı gibi 100 Gizli Nöron Maddenin makine öğrenme aşamaları 2017'den itibaren sadece 2 Gizli Nörona

Sadece sentlerim:

  • iyi performansı korurken nöronları azaltmak , kötü bilinen sinirsel işleme yorumlanabilirliği açısından yardımcı olmalıdır ve karmaşıklığı (katlanarak) nöron sayısı ile büyür.

3
Sadece topluluğun kendisinin ilginç bulduğu örnekler istedim. Bence önemsizliği tanımlamak önemsiz değil. Sağ?
Guillermo Mosse

1
@GuillermoMosse Hayır, önemsiz olmayanları tanımlamak oldukça önemsiz. Tanım, duruma en uygun olana bağlı olarak aşağı yukarı keyfidir. Eminim çok basit bir NN, verilen bir sayının önemsiz bir karekök olup olmadığını söylemeyi öğrenebilir ...
orman
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.