İnsanların 'derin bir inanç' ağına atıfta bulundukları zaman bunun temelde bir sinir ağı olduğu ama çok büyük olduğu izlenimini ediniyorum. Bu doğru mu, yoksa derin bir inanç ağı da algoritmanın kendisinin farklı olduğu anlamına mı geliyor (yani, ileriye dönük sinir ağları değil, belki de geri besleme döngüleri olan bir şey)?
Yanıtlar:
"Sinir ağları" genellikle ileriye dönük sinir ağlarını belirtmek için kullanılan bir terimdir. Derin Sinir Ağları, birçok katmanı içeren ileriye dönük Sinir Ağlarıdır.
Derin inanç ağı, Derin Sinir Ağları ile aynı değildir.
Belirttiğiniz gibi, derin bir inanç ağının bazı katmanlar arasında yönlendirilmemiş bağlantılara sahip olduğu. Bu, DNN ve DBN'nin topolojisinin tanım olarak farklı olduğu anlamına gelir.
DBN'deki yönlendirilmemiş katmanlara Sınırlı Boltzmann Makineleri denir. Bu katmanlar, çok hızlı olan denetlenmemiş bir öğrenme algoritması (Kontrastlı Sapma) kullanılarak eğitilebilir (İşte , ayrıntılara sahip bir link !).
Bazı daha fazla yorum:
Daha derin sinir ağlarıyla elde edilen çözümler, 1 veya 2 gizli katmanı olan ağlar için elde edilen çözümlerden daha kötü performans gösteren çözümlere karşılık gelir. Mimari derinleştikçe, Deep NN kullanarak iyi bir genelleme elde etmek zorlaşıyor.
Hinton, 2006'da, her bir katman (RBM) denetimsiz bir öğrenme algoritmasıyla (Kontrast Ayrışma) önceden eğitildiğinde daha derin mimarilerde çok daha iyi sonuçların elde edilebileceğini keşfetti. Daha sonra Ağ, ağırlıkları "ince ayar yapmak" için geri yayılım kullanarak denetimli bir şekilde eğitilebilir.
Bu, David tarafından belirtildiği gibi: " derin inanç ağları, standart ileri beslemeli sinir ağlarının aksine" bir RBM'deki gibi ilk iki katman arasında yönlendirilmemiş bağlantılara sahiptir . Genel olarak, bir DNN'deki asıl mesele, kesinlikle tek bir NN katmanına nazaran daha fazla ilgisini çeken eğitimidir. (NN'ler üzerinde çalışmıyorum, henüz oldu, son zamanlarda makaleyi okudum.)
Kaynak: 1. Konuşma Tanınmasında Akustik Modelleme İçin Derin Sinir Ağları , Geoffrey Hinton, Li Deng, Dong Yu, George Dahl, Abdel-rahman Mohamed, Navdeep Jaitly, Andrew Kıdemli, Vincent Vanhoucke, Patrick Nguyen, Tara Sainath, ve Brian IEEE Sinyal İşleme Dergisi'nde Kingsbury [82] Kasım 2012 ( MSR'deki Orijinal Makaleye Bağlantı )
Alex'in burada yaptığı yorumları gördüğüme sevindim. İnsanlara DL'nin tipik bir Sinir Ağı olduğunu açıkladım. Öğrenme programında fark yoktur. C (70s) ile yazılmış daha önceki bir YSA, birden çok gizli katman oluşturmak için bir seçeneğe sahiptir. Aslında daha gizli katmanların doğruluğunu arttırıp artırmadığını belirlemek için test ettim. Katman sayısı, DL'yi ANN'den farklı yapmaz.
Bu tür pazar şartlarından nefret ediyorum. Şimdi, DL'nin aslında YSA olmadığını bilmeyen birçok DL uzmanımız var. Pazarlamanın çok iyi ve güçlü olması nedeniyle, insanlar Makine Öğrenimi alanında çok fazla ilerleme kaydettiğimize inanıyor. Ancak, hiçbir şey yeni değil!