Derin öğrenme konusundaki bu slayt 1980'lerin tüm iyileştirmelerinin yalnızca çok daha fazla veri ve daha hızlı bilgisayarlar nedeniyle olduğunu iddia etmekte ne kadar doğrudur?

Bir konuşmayı dinliyordum ve bu slaytı gördüm:

Ne kadar doğru?

AI StackExchange'e göz atıyordum ve çok benzer bir soruya rastladım: “Derin Öğrenmeyi” diğer sinir ağlarından ayıran nedir?

AI StackExchange'in yarın kapanacağından (tekrar), buradaki en iyi iki cevabı kopyalayacağım (kullanıcı katkıları, cc by-sa 3.0 altında lisanslı ve gerekli nitelikte):

Eser sahibi: mommi84less

İki alıntıda 2006 makalesi araştırma ilgisini derin öğrenmeye geri getirdi. In "Hızlı bir derin inanç ağları öğrenme algoritması" , yazarlar derin inanç net olarak tanımlayın:

[...] birçok gizli katmanı olan yoğun şekilde bağlı inanç ağları.

Derin ağlar için neredeyse aynı tanımı " Derin Ağların Açgözlü Katmanlı Eğitimi" bölümünde bulabilirsiniz :

Derin çok katmanlı sinir ağları birçok doğrusal olmayan seviyeye sahiptir [...]

Daha sonra, anket sunumunda "Temsil Öğrenme: Bir Gözden Geçirme ve Yeni Bir Perspektif" , tüm teknikleri kapsayacak şekilde derin öğrenme kullanılır (ayrıca bu konuşmaya bakın ) ve şöyle tanımlanır:

[...] çoklu temsil seviyeleri oluşturma veya bir özellikler hiyerarşisini öğrenme.

Bu nedenle, "derin" sıfatı yukarıdaki yazarlar tarafından çoklu doğrusal olmayan gizli katmanların kullanımını vurgulamak için kullanılmıştır .

Yazar: lejlot

Sadece @ mommi84 cevabını eklemek için.

Derin öğrenme sinir ağlarıyla sınırlı değildir . Bu sadece Hinton'un DBN'lerinden daha geniş bir konsepttir. Derin öğrenme

çoklu temsil seviyeleri oluşturma veya bir özellikler hiyerarşisini öğrenme.

Bu yüzden hiyerarşik temsil öğrenme algoritmaları için bir isimdir . Gizli Markov Modelleri, Koşullu Rastgele Alanlar, Destek Vektör Makineleri vb. Temelli derin modeller var. Tek yaygın olan şey, (90'larda popüler olan) yerine mühendisliğin özelliklere sahip olması, araştırmacıların özelliklerin setini oluşturmaya çalıştıkları. bazı sınıflandırma problemi çözmek için en iyi - bu makineler çalışabilir kendi temsilini gelen ham verilere. Özellikle - görüntü tanımaya (ham görüntüler) uygulanan, piksellerden, sonra çizgilerden, sonra burunlar, gözler ve son olarak genelleştirilmiş yüzler gibi yüz özelliklerinden (yüzlerle çalışıyorsak) oluşan çok seviyeli sunum üretirler. Doğal Dil İşlemeye uygulanırsa - kelimeleri topaklara, topakları cümlelere vb. Bağlayan dil modeli oluştururlar.

Başka bir ilginç slayt:

kaynak

2006'da Hinton'dan ayrılmanın, son 10 yılın derin öğreniminde en büyük gelişme olduğu söyleniyor, çünkü çok fazla uyuşmazlığı azaltıyor.

Bu kesinlikle tartışmaya yol açacak bir sorudur.

Yapay sinir ağları derin öğrenmede kullanıldığında, genellikle 1980'lerde kullanılmayan şekillerde eğitilir. Özellikle, sinir ağının ayrı katmanlarını farklı seviyelerdeki özelliklere göre tanıtan stratejiler geliştiren stratejilerin, çeşitli katmanlarla ağları eğitmeyi kolaylaştırdığı iddia edilmektedir. Bu 1980'lerden bu yana kesinlikle yeni bir gelişme.

Anahtar derin öğrenmede "derin" kelimesidir. 80'li yaşlarda birileri (ref'i unuttu), doğrusal olmayan tüm işlevlerin , elbette, yeterince büyük sayıda gizli birim içeren tek bir katmanlı sinir ağı tarafından yaklaştırılabileceğini kanıtladı . Bence bu sonuç, insanların daha önceki dönemde daha derin bir ağ kurmaktan caydırdıklarını düşünüyorum.

Ancak ağın derinliği, bugünün uygulamalarının çoğunun başarısını belirleyen hiyerarşik sunumda çok önemli bir unsur olduğu kanıtlanmıştır.

Tam olarak değil, YSA 50'li yıllarda başlar. Otantik ve kapsamlı bir tanıtım için Yann LeCun'un slaytlarından ML rock yıldızlarından birine göz atın. http://www.cs.nyu.edu/~yann/talks/lecun-ranzato-icml2013.pdf