Yapay sinir ağlarına nasıl başlanır


32

Yapay sinir ağları için tamamen yeniyim ama onları anlamakla çok ilgileniyorum. Ancak başlamak hiç de kolay değil.
Herhangi biri iyi bir kitap veya başka bir kaynak önerebilir mi? Mutlaka okunması gereken bir şey var mı?
Her türlü bahşiş için minnettarım.


11
Goeff Hinton'un gelecek hafta başlayacak olan Sinir Ağları Üzerine Kursra yoluyla öğrettiği bir kurs var: coursera.org/course/neuralnets
Marc Shivers

Bu kurs ilginç görünüyor, ancak video ve web sayfasından giriş olarak tasarlanmadığını tahmin ediyorum.
Douglas Zare

@DouglasZare: Hinton'un kursunu bitirdim ve bazı kısımlarda ilk önce ML kursuna Andrew Ng tarafından girdiğim için memnun oldum.
Andrew

1
Evet, ben de aldım. Harika bir kurs oldu ve giriş yok.
Douglas Zare

Yeni başlayanlar için sinir ağları hakkında bloglar ve öğreticiler learn-neural-networks.com
Фаиль Гафаров

Yanıtlar:


33

Sinir ağları bir süredir buralarda ve yıllar içinde dramatik bir şekilde değişti. Yalnızca web etrafında kurcalamak ise, "sinir ağı" izlenimi sonunda olabilir anlamına arka yayılımı ile eğitilmiş çok katmanlı ileri beslemeli ağı. Ya da nadiren kullanılan, tuhaf olarak adlandırılan modellerin herhangi biriyle karşılaşabilir ve sinir ağlarının bir araştırma projesinden çok bir hayvanat bahçesi olduğu sonucuna varabilirsiniz. Ya da bir yenilik olduklarını. Veya...

Devam edebilirim. Net bir açıklama yapmak istersen, Geoffrey Hinton'ı dinlerdim . Sonsuza kadar yaşadı ve (bu yüzden?) Üzerinde çalıştığı tüm farklı modelleri tek bir tutarlı, sezgisel (ve bazen de teorik) tarihsel anlatıya dokunarak harika bir iş çıkarıyor. Ana sayfasında, yaptığı Google Teknoloji Konuşmaları ve Videolectures.net derslerine bağlantılar ( diğerleri arasında RBM'ler ve Derin Öğrenme üzerine ) vardır.

Gördüğüm kadarıyla, sinir ağlarını anlamaya, başlangıçtan son teknolojiye kadar tarihsel ve pedagojik bir yol haritası:

  • Algılayıcılar
    • Anlaması kolay
    • Şiddetli sınırlı
  • Çok katmanlı, geri çoğaltma ile eğitilmiş
    • Bunları öğrenmek için birçok kaynak
    • Genellikle SVM'ler kadar iyi yapmayın
  • Boltzmann makineleri
    • Tekrarlayan bir ağın "enerji" açısından istikrarını düşünmenin ilginç bir yolu
    • "Enerji" ile tekrarlayan ağların kolay anlaşılır (ancak çok pratik olmayan) bir örneğini istiyorsanız , Hopfield ağlarına bakın .
    • Teorik olarak ilginç, pratikte işe yaramaz (kıta kayması ile aynı hızda eğitim)
  • Sınırlı Boltzmann Makineleri
    • İşe yarar!
    • Boltzmann makinelerinin teorisi
    • Web’de bazı tanıtımlar
  • Derin İnanç Ağları
    • Söyleyebileceğim kadarıyla, bu yarı denetimli öğrenme yapmak için bir çok katmanlı RBM sınıfıdır.
    • Bazı kaynaklar

1
Bu genel bakış ve bu birçok kaynak için çok teşekkür ederiz!
Claudio Albertin

2
Problem yok. Sinir ağındaki çabalarında iyi şanslar.
Stumpy Joe Pete

8

Bu dersleri izlemenizi ve okuma materyali olarak kullanmanızı şiddetle tavsiye ederim . Bu dersler genel olarak makine öğrenmesi üzerine Andrew Ng tarafından sinir ağları hakkında uzun konuşur ve yeni başlayanlar için erişilebilir kılmaya çalışır.


Başlıkları belirtebilir misiniz? Bağlantılar gelecekte ölebilir ...
Richard Hardy

5

Bunlar bence çok iyi kitaplar.

  • R. Rojas: Yapay Sinir Ağları
  • CM Bishop: Örüntü tanıma için Sinir Ağları

Kitapların bazı benzerlikleri var: Her ikisi de yaklaşık 500 sayfa uzunluğunda ve 1995'ten beri oldukça eski. Ancak, yine de çok faydalı kalıyorlar. Her iki kitap da sinir ağlarının ne olduğunu açıklayarak sıfırdan başlar. Anlamaya yardımcı olmak için açık açıklamalar, iyi örnekler ve iyi grafikler sunarlar. Sinir ağlarının eğitimi, birçok şekil ve formda neler yapabileceğini ve yapamayacağını çok ayrıntılı olarak açıklar. İki kitap birbirini çok güzel bir şekilde tamamlar, biri bir kitapla çözemediklerinden biri diğerinde bulma eğilimindedir.

Rojas, özellikle hoşuma giden, matris formundaki birçok katman üzerinde geri yayılım uygulamak hakkında bir bölüme sahip. Ayrıca bulanık mantık ve karmaşıklık teorisi hakkında güzel bir bölüm var. Ama sonra Piskopos'un birçok güzel bölümü var.

Rojas, en erişilebilir olduğunu söyleyebilirim. Piskopos daha matematiksel ve belki de daha karmaşıktır. Her iki kitapta da matematik, çoğunlukla lineer cebir ve çok değişkenli fonksiyonların hesabıdır (kısmi türevler vb.). Bu konular hakkında hiçbir bilgi olmadan, muhtemelen bu kitaplardan ikisini de aydınlatıcı bulamazsınız.

Önce Rojas okumanızı tavsiye ederim.

Her iki kitapta da, algoritmalar hakkında söylenecek çok şey var, ancak koddaki belirli uygulamalar hakkında da pek bir şey söylemedi.

Bana göre, bu kitaplar on-line bir kursu (Hinton'ın, Coursera'daki gibi) anlaşılabilir kılan arkaplanı sağlıyor. Kitaplar ayrıca çevrimiçi yapılabileceğinden çok daha fazla zemini ve daha ayrıntılı olarak kapsıyor.

Umarım bu yardımcı olur ve kitaplar hakkında herhangi bir soruya cevap vermekten mutluluk duyarım.


3
@Old_Mortality sitesine hoş geldiniz. Bu kitaplar hakkında bir şey söyleyebilir misin? Onlarla ilgili iyi olan nedir? Bir seviye matematik ve / veya kodlama karmaşıklığı olan insanlar için uygun mu? OP'nin 1'i okumasını öneren hangisi? Vb
gung - Reinstate Monica

1
Öneriniz için teşekkür ederim. Cevabımı yukarıda düzenledim.
Old_Mortality

3

Diğer kişilerin de belirttiği gibi, çevrimiçi ortamda pek çok (iyi) kaynak var ve ben şahsen bazılarını yaptım:

  • Ng'nin Coursera'daki ML sınıfına tanıtımı
  • Hinton'un Yapay Sinir Ağları dersi
  • Ng'nin derin öğrenme öğretici
  • Orijinal Paralel Dağıtım İşleminde ilgili bölümlerin okunması

Bu açıklamaların çoğunlukla, katmanların (toplam ve doğrusal olmama) birlikte temel birimler olduğu klasik muameleyi takip etmesine dikkat çekmek istiyorum. Torchnn ve tensorflow gibi çoğu kütüphanede uygulanan daha popüler ve daha esnek tedavi, artık yüksek modülerliğe ulaşmak için otomatik farklılaşmalı hesaplama grafiği kullanmaktadır. Kavramsal olarak daha basit ve daha özgürleştiricidir. Bu tedavi için mükemmel Stanford CS231n açık kursunu tavsiye ederim .

Sıkı bir öğrenme-teorik tedavi için, Anthony ve Bartlett tarafından Sinir Ağları'na danışmak isteyebilirsiniz .



0

Yapay sinir ağları alanındaki öğrenme sürecinizi destekleyen bir web uygulaması yarattım.

https://blueneurons.ch/nn

Ayarlarla oynayabilir (mimari, etkinleştirme işlevleri, eğitim ayarları) ve ayarların öngörüleri nasıl etkilediğini gözlemleyebilirsiniz. Tüm veri kümeleri benimsenebilecek önceden yapılandırılmış değerlere sahiptir. Kendi veri kümelerinizi oluşturmak da mümkündür.

Uygulanan elemanlara ilişkin talimat ve açıklamalar:

Kullanici rehberi

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.