Sinir ağları için matematiksel altyapı


11

Bunun bu site için uygun olup olmadığından emin değilim, ancak bilgisayar bilimlerinde (uygulamalı matematikte BS) MSE'ye başlıyorum ve makine öğreniminde güçlü bir arka plan elde etmek istiyorum (büyük olasılıkla bir doktora yapacağım). Alt çıkarlarımdan biri sinir ağları.

YSA'lar için iyi bir matematiksel altyapı nedir? Makine öğreniminin diğer alanlarında olduğu gibi, doğrusal cebirin önemli olduğunu varsayıyorum, ancak matematiğin diğer hangi alanları önemlidir?

Yapay Sinir Ağları: Örüntü Tanıma için Sistematik Giriş veya Yapay Sinir Ağları okumayı planlıyorum . Herhangi bir girdi veya alternatif önerisi olan var mı?

Yanıtlar:


10

Verdiğiniz ikinci referans, bence, biraz modası geçmiş ve derin mimariler gibi daha yeni gelişmelerle ilgilenmese de, hala NN'nin en iyi kitabı. Temel bilgileri doğru yapacak ve makine öğrenimi ile ilgili tüm temel kavramları öğreneceksiniz.

Kitaptan geçerseniz, doğrusal cebir, çok değişkenli hesap ve temel istatistik kavramlarına (koşullu olasılıklar, bayes teoremi ve binom dağılımlarına aşina olmanız) ihtiyacınız olacaktır. Bazı noktalarda varyasyon hesabı ile ilgilenir. Varyasyonlar hesabı üzerindeki ek yeterli olmalıdır.


Bir sürü tavsiyeden sonra bununla sonuçlandım, çok tereddüt ettim çünkü Bishop'un makine öğrenimi kitabı, bazıları tarafından müjdeliyken, zaten bilmiyorsanız öğrenmek için çok zor bir kitap olması gerekiyordu .
Steve P.

5

Matematik bileşen muhtemelen en azından gelişmiş cebir, trig, doğrusal cebir ve hesabı içerir.

Ama aynı zamanda kutunun dışında düşün. Algoritmalardaki sağlam temeller (Coursera'nın algoritmalar üzerine iki kursu vardır) ve MatLab, Octave veya R (ve Java, C / C ++ veya Python gibi esnek bir programlama dili ile) yeterliliği de dahil olmak üzere iyi programlama becerileri de gereklidir. Sorunuza yanıt olarak bunlardan bahsediyorum çünkü bence daha fazla "uygulamalı matematik" becerileridir ve teori ile uygulamalı uygulamalar arasında çeviri yapmak için esastır.

Makine öğrenimi ile ilgili bir dizi Coursera dersi aldım (ve Prof. Ng Makine Öğreniminin harika olduğuna dair bir posterle aynı fikirdeyim) ve NN. Birkaç ay önce, Coursera Toronto Üniversitesi ve Geoffrey Hinton aracılığıyla bir Nöral Ağlar Kursuna ev sahipliği yaptı (bunun hala mevcut olup olmadığından emin değilim). Harika bir kurs ve talep edilen: matematik bilgisi, Octave (açık kaynak MatLab benzeri bir klon) ile yeterlilik, iyi algoritmik tasarım (ölçeklenebilirlik için) ve doğrusal cebir.

Ayrıca (kendi başına matematik olmasa da), doğal dil işleme (özellik çıkarma, vb. İçin), bilgi alma, istatistik / olasılık teorisi ve Makine Öğreniminin diğer alanları (daha fazla teori almak için) gibi konuları da düşünebilirsiniz. Makine Öğrenmenin Temelleri (Mohri) veya Makine Öğrenmeye Giriş (Alpaydin) gibi son metinler, teori-uygulama karmaşıklığını köprülemede size yardımcı olabilir (sadece bence, bu zor bir sıçrama olabilir) - ve her ikisi de metinler çok matematik ağır, özellikle Vakıflar.

Yine, sanırım hepsi matematik ve NN ile ilgili ama daha geniş anlamda.


Teşekkürler. Uygulamalı matematikte bir lisans (ve geniş programlama deneyimine sahip) olarak uzmanlaştım, bu yüzden kendime öğrettiğim soyut cebirdeki titiz bir ders hariç, hepsine sahibim ... Tanıma, Bishop tarafından. İlgilenen herkes için kesinlikle tavsiye ederim ...
Steve P.


2

Çok iyi bir kitap (gerçekten tanıtım değil, sinir ağlarında ön bilgi olduğunu varsaymayın) Brian Ripley: "Örüntü Tanıma ve Yapay Sinir Ağları". BS uygulamalı matematik ile hazırlıklı olmalısınız.


2

ANA konu istatistikler

Çok değişkenli hesap

sayısal doğrusal cebir (seyrek matrisler vb.) sayısal optimizasyon (gradyan iniş vb., ikinci dereceden programlama)

Gauss süreçlerini okumak isteyebilir ve orada gerekli olan matematik bazı görüntü işleme / doğal dil işleme sınıflarını deneyin ve yapın


Aslında sonbaharda bir NLP kursu alıyorum.
Steve P.
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.