Yapay sinir ağındaki AIC için parametre sayısı

11

Yapay sinir ağındaki AIC değerini hesaplamak için parametre sayısını nasıl hesaplayabilirim?

neural-networks aic

— Funkwecker
kaynak

Bu soru bana çok açık görünüyor.

— gung - Monica'yı eski

Sen komutunu kullanabilirsiniz classifier.summary()gelen sklearsınıfından.

— Shekhar Shinde

14

İleri beslemeli bir ağda öğrenilen her bağlantı bir parametredir. Wikipedia'dan genel bir ağın görüntüsü:

Bu ağ tamamen bağlı olmasına rağmen, ağların olması gerekmez (örneğin, alıcı alanlara sahip bir ağ tasarlamak , görüntülerdeki kenar algılamayı geliştirir). Tamamen bağlı bir YSA ile bağlantı sayısı, bağlı katmanlardaki düğüm sayısının çarpımının toplamıdır. Yukarıdaki resimde, bu . Bu görüntü herhangi bir önyargı düğümü göstermez, ancak birçok YSA'da bunlara sahiptir; öyleyse, bu katmanın toplamına sapma düğümünü dahil edin. Daha genel olarak (örn. YSA'nız tam olarak bağlı değilse) bağlantıları basitçe sayabilirsiniz. $(3\times 4) + (4\times 2) = 20$

— gung - Monica'yı eski durumuna döndürün
kaynak

Bağlantılar benzersiz olmayabilir (bkz. İeeexplore.ieee.org/document/714176 ). Bu nedenle, sadece bağlantıları saymak doğru mu? Belki parametre ve hiperparametre arasında ayrım yapmalıyız?

— Funkwecker

Eğilim düğümleri dahil edilirse toplam bağlantı sayısı 26 olur.

— agcala

0

Sinir ağı sadece fonksiyonların fonksiyonlarının bir fonksiyonudur ... (modelin mimarisinin belirlediği gibi). Ortaya çıkan işlev basitleştirilemezse, modeldeki toplam parametre sayısı (her düğümden tüm parametre sayısının toplamı) AIC hesaplaması için istediğiniz sayıdır.

— bonez001
kaynak

0

Bir İçin MLP tamamen bağlanmış ağın aşağıdaki (Python) kodu kullanabilirsiniz:

def total_param(l=[]):
s=0
for i in range(len(l)-1):
    s=s+l[i]*l[i+1]+l[i+1]
return s

aşağıdaki katman yapılandırmasına sahip bir ağınız varsa

input:  435
hidden: 166 
hidden: 103 
hidden:  64
output:  15

sadece fonksiyonu ile çağırırsın

total_param([435,166,103,64,15]) 
97208

— agcala
kaynak