Sinir ağlarının hesaplama gücü aktivasyon fonksiyonu ile ilgili midir?

Rasyonel ağırlığa sahip sinir ağlarının , Nöral Ağlarla Evrensel Turing Makinesi Turing hesaplanabilirliğinin hesaplama gücüne sahip olduğu kanıtlanmıştır . Anladığım kadarıyla, gerçek değerli ağırlıklar kullanmanın daha fazla hesaplama gücü sağladığı görülüyor, ancak bundan emin değilim.

Bununla birlikte, bir sinir ağının hesaplama gücü ile aktivasyon fonksiyonu arasında herhangi bir korelasyon var mı? Örneğin, etkinleştirme işlevi girdiyi bir Specker dizisinin bir sınırıyla karşılaştırırsa (normal bir Turing makinesiyle yapamayacağınız bir şey, değil mi?), Bu sinir ağını hesaplamalı olarak "daha güçlü" yapar mı? Birisi beni bu yönde bir referansa yönlendirebilir mi?

Sadece bir not:

• rasyonel ağırlıklı tekrarlayan ler sahip Boole aktivasyon fonksiyonları (basit eşikleri) sonlu durum otomata eşdeğerdir (Minsky'nin, "Hesaplama: sonlu ve sonsuz makineleri", 1967);$NN$

• $NN$

• $NN$

fakat ...

• $NN$

Kolay çözümü alıp "Evet" diyeceğim. Herhangi bir girişi kabul eden ve sadece sabit bir değer döndüren bir aktivasyon işlevini düşünün (yani, girişleri yok sayar). Bu ağ her zaman sabit bir çıktıyla sonuçlanır ve bu nedenle bu ağın hesaplama gücü (muhtemelen herhangi bir tanımla) sıfırdır. Hiçbir şey hesaplayamaz.

Bu, ağın gücü üzerindeki etkinleştirme işlevi arasında bir korelasyon göstermek için yeterlidir . Tabii ki, bir ağın evrensel bir turing makinesinden daha fazla güce sahip olabileceğini göstermez ya da çürütmez .