Lojistik işlevle dönüştürülmüş bir Gauss rasgele değişkeninin beklenen değeri

Hem lojistik fonksiyon hem de standart sapma genellikle gösterilir . Standart sapma için ve kullanacağım .$\sigma$$\sigma(x) = 1/(1+\exp(-x))$$s$

Ben ortalama ve standart sapma biliyorum rastgele bir giriş ile bir lojistik nöron var . Umarım ortalamadaki fark bazı Gauss gürültüsü ile iyi bir şekilde tahmin edilebilir. Dolayısıyla, hafif bir gösterim kötüye kullanımıyla, ürettiğini varsayın . beklenen değeri nedir ? Standart sapma veya ile karşılaştırıldığında büyük veya küçük olabilir . Beklenen değer için iyi bir kapalı form yaklaşımı, kapalı bir form çözeltisi kadar iyi olacaktır.$\mu$$s$$\sigma(\mu + N(0,s^2))=\sigma(N(\mu,s^2))$$\sigma(N(\mu,s^2))$$s$$\mu$$1$

Kapalı bir form çözümü olduğunu sanmıyorum. Bu bir kıvrım olarak görülebilir ve lojistik yoğunluğun karakteristik işlevi bilinir ( ), ancak bunun ne kadar yardımcı olduğundan emin değilim. Ters sembolik hesap az yoğunluğunu tanıyamadı öne sürer ama basit temel ayrılmaz olduğunu kanıtlamaz lojistik dağıtımın yoğunluğu kıvrım ve standart normal dağılımın ait. Daha koşullu kanıtlar: Lojistik nöronları olan sinir ağlarına Gauss giriş gürültüsü eklenmesi üzerine bazı makalelerde, bildiriler kapalı form ifadeleri de vermedi.$\pi t ~\text{csch} ~\pi t$$0$

Bu soru Boltzman makinelerinde ortalama alan yaklaşımındaki hatayı anlamaya çalışırken ortaya çıktı.

Aşağıdakileri kullanarak bitirdim:

Yaz burada . Bir Taylor serisi genişletmesi kullanabiliriz.$\sigma(N(\mu,s^2)) = \sigma(\mu + X)$$X \sim N(0,s^2)$

$\sigma(\mu + X) = \sigma(\mu) + X \sigma'(\mu) + \frac{X^2}{2} \sigma''(\mu)+ ... + \frac{X^n}{n!}\sigma^{(n)}(\mu) + ...$

$\begin{eqnarray} E[\sigma(\mu + X)] & =& E[\sigma(\mu)] + E[X \sigma'(\mu)] + E[\frac{X^2}{2} \sigma''(\mu)] + ... \newline & = & \sigma(\mu) + 0 + \frac{s^2}{2}\sigma''(\mu) + 0 + \frac{3s^4}{24}\sigma^{(4)}(\mu)+ ... + \frac{s^{2k}}{2^k k!}\sigma^{(2k)}(\mu) ... \end{eqnarray}$

Yakınsama sorunları var. Lojistik fonksiyonunun olduğu bir kutbu vardır , bu nedenle , tek olur. Iraksaklık önekin yararsız olmasıyla aynı şey değildir, ancak önemli olduğunda bu seri yaklaşımı güvenilir olmayabilir .$\exp(-x) = -1$$x = k \pi i$$k$$P(|X| \gt \sqrt{\mu^2 + \pi^2})$

Yana , biz türevleri yazabilir polinomların olarak . Örneğin, ve . Katsayılar OEIS A028246 ile ilişkilidir .$\sigma'(x) = \sigma(x) (1-\sigma(x))$$\sigma(x)$$\sigma(x)$$\sigma'' = \sigma-3\sigma^2+2\sigma^3$$\sigma''' = \sigma - 7\sigma^2 + 12 \sigma^3 - 6\sigma^4$

Burada sahip olduğunuz, logit-normal (veya logistic-normal) dağılımı izleyen rastgele bir değişkendir ( wikipedia'ya bakın ), yani . Logit-normal dağılım anlarında analitik çözümler yoktur.$\mbox{logit}[x] \sim N(\mu, s^2)$

Ama elbette, bunlar sayısal entegrasyon yoluyla elde edilebilir. R kullanırsanız, ihtiyacınız olan her şeye sahip logitnorm paketi vardır. Bir örnek:

install.packages("logitnorm")
library(logitnorm)
momentsLogitnorm(mu=1, sigma=2)

Bu şu sonuçları verir:

> momentsLogitnorm(mu=1, sigma=2)
      mean        var 
0.64772644 0.08767866

Yani, size ortalama ve varyansı doğrudan verecek bir rahatlık fonksiyonu bile var.