Anı üreten fonksiyona bağlı

17

Bu soru , moment üreten işlevlere (MGF) bağlılık hakkında burada sorulan sorudan kaynaklanmaktadır .

içindeki değerleri alan sınırlı sıfır ortalama rastgele değişken olduğunu varsayalım ve nin MGF'si olmasına izin verin . Bir kaynaktan Hoeffding eşitsizliği bir kanıtı olarak kullanılan sınırın , elimizde sağ yan MGF olarak tanınabilir standart sapma ile sıfır-ortalama normal rastgele değişkenin değeri . Şimdi, standart sapması daha büyük olamaz ; , $X$ $[-\sigma, \sigma]$ $G(t) = E[e^{tX}]$

G (t) = E [e^{t X}] \leq e^{σ^{2} t^{2} / 2}

$G(t) = E[e^{tX}] \leq e^{\sigma^2t^2/2}$

σ

$\sigma$

X

$X$

σ

$\sigma$

X

$X$

P {X = σ} = P {X = - σ} = \frac{1}{2}

$P\{X = \sigma\} = P\{X = -\sigma\} = \frac{1}{2}$ . Dolayısıyla, atıfta bulunulan bağın, sıfır ortalama sınırlı rastgele değişken MGF'sinin yukarıda, standart sapması yapabileceği maksimum olası standart sapmaya eşit olduğu sıfır ortalama normal rastgele değişkenin MGF'si ile sınırlandırıldığı söylenebilir. Sahip olmak.

X

$X$

X

$X$

Benim sorum şudur: Bu, Hoeffding Eşitsizliğinin kanıtından başka yerlerde kullanılan bağımsız ilginin iyi bilinen bir sonucudur ve eğer öyleyse, sıfır olmayan yollarla rastgele değişkenlere de yayıldığı biliniyor mu?

Bu soru, ister bu sonuç, asimetrik aralığı sağlar için ile ancak ısrar etmez . Sınırdır , ile sınırlı değerler içeren rastgele bir değişken için mümkün olan maksimum standart sapmadır , ancak bu maksimum değer, olmadığı sürece sıfır-ortalama rastgele değişkenler tarafından elde edilemez . $[a,b]$ $X$ $a < 0 < b$ $E[X] = 0$

G (t) \leq e^{t^{2} (b - a)^{2} / 8} = e^{t^{2} σ_{m a x}^{2} / 2}

$G(t) \leq e^{t^2(b-a)^2/8} = e^{t^2\sigma_{max}^2/2}$

σ_{max} = (b - a) / 2

$\sigma_{\max} = (b-a)/2$

[a, b]

$[a,b]$

b = - a

$b = -a$

probability probability-inequalities mgf

— Dilip Sarwate
kaynak

6

Teklif ettiğiniz gibi mgf üzerindeki sınırları sağlayan rastgele değişkenlere subgaussian rastgele değişkenler denir . Bunlar asimptotik olmayan rastgele matris teorisinde ve sıkıştırılmış algılamada bazı ilişkili sonuçlarda merkezi bir rol oynarlar. Örneğin, yanıtında linke bakınız burada . (Bu açıkça sizin sorunuzla ilgili değildir; ancak, ilgili bir nitelik taşımaktadır.)

— Kardinal

@cardinal, bu ilginç çünkü bazen sadece sınırlı rastgele değişkenlere uygulanan sınırlar görüyorum ve insanlar rastgele bir değişkeni sınırlı ve sınırsız bölümlere ayırarak bir şeyler kanıtlayacak kadar faydalılar; ve bana tüm sınırlı rasgele değişkenlerin subgaussian olduğunu söylüyorsunuz, bu yüzden sınırlı rasgele değişkenler için gördüğüm eşitsizliklerin kaçının subgauss rasgele değişkenlere genellemeleri olduğunu merak ediyorum.

— user54038

5

Sorunuzun ilk bölümünü yanıtlayamıyorum, ancak rastgele olmayan değişkenlerle rastgele değişkenlere genişletmek için ...

İlk olarak, bir rv bu not sonlu aralığı ve (zorunlu olarak sonlu) ortalama bir RV transforme edilebilir , tabii ki, aralık sıfır ortalama (böylece problem beyanınızdaki koşulları karşılar). Dönüştürülen varyant mgf ( temel özelliklerine göre) Her iki tarafı da ile çarpma ve uygulama eşitsizlik verir: $Z$ $[a+\mu,b+\mu]$ $\mu$ $X = Z-\mu$ $[a,b]$ $\phi_X(t) = \exp\{-\mu t\}\phi_Z(t)$ $\exp\{\mu t\}$

$\phi_Z(t) = \exp\{\mu t\}\phi_X(t) \leq \exp\{\mu t\}\exp\{t^2\sigma^2_\text{max}/2\} = \exp\{\mu t + t^2\sigma^2_\text{max}/2\}$

Şaşırtıcı olmayan bir şekilde, aynı ortalamaya ve standart sapmaya eşit Normal bir değişkenin . $\sigma_\text{max}$

— jbowman
kaynak

3

Yana Jensen eşitsizlikle dışbükey fonksiyonu olduğu için, var $e^{ t x}$

e^{t X} \leq \frac{σ + X}{2 σ} e^{- t σ} + \frac{σ - X}{2 σ} e^{t σ}

$e^{t X} \le \frac{\sigma+X}{2\sigma}e^{-t\sigma}+ \frac{\sigma-X}{2\sigma}e^{t\sigma}$

Eşitsizliğin her iki tarafının beklentilerini dikkate alarak burada için sıfır ortalama varsayımını kullandık . olduğunu kanıtlıyor . (Sonra, yerine ulaşırız .)

E [e^{t X}] \leq \frac{1}{2} e^{- t σ} + \frac{1}{2} e^{t σ}

$E[ e^{t X}] \le \frac{1}{2}e^{-t\sigma} + \frac{1}{2}e^{t\sigma}$

X

$X$

\frac{1}{2} (e^{y} + e^{- y}) \leq e^{y^{2} / 2}

$\frac{1}{2}(e^y+e^{-y})\le e^{y^2/2}$

y = t σ

$y=t\sigma$

E [e^{t X}] \leq e^{t^{2} σ^{2} / 2}

$E[ e^{t X}] \le e^{t^2\sigma^2/2}$

İşte .

e^{y} + e^{- y} \leq 2 e^{y^{2} / 2} for y \in R (1)

$\quad \quad e^y+e^{-y}\le 2 e^{y^2/2} \quad \quad \text{for }y \in \mathbb{R} \quad (1)$

Taylor serisi açılımı ile Elimizdeki bu yana 1(bu indüksiyon veya k üzerindeki Stirling sınırları ile gösterilebilir!). $e^y$

e^{y} + e^{- y} = \sum_{n = 0}^{\infty} \frac{y^{n}}{n!} + \sum_{n = 0}^{\infty} \frac{(- 1)^{n} y^{n}}{n!} = 2 \sum_{k = 0}^{\infty} \frac{y^{2 k}}{(2 k)!}

$e^y + e^{-y} = \sum_{n=0}^{\infty} \frac{y^n}{n!} + \sum_{n=0}^{\infty} \frac{(-1)^ny^n}{n!} =2\sum_{k=0}^{\infty} \frac{y^{2k}}{(2k)!}$

2 e^{y^{2} / 2} = 2 \sum_{k = 0}^{\infty} \frac{y^{2 k}}{2^{k} k!}

$2e^{y^2/2} = 2\sum_{k=0}^{\infty} \frac{y^{2k}}{2^k k!}$

(2 k)! \geq 2^{k} k!

$(2k)! \ge 2^k k!$

س

— sattar
kaynak

CV'ye hoş geldiniz. Ne zaman sınırlandırmaktadır işaretleme dolar işaretleriyle o güzel hale getirilir. Onları senin için yerleştirdim. İlk eşitsizliğinizin Jensen'in eşitsizliğinin bir uygulaması olduğu belli değil: daha açık bir şekilde göstermeyi düşünür müsünüz?

T E X

$\TeX$ $

— whuber

+1: güzel argüman.

— whuber