Olasılık eşitsizlikleri

Sınırsız rasgele değişkenlerin toplamı için bazı olasılık eşitsizlikleri arıyorum. Biri bana bazı düşünceler verebilir eğer gerçekten çok sevinirim.

Benim sorunum gerçekte iki iri Gaussian'ın çarpımı olan sınırsız iid rasgele değişkenlerinin toplamının bazı belirli bir değeri aşması olasılığı üzerine üssel bir üst bulmaktır, yani, , ki burada , ve , dan üretilir . $\mathrm{Pr}[ X \geq \epsilon\sigma^2 N] \leq \exp(?)$ $X = \sum_{i=1}^{N} w_iv_i$ $w_i$ $v_i$ $\mathcal{N}(0, \sigma)$

Chernoff sınırını moment oluşturma fonksiyonunu (MGF) kullanarak kullanmaya çalıştım, türetilen sınır aşağıdakileri veriyor:

$\begin{eqnarray} \mathrm{Pr}[ X \geq \epsilon\sigma^2 N] &\leq& \min\limits_s \exp(-s\epsilon\sigma^2 N)g_X(s) \\ &=& \exp\left(-\frac{N}{2}\left(\sqrt{1+4\epsilon^2} -1 + \log(\sqrt{1+4\epsilon^2}-1) - \log(2\epsilon^2)\right)\right) \end{eqnarray}$

burada $g_X(s) = \left(\frac{1}{1-\sigma^4 s^2}\right)^{\frac{N}{2}}$ ait MGF olan $X$ . Ancak sınır çok sıkı değil. Benim sorunumdaki asıl mesele rastgele değişkenlerin sınırsız olmasıdır ve ne yazık ki Hoeffding eşitsizliği sınırını kullanamıyorum.

Üstel bir sıkı üstel sınır bulmama yardım edersen mutlu olurum.

— Farzad
kaynak

Sıkıştırma-algılama ile ilgili bir problem gibi görünüyor. R. Vershynin'in asimptotik olmayan rastgele matris teorisi üzerine yazdığı notlar, özellikle de subexponential rastgele değişkenler dediği şeyin sınırları . Bu seni başlatacak. Daha fazla işaretçiye ihtiyacınız olursa, bize bildirin; ben de daha fazla bilgi göndermeye çalışacağım.

— kardinal

Matematikle ilgili en az birkaç soru ve cevap var. SEE (feragatname: Katıldığım dahil).

— kardinal

Ürün

w_{i} v_{i}

$w_i v_i$ 'normal bir ürün' dağılımı vardır. Bu ürünün ortalamasının sıfır olduğuna ve varyansının

olduğuna inanıyorum;

σ^{4}

$\sigma^4$ burada

σ^{2}

$\sigma^2$ ,

w_{i}

$w_i$ ve

varyansıdır

v_{i}

$v_i$ . İçin

N

$N$ largeish, sen yaklaşık norality almak için merkezi limit teoremi kullanabilirsiniz

X

$X$ . Normal ürün dağılımının çarpıklığını hesaplayabilirseniz, CDF'nin yakınsama hızını sınırlamak için Berry-Esseen teoremini uygulayabileceğinize inanıyorum.

— shabbychef

@ shabbychef, Berry-Esseen yakınsaklık oranına sahiptir, çünkü tüm dağıtım fonksiyonlarının sınıfı üzerinde eşit bir şekilde bağlanır .

F

$F$

— kardinal

@DilipSarwate: Üzgünüm, şu anda yorumunuzu bir süre önce görüyorum. Sanırım birkaç kez matematiğe bağladığım şu küçük kağıtla ilgileniyor olabilirsiniz. SE de: TK Phillips ve R. Nelson (1995), Bağlı olan an Chernoff'un pozitif kuyruğuna bağlı olduğundan daha sıkı olasılıklar , Amerikan İstatistiği , cilt 42, no. 2,170-178.

— kardinal

Yanıtlar:

Chernoff sınırını kullanarak, daha sonra belirtilecek bazı için önerdiğiniz , burada ikinci eşitsizlik Herhangi bir . Şimdi ve , sağ taraf verir herhangi . $s\le 1/(2\sigma^2)$

P [X > t] \leq \exp (- s t) \exp (- (N / 2) \log (1 - σ^{4} s^{2})) \leq \exp (- s t + σ^{4} s^{2} N)

$P[X>t] \le \exp(-st) \exp\Big(-(N/2) \log(1-\sigma^4s^2) \Big) \le \exp(-st + \sigma^4s^2 N)$

- \log (1 - x) \leq 2 x

$-\log(1-x)\le 2x$

x \in (0, 1 / 2)

$x\in(0,1/2)$

t = ϵ σ^{2} N

$t=\epsilon \sigma^2 N$

s = t / (2 σ^{4} N)

$s=t/(2\sigma^4N)$

\exp (- t^{2} / (4 σ^{4} N) = \exp (- ϵ^{2} N / 4)

$\exp(-t^2/(4\sigma^4N)=\exp(-\epsilon^2 N/4)$

P [X > ϵ σ^{2} N] \leq \exp (- ϵ^{2} N / 4) .

$P[X>\epsilon \sigma^2 N] \le \exp(-\epsilon^2 N/4).$

ϵ \in (0, 1)

$\epsilon\in(0,1)$

Bir başka cadde, Hanson-Wright eşitsizliği gibi konsantrasyon eşitsizliklerini veya ilgilendiğiniz rastgele değişkeni kapsayan 2. dereceden Gauss kaosuna yönelik konsantrasyon eşitsizliklerini doğrudan uygulamaktır.

Moment oluşturma fonksiyonunu kullanmadan daha basit yaklaşım

Basitlik için alın (aksi halde biri bölünerek yeniden ölçeklenebilir ). $\sigma=1$ $\sigma^2$

Yaz ve . üzerinde üst sınırlar istiyorsunuz . $v=(v_1,...,v_n)^T$ $w=(w_1,...,w_n)^T$ $P(v^Tw>\epsilon N)$

Let. Daha sonra, , ve bağımsızlığı ile, serbestlik dereceli dağılımı ile bağımsızdır . $Z= w^T v/\|v\|$ $Z\sim N(0,1)$ $v,w$ $\|v\|^2$ $Z$ $\chi^2$ $n$

Standart normal ve rasgele değişkenleri standart sınırlarına göre , Sendika bağıyla birleştirmek, biçimindeki üzerinde bir üst sınır verir. . $\chi^2$

P (| Z | > ϵ \sqrt{n / 2}) \leq 2 \exp (- ϵ^{2} n / 4), P (‖ v ‖ > \sqrt{2 n}) \leq \exp (- n (\sqrt{2} - 1)^{2} / 2) .

$P(|Z|>\epsilon\sqrt{n/2})\le 2\exp(-\epsilon^2 n/4), \qquad\qquad P(\|v\|>\sqrt{2n}) \le \exp(-n(\sqrt 2 -1)^2/2).$

P (v^{T} w > ϵ N)

$P(v^Tw>\epsilon N)$

2 \exp (- ϵ^{2} n / 4) + \exp (- n (\sqrt{2} - 1)^{2} / 2)

$2\exp(-\epsilon^2 n/4) + \exp(-n(\sqrt 2 -1)^2/2)$

— jlewk
kaynak

Eğer elde bağlı sipariş ait olarak . General için daha iyisini yapabileceğini sanmıyorum . Gönderen Ürün Değişkenler Wikipedia sayfası dağılımı olan değiştirilmiş Bessel fonksiyonudur. Kaynaktan içinde (10.25.3) DLMF fonksiyonu listesi , böylece için yeterince büyük , size bir Gauss alt sınırı vermeyecek. $e^{-\epsilon}$ $\epsilon \to \infty$ $\epsilon$ $w_i v_i$ $K_0(z)/\pi$ $K_0$ $K_0(t) \sim e^{-t}/\sqrt{t}$ $x$ $\mathbb{P}(w_i v_i > x) \sim \int_x^\infty e^{-t}/\sqrt{t} dt$

— BookYourLuck
kaynak