Bağımsız Üstel Rastgele Değişkenlerin Toplamı

Bağımsız üstel rassal değişkenlerin toplamı üzerinde keskin bir konsantrasyon sonucu kanıtlayabilir miyiz, yani $X_1, \ldots X_r$ bağımsız rasgele değişkenler olsun, öyle ki $Pr(X_i < x) = 1 - e^{-x/\lambda_i}$ . Let $Z = \sum X_i$ . formunun sınırlarını kanıtlayabilir miyiz $Pr(|Z-\mu_Z|>t) < e^{-t^2/\sum (\lambda_i)^2}$ . Bu doğrudan chernoff sınırlarının varyans formunu kullanırsak ve dolayısıyla doğru olduğuna inanırsam izlerim, ancak okuduğum sınırlar sınırlılık gerektirir veya değişkenlerin sınırlılığına bağımlıdır. Birisi bana yukarıdakilerin kanıtını gösterebilir mi?

pr.probability randomness chernoff-bound

— Dırdır etmek
kaynak

sadece chernoff kanıtını takip edin: üstel rasgele değişkenlerin üstel momentini bağlamak kolaydır.

— Sasho Nikolov

Chernoff'un kanıtını tekrarlamaya çalıştım. Tüm

olduğunda daha basit durum için yaptım

λ_{i} = λ

$\lambda_i = \lambda$ . Hafif bir

koşulunda aradığım ilişki türünü bulabilirim

t < n λ

$t < n\lambda$ . Böyle bir durum doğal olarak ortaya çıkıyor mu yoksa çok iyi olmayan çözümümden mi kaynaklanıyor?

— NAg

Lemma 2.8'i buradan kontrol edin eprint.iacr.org/2010/076.pdf

— Sasho Nikolov

Evet bu mantıklı. Hatta onların lemmasının onlar üzerinde bir şartım var

olmak yeterince küçük. Tamam o zaman çözümüm doğru görünüyor. Bağlantılar ve öneri için çok teşekkürler.

t

$t$

— NAg

Pr [X_{i} < x] = e^{- λ_{i} x}

$\Pr[X_i < x] = e^{-\lambda_i x}$

x

$x$

Pr [X_{i} < x] = 1 - e^{- λ_{i} x}

$\Pr[X_i < x] = 1-e^{-\lambda_i x}$

λ_{i}^{- 2}

$\lambda_i^{-2}$

Yanıtlar:

için , rv $X_i$

p (X_{i} = x) = \frac{1}{2} λ_{i} e^{- λ_{i} | x |} .

$p(X_i = x) = \frac{1}{2} \lambda_i e^{-\lambda_i|x|}.$

Bu Laplace dağılımı veya çift üstel dağılımdır. Varyansı . CDF $\frac{2}{\lambda_i^2}$

Pr [X_{i} \leq x] = 1 - \frac{1}{2} e^{- λ_{i} x}

$\Pr[X_i \leq x] = 1 - \frac{1}{2}e^{-\lambda_i x}$ için .

x \geq 0

$x \geq 0$

Momenti üreten fonksiyonu olduğu $X_i$

E e^{u X_{i}} = \frac{1}{1 - u^{2} / λ_{i}^{2}},

$\mathbf{E}\ e^{uX_i} = \frac{1}{1 - u^2/\lambda_i^2},$ için . Bu gerçeği ve Chernoff sınırlarının ispatında standart olan üstel moment yöntemini kullanarak, ve , aşağıdaki eşitsizlik geçerlidir

| u | < λ_{i}

$|u| < \lambda_i$

X = \sum_{i} X_{i}

$X = \sum_i X_i$

σ^{2} = 2 \sum_{i} λ_{i}^{- 2}

$\sigma^2 = 2\sum_i \lambda_i^{-2}$

Pr [X > t σ] < e^{- t^{2} / 4},

$\Pr[X > t\sigma] < e^{-t^2/4},$ sürece . Bu yazının Lemma 2.8 ispatında ayrıntılı bir türev bulabilirsiniz .

t \leq 2 σ min_{i} λ_{i}

$t \leq 2\sigma \min_{i}{\lambda_i}$

— Sasho Nikolov
kaynak

Cevabınız için çok teşekkürler. Ancak benim uygulamada necessaily doğru değildir . Bununla birlikte, durumunda daha da yoğun bir konsantrasyon beklenebilir . Eğer aralığını kısıtlayan yaklaşımını kullanmazsak, ancak farklı durumunda bunun analizi yönetilemez hale gelirse böyle bir sonuç elde edebiliriz . . Bu cephede herhangi bir öneriniz var mı?

t \leq \sqrt{2} σ m i n_{i} λ_{i}

$t \leq \sqrt{2} \sigma min_i \lambda _i$

t > \sqrt{2} σ m i n_{i} λ_{i}

$t > \sqrt{2} \sigma min_i \lambda _i$

1 / (1 - x) \leq e^{c x}

$1/(1-x) \leq e^{cx}$

t

$t$

λ_{i}^{'} s

$\lambda _i 's$

— NAg

Bu olacak bazı kuvvetli el sallayarak, ama o kadar büyük değerler bekliyoruz sadece bir zaman büyük olasılıkla gerçekleşmesi olan küçük sayısı ortancasını aşançok fazla. ancak çift üstel değişkenlerin gaussianlardan daha ağır bir kuyruğu vardır ve az sayıda kişi buna sıkıca konsantre olamaz

X

$X$

X_{i}

$X_i$

| X_{i} |

$|X_i|$

— Sasho Nikolov

Elimden yukarıda yazdım belli değil anlayarak ediyorum: Ben kuyruk dışarı bu şekilde beklemek başka rv kuyruk gibi görünüyor çift üstel rv az sayıda böyle kuyruk toplamıdır olmamalı alt Gauss.

X

$X$

X^{'}

$X'$

X^{'}

$X'$

— Sasho Nikolov

Laplace dağıtımı için, Bernoulli sınırını kullanırsanız,

E e^{u \sum_{i} X_{i}} = \prod_{i} \frac{1}{1 - u^{2} / λ_{i}^{2}} \leq \frac{1}{1 - u^{2} σ^{2} / 2},

$Ee^{u\sum_i X_i} = \prod_i \frac1{1-u^2/\lambda_i^2} \le \frac1{1-u^2\sigma^2/2},$ burada . Sonra klasik Chernoff yöntemini vermek

σ^{2} = 2 \sum_{i} λ_{i}^{- 2}

$\sigma^2=2\sum_i\lambda_i^{-2}$

Pr [\sum_{i} X_{i} \geq t σ] \leq \frac{1 + \sqrt{1 + 2 t^{2}}}{2} e^{1 - \sqrt{1 + 2 t^{2}}} \leq {\begin{cases} (e t / \sqrt{2} + 1) e^{- \sqrt{2} t} \\ e^{- t^{2} / 2 + t^{4} / 8} \end{cases} .

$\Pr[\sum_i X_i \ge t\sigma]\le \tfrac{1+\sqrt{1+2t^2}}{2} e^{1-\sqrt{1+2t^2}} \le\cases{ (et/\sqrt2+1) e^{-\sqrt{2}t} \\ e^{-t^2/2 + t^4/8}} .$

Bu sınırların ve sınırsız değerleri için geçerli olduğunu unutmayın . Sağdaki sınırlar iki olası rejimi göstermektedir. Küçük değerleri için `` normal '' konsantrasyonu alırken, büyük değerleri için elde ederiz. tek bir Laplace dağıtılmış değişkeni. $t$ $\lambda_i$ $t$ $e^{-t^2/2}$ $t$ $\approx e^{-\sqrt{2}t}$

bağlı iki durum arasında enterpolasyon izin verir, ancak neredeyse tüm durumlarda tek bir büyük ya sıkıca olacağını sanıyorum veya küçük kampında. $1-\sqrt{1+2t^2}$ $t$ $t$

Üstel dağılım için aynı teknikler bize nerede . Bu nedenle Yani hala normal görünen bir şey elde edersiniz, ama umduğumuz gibi yerine ile . Varyans açısından bir sınır elde etmenin mümkün olup olmadığını bilmiyorum. üzerinde çalışmayı deneyebilirsiniz , ancak bununla çalışmak kolay görünmemektedir. $Ee^{u\sum_iX_i}\le\frac{1}{1-u\mu}$ $\mu=\sum_i 1/\lambda_i$

Pr [(\sum_{i} X_{i}) - μ \geq t μ] \leq (t + 1) e^{- t} \leq e^{- t^{2} / 2 + t^{3} / 3} .

$\Pr[(\sum_i X_i)-\mu \ge t\mu]\le (t+1) e^{-t} \le e^{-t^2/2+t^3/3}.$

t μ

$t\mu$

t σ

$t\sigma$

E e^{u (\sum X_{i} - μ)^{2}}

$Ee^{u(\sum X_i-\mu)^2}$

— Thomas Ahle
kaynak

Ayrıntıları çalışmak için zamanım yok ama bir varyans bağlı üstel olarak dağıtılmış rasgele değişkenler için bir sınır alabilirsiniz% 99,9 eminim. Moment üretme fonksiyonundaki sınırınız aşırı gevşek görünüyor.

— Warren Schudy

@Warren Schudy, yaklaşımınız ne olurdu?

— Thomas Ahle

Gördüğüm iki belirgin yaklaşım: 1. en.wikipedia.org/wiki/… 'de listelenen ikinci sınırın çalışması gerektiği gibi görünüyor. 2. Moment üreten fonksiyona bağlı bir sıkı bulun.

— Warren Schudy

@WarrenSchudy Bernstein sınırı , ancak yalnızca . Sanırım bu Sasho'nun cevabına benziyor.

Pr [\sum_{i} X_{i} \geq t σ] \leq e^{- t^{2} / 2}

$\Pr[\sum_iX_i\ge t\sigma]\le e^{-t^2/2}$

t \leq σ min_{i} λ_{i} / 2

$t\le\sigma\min_i\lambda_i/2$

— Thomas Ahle

Gauss tarzı sınırların bir noktada durması kaçınılmazdır. Üstel olarak dağılmış tek bir rastgele değişken bile eninde sonunda herhangi bir Gauss'tan daha yağlı kuyruklara sahiptir.

— Warren Schudy