Tek taraflı Chebyshev eşitsizliğinin örnek bir sürümü var mı?

Aşağıdaki tek taraflı Cantelli'nin Chebyshev eşitsizliği versiyonuyla ilgileniyorum :

P (X - E (X) \geq t) \leq \frac{V a r (X)}{V a r (X) + t^{2}} .

$\mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,.$

Temel olarak, popülasyonun ortalama ve varyansını biliyorsanız, üst sınırı belirli bir değer gözlemleme olasılığına göre hesaplayabilirsiniz. (En azından benim anlayışım buydu.)

Ancak, gerçek nüfus ortalaması ve varyansı yerine örnek ortalama ve örnek varyansını kullanmak istiyorum.

Bunun daha fazla belirsizlik getireceğinden, üst sınırın artacağını tahmin ediyorum.

Yukarıdakine benzer bir eşitsizlik var mı, ancak bu örnek ortalama ve varyansını kullanıyor mu?

Düzenleme : Chebyshev Eşitsizliğinin "tek örneği" analoğu (tek taraf değil) üzerinde çalışıldı. Vikipedi sayfası bazı detaylar vardır. Ancak, yukarıda sahip olduğum tek taraflı davaya nasıl çevrileceğinden emin değilim.

— casandra
kaynak

Sağol Glen_b. Bu oldukça ilginç bir problem. Ben her zaman Chebyshev eşitsizliğinin güçlü olduğunu düşündüm (çünkü bir olasılık dağılımı gerektirmeden istatistiksel çıkarım yapmanıza izin veriyordu); bu nedenle örnek ortalama ve varyans ile kullanabilmek oldukça müthiş olurdu.

— casandra

Yanıtlar:

Evet, örnek ortalamasını ve varyansını kullanarak benzer bir sonuç alabiliriz, belki de süreçte ortaya çıkan birkaç küçük sürprizle.

Öncelikle, soru ifadesini birazcık düzeltmeli ve birkaç varsayımda bulunmalıyız. Daha önemlisi, popülasyon varyansını sağ taraftaki numune varyansı ile değiştirmeyi ümit edemeyeceğimiz açıktır, çünkü ikincisi rastgeledir ! Bu yüzden, dikkatimizi eşdeğer eşitsizlik

P (X - E X \geq t σ) \leq \frac{1}{1 + t^{2}} .

$\mathbb P\left( X - \mathbb E X \geq t \sigma \right) \leq \frac{1}{1+t^2} \>.$ Bunların eşdeğer olduğu açık değilse, genel eşitlikte bir kayıp olmadanbasitçe

eşitliğini

t

$t$ iledeğiştirdiğimize dikkat edin.

t σ

$t \sigma$

İkincisi, rastgele bir örneğine sahip $X_1,\ldots,X_n$ olduğumuzu ve benzer miktarına yönelik bir üst sınırla ilgilendiğimizi $\mathbb P(X_1 - \bar X \geq t S)$ , burada $\bar X$ örnek ortalama ve $S$ örnek standart sapmadır.

Yarım adım ileri

Zaten orijinal tek taraflı Chebyshev eşitsizliğini $X_1 - \bar X$ , bunu

P (X_{1} - \bar{X} \geq t σ) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}}

$\mathbb P( X_1 - \bar X \geq t\sigma ) \leq \frac{1}{1 + \frac{n}{n-1}t^2}$ burada

σ^{2} = V a r (X_{1})

$\sigma^2 = \mathrm{Var}(X_1)$ , kiorijinal versiyonun sağ tarafındandaha küçük. Bu mantıklı! Bir numuneden rastgele bir değişkenin herhangi bir özel gerçekleştirilmesi, popülasyon ortalamasına göre katkıda bulunduğu numune ortalamasına (biraz) daha yakın olma eğiliminde olacaktır. Aşağıda göreceğimiz gibi, yerine alırsınız

σ

$\sigma$ tarafından

S

$S$ daha genel varsayımlar altında.

Tek taraflı Chebyshev'in örnek bir versiyonu

İddia : Let olmak gelişigüzel bir örnek, bu şekilde . Daha sonra, $X_1,\ldots,X_n$ $\mathbb P(S = 0) = 0$ Özellikle, sınırın örnek versiyonu, orijinal popülasyon versiyonundandaha sıkıdır.
$P (X_{1} - \bar{X} \geq t S) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X \geq t S) \leq \frac{1}{1 + \frac{n}{n-1} t^2}\>.$

Not : Biz do not varsayalım ya sonlu ortalama veya varyans var! $X_i$

Kanıt . Buradaki düşünce, orijinal tek taraflı Chebyshev eşitsizliğinin kanıtını uyarlamak ve süreçte simetriyi kullanmaktır. İlk önce, notasyonel rahatlık için . Daha sonra, gözlemleyin $Y_i = X_i - \bar X$

P (Y_{1} \geq t S) = \frac{1}{n} Σ_{ben = 1}^{n} P (Y_{ben} \geq t S) = E \frac{1}{n} Σ_{ben = 1}^{n} 1_{(Y_{ben} \geq t S)} .

$\mathbb P( Y_1 \geq t S ) = \frac{1}{n} \sum_{i=1}^n \mathbb P( Y_i \geq t S ) = \mathbb E \frac{1}{n} \sum_{i=1}^n \mathbf 1_{(Y_i \geq t S)} \>.$

Şimdi, herhangi ile, , $c > 0$ $\{S > 0\}$

1_{(Y_{i} \geq t S)} = 1_{(Y_{i} + t c S \geq t S (1 + c))} \leq 1_{((Y_{i} + t c S)^{2} \geq t^{2} (1 + c)^{2} S^{2})} \leq \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} .

$\newcommand{I}[1]{\mathbf{1}_{(#1)}} \I{Y_i \geq t S} = \I{Y_i + t c S \geq t S (1+c)} \leq \I{(Y_i + t c S)^2 \geq t^2 (1+c)^2 S^2} \leq \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2}\>.$

Sonra, Çünkü ve .

\frac{1}{n} \sum_{i} 1_{(Y_{i} \geq t S)} \leq \frac{1}{n} \sum_{i} \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) S^{2} + n t^{2} c^{2} S^{2}}{n t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{1}{n} \sum_i \I{Y_i \geq t S} \leq \frac{1}{n} \sum_i \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2} = \frac{(n-1)S^2 + n t^2 c^2 S^2}{n t^2 (1+c)^2 S^2} = \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>,$

\bar{Y} = 0

$\bar Y = 0$

\sum_{i} Y_{i}^{2} = (n - 1) S^{2}

$\sum_i Y_i^2 = (n-1)S^2$

Sağ taraf bir sabittir ( ! ), Bu nedenle her iki taraftan da beklentileri almak,

P (X_{1} - \bar{X} \geq t S) \leq \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}} .

$\mathbb P(X_1 - \bar X \geq t S) \leq \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>.$

c

$c$

c = \frac{n - 1}{n t^{2}}

$c = \frac{n-1}{n t^2}$

Bu sinir bozucu teknik durum

$\mathbb P(S = 0) = 0$ $S^2$ $0 = Y_i = t S = 0$ $i$ $t > 0$

$q = \mathbb P(S = 0)$

$q = \mathbb P(S = 0) > 0$
$P (X_{1} - \bar{X} \geq t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} + q .$ $\mathbb P(X_1 - \bar X \geq t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} + q \>.$

$\{S > 0\}$ $\{S = 0\}$ $\{S > 0\}$ $\{S = 0\}$

Olasılık beyanındaki belirsiz eşitsizliği katı bir versiyonla değiştirirsek, daha temiz bir eşitsizlik ortaya çıkar.

$q = \mathbb P(S = 0)$
$P (X_{1} - \bar{X} > t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X > t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} \>.$

$X$

— kardinal
kaynak

$n$ $x_i$

x_{i} - \bar{x} < s \sqrt{n - 1}, i = 1, . . . n

$x_i-\bar x < s\sqrt{n-1},\;\; i=1,...n$ where

s

$s$ is calculated without the bias correction,

s = {(\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2})}^{1 / 2}

$s= \left (\frac 1n\sum_{i=1}^n(x_i-\bar x)^2\right)^{1/2}$ .

Then, using the notation of Cardinal's answer we can state that

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) = 0 a . s . [1]

$\mathbb P\left(X_1-\bar X \ge S\sqrt{n-1}\right) =0 \;\;a.s. \qquad [1]$

Since we require, three distinct values, we will have $S\neq 0$ by assumption. So setting $t=\sqrt{n-1}$ in Cardinal's Inequality (the initial version) we obtain

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) \leq \frac{1}{1 + n}, [2]

$\mathbb P\left (X_1 - \bar X \geq S\sqrt{n-1}\right) \leq \frac{1}{1 + n}, \;\; \qquad [2]$

Eq. $[2]$ is of course compatible with eq. $[1]$ . The combination of the two tells us that Cardinal's Inequality is useful as a probabilistic statement for $0< t < \sqrt{n-1}$ .

If Cardinal's Inequality requires $S$ to be calculated bias-corrected (call this $\tilde S$ ) then the equations become

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) = 0 a . s . [1 a]

$\mathbb P\left(X_1-\bar X \ge \tilde S\frac{n-1}{\sqrt{n}}\right) =0 \;\;a.s. \qquad [1a]$

and we choose $t= \frac{n-1}{\sqrt{n}}$ to obtain through Cardinal's Inequality

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) \leq \frac{1}{n}, [2 a]

$\mathbb P\left (X_1 - \bar X \geq \tilde S\frac{n-1}{\sqrt{n}}\right) \leq \frac{1}{ n}, \;\; \qquad [2a]$ and the probabilistically meaningful interval for

t

$t$ is

0 < t < \frac{n - 1}{\sqrt{n}} .

$0< t < \frac{n-1}{\sqrt{n}}.$

— Alecos Papadopoulos
kaynak

(+1) Incidentally, as I was first considering this problem, the fact that

max_{i} | X_{i} - \bar{X} | \leq S \sqrt{n - 1}

$\max_i |X_i - \bar X| \leq S\sqrt{n-1}$ was actually the initial clue that the sample inequality should be tighter than the original. I wanted to squeeze that into my post, but couldn't find a (comfortable) place for it. I'm glad to see you mention it (actually a very slight improvement on it) here along with your very nice additional elaboration. Cheers.

— cardinal

Cheers @Cardinal, büyük cevap - benim için açıklığa kavuşturur - Eşitsizliğiniz için bir örnek varyansı nasıl tanımladığı (önyargı düzeltilmiş veya değil) ne kadar önemli?

— Alecos Papadopoulos,

Only ever so slightly. I used the bias-corrected sample variance. If you use

n

$n$ instead of

n - 1

$n-1$ to normalize, then you'll end up with

\frac{1 + t^{2} c^{2}}{t^{2} (1 + c)^{2}}

$\frac{1+t^2c^2}{t^2(1+c)^2}$ instead of

\frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{(n-1) + n t^2c^2}{nt^2(1+c)^2} \,,$ which means the

n / (n - 1)

$n/(n-1)$ term in the final inequality will disappear. Thus, you'll get the same bound as in the original one-sided Chebyshev inequality in that case. (Assuming I've done the algebra correctly.) :-)

— cardinal

@Cardinal ... demek ki cevabımdaki ilgili denklemler

1 a

$1a$ ve

2 a

$2a$ Bu, eşitsizliğinizin bize

t

$t$ İncelemekte olduğumuz etkinliğin olasılığı olan Samuelson Eşitsizliğini aktive etmek için seçildi

1 / n

$1/n$ yani, numuneden herhangi bir fark edilen değeri rastgele seçmekten daha büyük değil ... ki bu da bir şekilde tehlikeli sezgisel bir anlam ifade eder: olasılıksal olarak yaklaştığında, olasılıkla sınırlandırıldığında eşitlik kabiliyetini geçmediği için deterministik terimlerle kesinlikle imkânsız olduğu kanıtlanmıştır. Aklımdan henüz.

— Alecos Papadopoulos