Sınırlı rasgele değişkenin varyansı

22

Rasgele bir değişkenin daha düşük ve daha üst sınıra sahip olduğunu varsayalım [0,1]. Böyle bir değişkenin varyansı nasıl hesaplanır?

variance standard-deviation measurement-error

— Piotr
kaynak

8

Sınırsız bir değişken - ayar entegrasyonu veya toplama limitleri için de aynı şekilde.

— Scortchi - Monica'yı yeniden yerleştir

2

@Scortchi'nin dediği gibi. Ama neden farklı olabileceğini düşündüğünü merak ediyorum?

— Peter Flom - Monica'yı yeniden yerleştir

3

Değişken hakkında bir şey bilmiyorsanız (bu durumda, varyans üzerindeki bir üst sınır sınırların varlığından hesaplanabilir), neden sınırlanmış olduğu gerçeği hesaplamada ortaya çıksın?

— Glen_b

6

Yararlı bir üst değerler alır rastgele değişkenin varyans bağlanan olasılığı ile olduğu ve değerler alan bir ayrık rastgele değişken ile elde edilir ve , eşit olasılıkla . Akılda tutulması gereken bir başka nokta varyansın var olacağının garantili olmasıdır; buna karşın sınırlandırılmamış rastgele bir değişkenin varyansı olmayabilir (bazıları, Cauchy rasgele değişkenleri gibi bir anlamı bile yoktur).

[a, b]

$[a,b]$

1

$1$

(b - a)^{2} / 4

$(b-a)^2/4$

a

$a$

b

$b$

\frac{1}{2}

$\frac{1}{2}$

— Dilip Sarwate

7

Orada ise olan varyans eşit bir ayrık rasgele değişken : tam değerler alır rastgele değişken ve , eşit olasılıkla . Dolayısıyla, en azından varyans üzerindeki evrensel bir üst sınırın den daha küçük olamayacağını biliyoruz .

\frac{(b - a)^{2}}{4}

$\frac{(b-a)^2}{4}$

a

$a$

b

$b$

\frac{1}{2}

$\frac{1}{2}$

\frac{(b - a)^{2}}{4}

$\frac{(b-a)^2}{4}$

— Dilip Sarwate 21.03.2013

46

Popoviciu'nun eşitsizliğini aşağıdaki gibi ispatlayabilirsiniz. gösterimini ve gösterimini kullanın . Bir fonksiyon tanımlama ile Türev Bilgisayar ve çözme o bulmak onun en az elde ( ) olduğuna dikkat edin . $m=\inf X$ $M=\sup X$ $g$

g (t) = E [{(X - t)}^{2}] .

$g(t)=\mathbb{E}\left[\left(X-t\right)^2\right] \, .$

g^{'}

$g'$

g^{'} (t) = - 2 E [X] + 2 t = 0,

$g'(t) = -2\mathbb{E}[X] +2t=0 \, ,$

g

$g$

t = E [X]

$t=\mathbb{E}[X]$

g^{″} > 0

$g''>0$

Şimdi, fonksiyonunun değerini özel noktasından düşünün . Bu durumda olmalıdır Fakat Yana ve , elimizdeki ima bu $g$ $t=\frac{M+m}{2}$

V a r [X] = g (E [X]) \leq g (\frac{M + m}{2}) .

$\mathbb{Var}[X]=g(\mathbb{E}[X])\leq g\left(\frac{M+m}{2}\right) \, .$

g (\frac{M + m}{2}) = E [{(X - \frac{M + m}{2})}^{2}] = \frac{1}{4} E [{((X - m) + (X - M))}^{2}] .

$g\left(\frac{M+m}{2}\right) = \mathbb{E}\left[\left(X - \frac{M+m}{2}\right)^2 \right] = \frac{1}{4}\mathbb{E}\left[\left((X-m) + (X-M)\right)^2 \right] \, .$

X - m \geq 0

$X-m\geq 0$

X - M \leq 0

$X-M\leq 0$

{((X - m) + (X - M))}^{2} \leq {((X - m) - (X - M))}^{2} = {(M - m)}^{2},

$\left((X-m)+(X-M)\right)^2\leq\left((X-m)-(X-M)\right)^2=\left(M-m\right)^2 \, ,$

\frac{1}{4} E [{((X - m) + (X - M))}^{2}] \leq \frac{1}{4} E [{((X - m) - (X - M))}^{2}] = \frac{(M - m)^{2}}{4} .

$\frac{1}{4}\mathbb{E}\left[\left((X-m) + (X-M)\right)^2 \right] \leq \frac{1}{4}\mathbb{E}\left[\left((X-m) - (X-M)\right)^2 \right] = \frac{(M-m)^2}{4} \, .$

Bu nedenle, Popoviciu'nun eşitsizliğini ispatladık

V a r [X] \leq \frac{(M - m)^{2}}{4} .

$\mathbb{Var}[X]\leq \frac{(M-m)^2}{4} \, .$

— Zen
kaynak

3

Güzel yaklaşım: bu tür şeylerin titiz gösterilerini görmek güzel.

— whuber

22

+1 Güzel! Bilgisayarlar modaya girmeden çok önce istatistikler öğrenmiştim ve bize açılan bir fikir , herhangi bir uygun nokta sapmaların karelerinin toplamını bularak varyans hesaplanması için izin önyargı ayarlama ve daha sonra. Elbette, bu kimlik, nin türevlere gerek kalmadan minimum değere sahip olduğu sonucunun basit bir kanıtını verir .

E [(X - t)^{2}] = E [((X - μ) - (t - μ))^{2}] = E [(X - μ)^{2}] + (t - μ)^{2}

$E[(X-t)^2] = E[((X-\mu)-(t-\mu))^2] = E[(X-\mu)^2]+(t-\mu)^2$

t

$t$

g (t)

$g(t)$

t = μ

$t=\mu$

— Dilip Sarwate

18

üzerinde bir dağıtım olsun . Biz varyansı eğer gösterecektir maksimal, sonra olabilir hayır o izler hangi iç destek, Bernoulli ve gerisi önemsiz olduğunu. $F$ $[0,1]$ $F$ $F$ $F$

Gösterim ki, let olmak ham andan inci zamanki gibi şunu yazabiliriz (ve, ve varyans için ). $\mu_k = \int_0^1 x^k dF(x)$ $k$ $F$ $\mu = \mu_1$ $\sigma^2 = \mu_2 - \mu^2$

tüm desteğinin bir noktada olmadığını biliyoruz (varyans bu durumda minimumdur ). Diğer şeylerin yanı sıra, bu ima kesinlikle arasındaki Yalan ve . Çelişki ile tartışmak için, iç kısmında olan ölçülebilir bir alt küme olduğunu varsayalım . Herhangi bir genel bozmadan (değiştirerek varsayabiliriz için olduğu olması) diğer bir deyişle,: bir keserek elde edilen parçası , ortalama ve yukarıda $F$ $\mu$ $0$ $1$ $I$ $(0,1)$ $F(I)\gt 0$ $X$ $1-X$ $F(J = I \cap (0, \mu]) \gt 0$ $J$ $I$ $J$ Olumlu olasılık var.

Bize değiştirme olsun için dışında tüm olasılık alarak ve en yerleştirerek . $F$ $F'$ $J$ $0$ Bunu yaparken değişir. $\mu_k$

μ_{k}^{'} = μ_{k} - \int_{J} x^{k} d F (x) .

$\mu'_k = \mu_k - \int_J x^k dF(x).$

Notasyon olarak, bu tür integraller için $[g(x)] = \int_J g(x) dF(x)$

μ_{2}^{'} = μ_{2} - [x^{2}], μ^{'} = μ - [x] .

$\mu'_2 = \mu_2 - [x^2], \quad \mu' = \mu - [x].$

Hesaplamak

σ^{' 2} = μ_{2}^{'} - μ^{' 2} = μ_{2} - [x^{2}] - (μ - [x])^{2} = σ^{2} + ((μ [x] - [x^{2}]) + (μ [x] - [x]^{2})) .

$\sigma'^2 = \mu'_2 - \mu'^2 = \mu_2 - [x^2] - (\mu - [x])^2 = \sigma^2 + \left((\mu[x] - [x^2]) + (\mu[x] - [x]^2)\right).$

Sağdaki ikinci terim negatif değildir çünkü her yerinde . Sağdaki ilk terim yeniden yazılabilir $(\mu[x] - [x]^2)$ $\mu \ge x$ $J$

μ [x] - [x^{2}] = μ (1 - [1]) + ([μ] [x] - [x^{2}]) .

$\mu[x] - [x^2] = \mu(1 - [1]) + ([\mu][x] - [x^2]).$

Sağdaki ilk terim kesinlikle olumludur çünkü (a) ve (b) çünkü bir noktada konsantre olmadığını varsayıyoruz . Bu şekilde yeniden olabilir, çünkü ikinci terim, negatif olmayan bir ve bu integrali varsayımlardan negatif olmayan bir üzerinde ve . izler . $\mu \gt 0$ $[1] = F(J) \lt 1$ $F$ $[(\mu-x)(x)]$ $\mu \ge x$ $J$ $0 \le x \le 1$ $\sigma'^2 - \sigma^2 \gt 0$

Az önce varsayımlarımız altında, ye değiştirmenin varyansını kesinlikle arttırdığını gösterdik. Bunun olmasının tek yolu, nin tüm olasılıklarının sırasıyla ve uç noktalarında yoğunlaşmasıdır ( sırasıyla ) ( ) ve sırasıyla değerleri . Varyansı, olduğunda maksimum olan ve orada 4'e eşit olan eşit şekilde kolayca hesaplanır . $F$ $F'$ $F'$ $0$ $1$ $1-p$ $p$ $p(1-p)$ $p=1/2$ $1/4$

Şimdi, daki bir dağıtım olduğunda , yeniden alıp üzerindeki bir dağıtıma yeniden ölçeklendiririz . Yeniden başlatma, varyansı değiştirmez, oysa yeniden ölçeklendirme onu böler . Bu nedenle , de maksimum varyansa sahip bir , maksimum varyansa sahip dağılıma karşılık gelir : bu nedenle, varyansa sahip ye dönüştürülen ve ye çevrilen bir Bernoulli dağılımıdır. 2/4 , QED . $F$ $[a,b]$ $[0,1]$ $(b-a)^2$ $F$ $[a,b]$ $[0,1]$ $(1/2)$ $[a,b]$ $(b-a)^2/4$

— whuber
kaynak

İlginç, whuber. Bu kanıtı bilmiyordum.

— Zen,

6

@Zen Sizinki kadar zarif değil. Bunu teklif ettim çünkü kendimi yıllar içinde çok daha karmaşık eşitsizliklerle karşı karşıya kaldığımda bu şekilde düşünerek buldum: Eşitsizliği daha da aşırı kılmak için olasılığın nasıl değiştirilebileceğini soruyorum. Sezgisel bir sezgisel buluşsal olarak faydalıdır. Burada ortaya konan yaklaşımları kullanarak, bu tür eşitsizliklerin geniş bir sınıfını ispatlamak için genel bir teorinin, bir Varyasyonlar Analizinin bir çeşit melez tadı ve (sonlu boyutlu) Lagrange çarpan teknikleriyle elde edilebileceğinden şüpheleniyorum.

— whuber

Mükemmel: Cevabınız önemlidir, çünkü diğer birçok vakanın üstesinden gelebilecek daha genel bir teknik tarif eder.

— Zen,

@ whuber - “Eşitsizliği daha aşırı hale getirmek için olasılığın nasıl değiştirilebileceğini soruyorum.” dedi. - Bu, bu tür sorunlar hakkında düşünmenin doğal bir yolu gibi görünüyor.

— Glen_b -Reinstate Monica

Derivasyonda birkaç hata olduğu görülüyor. Bu olmalıdırAyrıca, , eşit değildir, çünkü , aynı değildir

μ [x] - [x^{2}] = μ (1 - [1]) [x] + ([μ] [x] - [x^{2}]) .

$\mu[x] - [x^2] = \mu(1 - [1])[x] + ([\mu][x] - [x^2]).$

[(μ - x) (x)]

$[(\mu-x)(x)]$

[μ] [x] - [x^{2}]

$[\mu][x] - [x^2]$

[μ] [x]

$[\mu][x]$

μ [x]

$\mu[x]$

— Leo

13

Eğer rastgele değişken ile sınırlandırılmışsa ve ortalama biliyorsak , varyans ile sınırlandırılmıştır . $[a,b]$ $\mu=E[X]$ $(b-\mu)(\mu-a)$

İlk önce durumunu ele alalım . tüm için , , bundan sonra da . Bu sonucu kullanarak, $a=0, b=1$ $x\in [0,1]$ $x^2\leq x$ $E[X^2]\leq E[X]$

σ^{2} = E [X^{2}] - (E [X]^{2}) = E [X^{2}] - μ^{2} \leq μ - μ^{2} = μ (1 - μ) .

$\begin{equation} \sigma^2 = E[X^2] - (E[X]^2) = E[X^2] - \mu^2 \leq \mu - \mu^2 = \mu(1-\mu). \end{equation}$

Aralıklarına genelleme için ile düşünün ile sınırlı . de sınırlanan tanımlayın . Eşdeğer olarak, , ve böylece burada eşitsizlik ilk sonuca dayanır. Şimdi, , sınır ki istenen sonuç. $[a,b]$ $b>a$ $Y$ $[a,b]$ $X=\frac{Y-a}{b-a}$ $[0,1]$ $Y = (b-a)X + a$

V a r [Y] = (b - a)^{2} V a r [X] \leq (b - a)^{2} μ_{X} (1 - μ_{X}) .

$\begin{equation} Var[Y] = (b-a)^2Var[X] \leq (b-a)^2\mu_X (1-\mu_X). \end{equation}$

μ_{X} = \frac{μ_{Y} - a}{b - a}

$\mu_X = \frac{\mu_Y - a}{b-a}$

(b - a)^{2} \frac{μ_{Y} - a}{b - a} (1 - \frac{μ_{Y} - a}{b - a}) = (b - a)^{2} \frac{μ_{Y} - a}{b - a} \frac{b - μ_{Y}}{b - a} = (μ_{Y} - a) (b - μ_{Y}),

$\begin{equation} (b-a)^2\, \frac{\mu_Y - a}{b-a}\,\left(1- \frac{\mu_Y - a}{b-a}\right) = (b-a)^2 \frac{\mu_Y -a}{b-a}\,\frac{b - \mu_Y}{b-a} = (\mu_Y - a)(b- \mu_Y), \end{equation}$

— Juho Kokkala
kaynak

8

@ User603'ün isteği üzerine ....

Yararlı bir üst varyans bağlı değerleri alır rastgele değişkenin olasılıkla olan . Özel durum için bir kanıt (OP'nin sorduğu şey) burada matematikte bulunabilir . SEE ve kolaylıkla daha genel duruma uyarlanabilir. Ve aynı zamanda yanıt olarak, burada referans olarak yukarıda benim yorum belirtildiği gibi, değerleri alan bir ayrık rastgele değişken ve , eşit olasılıkla sahip varyans ve dolayısıyla daha sıkı bir genel sınır bulunamamıştır. $\sigma^2$ $[a,b]$ $1$ $\sigma^2 \leq \frac{(b−a)^2}{4}$ $a=0, b=1$ $a$ $b$ $\frac{1}{2}$ $\frac{(b−a)^2}{4}$

Akılda tutulması gereken bir başka nokta, sınırlandırılmış bir rastgele değişkenin sonlu varyansa sahip olmasıdır, oysa sınırlandırılmamış bir rasgele değişken için varyans sonlu olmayabilir ve bazı durumlarda tanımlanamayabilir. Örneğin, ortalama Cauchy rasgele değişkenleri için tanımlanamaz ve bu nedenle kişi varyansı tanımlayamaz (ortalamadan kare sapma beklentisi olarak).

— Dilip Sarwate
kaynak

Bu, @ Juho'nun cevabının özel bir hali

— Aksakal

Bu sadece bir yorumdu, ancak bu cevabın sorulan soruyu cevaplamadığını da ekleyebilirim.

— Aksakal

@Aksakal So ??? Juho biraz farklı ve çok daha yakın zamanda sorulan bir soruya cevap veriyordu . Bu yeni soru, on ay önce yanıtladığım, yukarıda gördüğünüz soruyla birleştirildi.

— Dilip Sarwate

0

Bunun genel olarak doğru olduğundan emin misiniz - sürekli ve ayrık dağılımlar için? Diğer sayfalara bir link verebilir misiniz? daki genel bir dağıtım için olduğunu göstermek önemsizdir Keskin eşitsizliklerin var olduğunu hayal edebiliyorum ... Sonuçlarınız için faktöre ihtiyacınız var mı? $[a,b]$

V a r (X) = E [(X - E [X])^{2}] \leq E [(b - a)^{2}] = (b - a)^{2} .

$Var(X) = E[(X-E[X])^2] \le E[(b-a)^2] = (b-a)^2.$

1 / 4

$1/4$

Diğer yandan , popoviciu's_inquality wikipedia'daki adı altında faktörüyle bulabilirsiniz . $1/4$

Bu makale wikipedia makalesinden daha iyi görünüyor ...

Düzgün bir dağılım için

V a r (X) = \frac{(b - a)^{2}}{12} .

$Var(X) = \frac{(b-a)^2}{12}.$

— Ric
kaynak

Bu sayfa, “Doğrusal Programlamanın Temel Teoreminin” anlaşılmasını gerektirdiği için benim için biraz fazla karışan bir kanıtın başlangıcıyla sonucu ortaya koymaktadır. sci.tech-archive.net/Archive/sci.math/2008-06/msg01239.html

— Adam Russell

Buna bir isim verdiğiniz için teşekkür ederiz! "Popoviciu'nun Eşitsizliği" tam da ihtiyacım olan şeydi.

— Adam Russell,

2

Bu cevap bazı yanlış önerilerde bulunuyor: gerçekten doğru. Popoviciu eşitsizliği referans çalışacaktır ancak açıkçası onunla dağılımları için geçerlidir sonlu (içerdiğini, özellikle destek yok sürekli dağılımları). Sınırlayıcı bir tartışma hile yapar, ancak burada ekstra bir şeye ihtiyaç var.

1 / 4

$1/4$

— whuber

2

Sürekli bir dağıtım rasgele bir şekilde (cdf cinsinden) rasgele bir şekilde yaklaşabilir (örneğin, belirli bir kütleden merkezlenmiş küçük bir Beta (4, 4) şeklinde çekirdek çekirdeği yerleştirerek - uygun alanın - ve bu tür bir çekirdeğin standart sapmasının, alanını sabit tutarken sıfıra doğru küçülmesine izin verin). Burada tartışıldığı gibi ayrık sınırlar böylece sürekli dağılımlarda sınırlar olarak da hareket edecektir. Gerçekten farklı üst sınırlara sahip sürekli tek modal dağılımları ... düşünmeyi umuyorum .

— Glen_b -Reinstate Monica

2

Eh ... cevabım en az yardımcı oldu ama güzel yorumlar nedeniyle burada bırakacaktı. Şerefe, R

— Ric