Bunu nasıl kanıtlayabilirim?

Eşitsizliği tespit etmeye çalışıyorum

$| T_{ben} | = \frac{| X_{ben} - \bar{X} |}{S} \leq \frac{n - 1}{\sqrt{n}}$ $\left| T_i \right|=\frac{\left|X_i -\bar{X} \right|}{S} \leq\frac{n-1}{\sqrt{n}}$

nerede $\bar{X}$ örnek ortalamasıdır ve $S$ örnek standart sapma, yani $S=\sqrt{\frac{\sum_{i=1}^n \left( X_i -\bar{X} \right)^2}{n-1}}$ .

Bunu görmek kolay $\sum_{i=1}^n T_i^2 = n-1$ ve bu yüzden $\left| T_i \right| < \sqrt{n-1}$ ama bu aradığım şeylere çok yakın değil, yararlı bir sınır da değil. Cauchy-Schwarz ve üçgen eşitsizliklerini denedim ama hiçbir yere gitmedim. Bir yerde özlediğim ince bir adım olmalı. Yardımın için minnettar olurum, teşekkür ederim.

self-study descriptive-statistics bounds

— JohnK
kaynak

Yanıtlar:

Bu Samuelson'un eşitsizliği ve $\leq$ işaret. Eğer alırsan Vikipedi sürümü ve bunu yeniden işleme $n-1$ tanımı $S,$ bunun olacağını göreceksin

\frac{| X_{ben} - \bar{X} |}{S} \leq \frac{n - 1}{\sqrt{n}}

${{ \left| X_i-\bar X \right| } \over S} \leq {{n-1} \over \sqrt{n}}$

— soakley
kaynak

Kitapta katı bir eşitsizlik olarak verildi ama düzelttim, teşekkürler.

— JohnK

Sorunu rutin prosedürlerle basitleştirdikten sonra, temel bir kanıtla iyi bilinen bir cevabı olan çift minimizasyon programına dönüştürülerek çözülebilir. Belki de bu dualizasyon, soruda değinilen "ince adım" dır. Eşitsizlik aynı zamanda maksimuma çıkarılarak tamamen mekanik bir şekilde de belirlenebilir. $|T_i|$ Lagrange çarpanları aracılığıyla .

İlk olarak, en küçük karelerin geometrisine dayanan daha zarif bir çözüm sunuyorum. Ön basitleştirme gerektirmez ve sonuca doğrudan sezgi sağlayarak neredeyse anında gerçekleşir. Soruda önerildiği gibi, sorun Cauchy-Schwarz eşitsizliğine azalmaktadır.

Geometrik çözüm

Düşünmek $\mathbf{x} = (X_1, X_2, \ldots, X_n)$ olarak $n$ uzay ürünü ile Öklid uzayında üç boyutlu vektör. İzin Vermek $\mathbf{y} = (0,0,\ldots,0,1,0,\ldots,0)$ ol $i^\text{th}$ temel vektör ve $\mathbf{1} = (1,1,\ldots, 1)$ . Yazmak $\mathbf{\hat x}$ ve $\mathbf{\hat y}$ dik çıkıntıları için $\mathbf{x}$ ve $\mathbf{y}$ dikey olarak $\mathbf{1}$ . (İstatistiksel terminolojide, araçlar bakımından artıklardır.) O zamandan beri $X_i-\bar X = \mathbf{\hat x}\cdot \mathbf{y}$ ve $S = ||\mathbf{\hat x}||/\sqrt{n-1}$ ,

| T_{i} | = \sqrt{n - 1} \frac{| \hat{x} \cdot y |}{| | \hat{x} | |} = \sqrt{n - 1} \frac{| \hat{x} \cdot \hat{y} |}{| | \hat{x} | |}

$|T_i| = \sqrt{n-1}\frac{|\mathbf{\hat x} \cdot \mathbf{y}|}{||\mathbf{\hat x}||} = \sqrt{n-1}\frac{|\mathbf{\hat x} \cdot \mathbf{\hat y}|}{||\mathbf{\hat x}||}$

bileşeni $\mathbf{\hat y}$ içinde $\mathbf{\hat x}$ Yön. Cauchy-Schwarz tarafından, tam olarak ne zaman maksimize edilir $\mathbf{\hat x}$ paralel $\mathbf{\hat y} = (-1,-1,\ldots,-1,n-1,-1,-1,\ldots,-1)/n$ , hangisi için

T_{i} = \pm \sqrt{n - 1} \frac{\hat{y} \cdot \hat{y}}{| | \hat{y} | |} = \pm \sqrt{n - 1} | | \hat{y} | | = \pm \frac{n - 1}{\sqrt{n}},

$T_i = \pm \sqrt{n-1} \frac{\mathbf{\hat y}\cdot \mathbf{\hat y} }{ ||\mathbf{\hat y}||} = \pm\sqrt{n-1}||\mathbf{\hat y}|| = \pm\frac{n-1}{\sqrt{n}},$ QED.

Bu arada, bu çözüm tüm vakaların kapsamlı bir karakterizasyonunu sağlar. $|T_i|$ en üst düzeye çıkarılır: hepsi formda

x = σ \hat{y} + μ 1 = σ (- 1, - 1, \dots, - 1, n - 1, - 1, - 1, \dots, - 1) + μ (1, 1, \dots, 1)

$\mathbf{x} = \sigma\mathbf{\hat y} + \mu\mathbf{1} = \sigma(-1,-1,\ldots,-1,n-1,-1,-1,\ldots,-1) + \mu(1,1,\ldots, 1)$

herkes için $\mu, \sigma$ .

Bu analiz, $\{\mathbf{1}\}$ yerine herhangi bir regresör grubu konulur. Açıkçası maksimum $T_i$ kalıntısının uzunluğu ile orantılıdır. $\mathbf{y}$ , $||\mathbf{\hat y}||$ .

sadeleştirme

Çünkü $T_i$ konum ve ölçek değişiklikleri altında değişmezse, genel bir kayıp olmadan $X_i$ toplamı sıfıra ve kareleri toplamı $n-1$ . Bu, $|T_i|$ ile $|X_i|$ , dan beri $S$ (ortalama kare) $1$ . En üst düzeye çıkarmak, en üst düzeye çıkarmak ile eşdeğerdir $|T_i|^2 = T_i^2 = X_i^2$ . Alarak hiçbir genellik kaybolmaz $i=1$ , ya, $X_i$ değiştirilebilir.

Çözüm aracılığıyla ikili formülasyonu

İkili bir sorun, $X_1^2$ ve kalan değerlerin ne olduğunu sorun $X_j, j\ne 1$ karelerin toplamını en aza indirmek için gereklidir $\sum_{j=1}^n X_j^2$ verilen $\sum_{j=1}^n X_j = 0$ . Çünkü $X_1$ verilir, bu minimize etme problemidir $\sum_{j=2}^n X_j^2$ verilen $\sum_{j=2}^n X_j = -X_1$ .

Çözüm birçok yönden kolayca bulunur. En temellerden biri yazmak

X_{j} = - \frac{X_{1}}{n - 1} + ε_{j}, j = 2, 3, ..., n

$X_j = -\frac{X_1}{n-1} + \varepsilon_j,\ j=2, 3, \ldots, n$

hangisi için $\sum_{j=2}^n \varepsilon_j = 0$ . Amaç fonksiyonunu genişletmek ve ürettiği sadeleştirmek için bu toplam-sıfır kimliğini kullanmak

\sum_{j = 2}^{n} X_{j}^{2} = \sum_{j = 2}^{n} {(- \frac{X_{1}}{n - 1} + ε_{j})}^{2} = \sum {(- \frac{X_{1}}{n - 1})}^{2} - 2 \frac{X_{1}}{n - 1} \sum ε_{j} + \sum ε_{j}^{2} = Constant + \sum ε_{j}^{2},

$\sum_{j=2}^n X_j^2 = \sum_{j=2}^n \left(-\frac{X_1}{n-1} + \varepsilon_j\right)^2 = \\\sum \left(-\frac{X_1}{n-1}\right)^2 - 2\frac{X_1}{n-1}\sum \varepsilon_j + \sum \varepsilon_j^2 \\= \text{Constant} + \sum \varepsilon_j^2,$

anında benzersiz çözümü gösteren $\varepsilon_j=0$ hepsi için $j$ . Bu çözüm için,

(n - 1) S^{2} = X_{1}^{2} + (n - 1) {(- \frac{X_{1}}{n - 1})}^{2} = (1 + \frac{1}{n - 1}) X_{1}^{2} = \frac{n}{n - 1} X_{1}^{2}

$(n-1)S^2 = X_1^2 + (n-1)\left(-\frac{X_1}{n-1}\right)^2 = \left(1 + \frac{1}{n-1}\right)X_1^2 = \frac{n}{n-1}X_1^2$

| T_{i} | = \frac{| X_{1} |}{S} = \frac{| X_{1} |}{\sqrt{\frac{n}{(n - 1)^{2}} X_{1}^{2}}} = \frac{n - 1}{\sqrt{n}},

$|T_i| = \frac{|X_1|}{S} = \frac{|X_1|}{\sqrt{\frac{n}{(n-1)^2}X_1^2}} = \frac{n-1}{\sqrt{n}},$

QED .

Çözüm yolu ile makina

Başladığımız basitleştirilmiş programa geri dönün:

Maximize X_{1}^{2}

$\text{Maximize } X_1^2$

tabi

\sum_{i = 1}^{n} X_{i} = 0 and \sum_{i = 1}^{n} X_{i}^{2} - (n - 1) = 0.

$\sum_{i=1}^n X_i = 0\text{ and }\sum_{i=1}^n X_i^2 -(n-1)=0.$

Lagrange çarpanları yöntemi (neredeyse tamamen mekanik ve basittir), bu üç fonksiyonun gradyanlarının önemsiz doğrusal bir kombinasyonunu sıfıra eşitler:

(0, 0, ..., 0) = λ_{1} D (X_{1}^{2}) + λ_{2} D (Σ_{ben = 1}^{n} X_{ben}) + λ_{3} D (Σ_{ben = 1}^{n} X_{ben}^{2} - (n - 1)) .

$(0,0,\ldots, 0) = \lambda_1 D(X_1^2) + \lambda_2 D\left(\sum_{i=1}^n X_i\right ) + \lambda_3 D\left(\sum_{i=1}^n X_i^2 -(n-1)\right).$

Bileşene göre bileşen, bunlar $n$ denklemler

\begin{aligned} 0 & = 2 λ_{1} X_{1} + & λ_{2} & + 2 λ_{3} X_{1} \\ 0 & = & λ_{2} & + 2 λ_{3} X_{2} \\ 0 & = \dots \\ 0 & = & λ_{2} & + 2 λ_{3} X_{n} . \end{aligned}

$\eqalign{ 0 &= 2\lambda_1 X_1 +& \lambda_2 &+ 2\lambda_3 X_1 \\ 0 &= & \lambda_2 &+ 2\lambda_3 X_2 \\ 0 &= \cdots \\ 0 &= & \lambda _2 &+ 2\lambda_3 X_n. }$

Son $n-1$ bunların ikisi de $X_2 = X_3 = \cdots = X_n = -\lambda_2/(2\lambda_3)$ veya $\lambda_2=\lambda_3=0$ . (İkinci durumu dışlayabiliriz çünkü ilk denklem $\lambda_1=0$ , doğrusal kombinasyonu önemsizleştiriyor.) Toplam-sıfır arasındaki sınırlama $X_1 = -(n-1)X_2$ . Kareler toplamı kısıtlaması iki çözüm sağlar

X_{1} = \pm \frac{n - 1}{\sqrt{n}}; X_{2} = X_{3} = \dots = X_{n} = \mp \frac{1}{\sqrt{n}} .

$X_1 = \pm\frac{n-1}{\sqrt{n}};\ X_2 = X_3 = \cdots = X_n = \mp\frac{1}{\sqrt{n}}.$

İkisi de verim veriyor

| T_{ben} | = | X_{1} | \leq | \pm \frac{n - 1}{\sqrt{n}} | = \frac{n - 1}{\sqrt{n}} .

$|T_i| = |X_1| \le |\pm\frac{n-1}{\sqrt{n}}| = \frac{n-1}{\sqrt{n}}.$

— whuber
kaynak

Zeyilname için teşekkürler, geometri çok güçlü ve her üç çözümden de benim için en sezgisel.

— JohnK

Belirtildiği gibi eşitsizlik doğrudur. Eşitsizlik için en zor durumu elde ettiğimiz sezgisel olarak açıktır (yani, verilen alanın sol tarafını en üst düzeye çıkarmak $S^2$ ) bir değer seçerek, $x_1$ diğerlerini eşit tutarken mümkün olduğunca büyük. Bu tür bir yapılandırmaya sahip bir örneğe bakalım:

n = 4, x_{1} = x_{2} = x_{3} = 0, x_{4} = 4, \bar{x} = 1, S^{2} = 4,

$n=4, \quad x_1=x_2=x_3=0, x_4=4, \bar{x}=1, S^2=4,$ şimdi

\frac{| x_{i} - \bar{x} |}{S} = {\begin{cases} \frac{1}{2} or \\ \frac{3}{2} \end{cases}

$\frac{|x_i-\bar{x}|}{S}=\begin{cases} \frac12 ~\text{or}~ \\ \frac32 \end{cases}$ bağlı olarak

i

$i$ , verilen üst sınır eşittir

\frac{4 - 1}{2} = 1.5

$\frac{4-1}{2}=1.5$ ki bu yeterli. Bu fikir bir kanıtla tamamlanabilir.

DÜZENLE

Şimdi yukarıda ima edildiği gibi iddiayı ispatlayacağız. İlk olarak, verilen herhangi bir vektör için $x=(x_1, x_2, \dots, x_n)$ bu problemde, ile değiştirebiliriz $x-\bar{x}$ yukarıdaki eşitsizliğin her iki tarafını da değiştirmeden. Yani, aşağıda $\bar{x}=0$ . Ayrıca yeniden etiketleyerek, $x_1$ en büyüğüdür. Sonra, önce $x_1>0$ ve sonra $x_2=x_3=\dots=x_n=-\frac{x_1}{n-1}$ basit cebir ile iddia edilen eşitsizlikte eşitliğe sahip olduğumuzu kontrol edebiliriz. Yani, keskin.

Ardından, (dışbükey) bölgeyi tanımlayın $R$ tarafından

R, = {x \in R, : \bar{x} = 0, Σ (x_{ben} - \bar{x})^{2} / (n - 1) \leq S^{2}}

$R = \{ x\in\mathbb{R} \colon \bar{x}=0, \sum(x_i-\bar{x})^2/(n-1) \le S^2\}$ belirli bir pozitif sabit için

S^{2}

$S^2$ . Bunu not et

R

$R$ küre merkezli bir hiper düzlemin kesişmesidir, yani küre

(n - 1)

$(n-1)$ -Uzay. Sorunumuz artık şu şekilde formüle edilebilir:

\underset{x \in R,}{maksimum} \underset{ben}{maksimum} | x_{ben} |

$\max_{x\in R} \max_i |x_i|$ beri

x

$x$ Bunu en üst düzeye çıkarmak eşitsizlik için en zor durum olacaktır. Bu, genel olarak zor problemler olan (minimumlar kolaydır!) Dışbükey bir set üzerinde maksimum dışbükey fonksiyonun bulunması sorunudur. Ancak, bu durumda dışbükey bölge, başlangıç noktası merkezli bir küredir ve en üst düzeye çıkarmak istediğimiz işlev, koordinatların mutlak değeridir. Maksimumun sınır sınırında bulunduğu açıktır.

R

$R$ ve alarak

| x_{1} |

$|x_1|$ maksimum, ilk test durumumuz zorlandı.

— kjetil b halvorsen
kaynak

@JohnK yorumlarınızı şimdi silebilirsiniz, yazı düzeltildi

— kjetil b halvorsen

Her ne kadar bu cevap eşitsizliğin (doğru olduğunu varsayarsak) sıkı olduğunu gösterse de, tek bir hesaplamanın "bir kanıt için nasıl tamamlanabileceği" açık değildir. Bunun nasıl yapılacağına dair bir fikir verebilir misiniz?

— whuber

Will, ama yarın, şimdi yarınlar sınıfını hazırlamak zorundayım.

— kjetil b halvorsen

Teşekkür ederim - Sorunun dikkatli bir şekilde formülasyonunu takdir ediyorum. Ama senin "kanıtın" ifadesi "açıktır." İşi bitirmek için her zaman Lagrange çarpanlarını uygulayabilirsiniz, ancak (a) aslında bir kanıt ve (b) içgörü sağlayan bir yaklaşım görmek güzel olurdu.

— whuber

@whuber Vaktiniz varsa, Lagrange çarpan çözümünüzü gönderebilirseniz sevinirim. Genel olarak eşitsizliğin olması gerektiği kadar ünlü olmadığını düşünüyorum.

— JohnK