İstatistikçiler, (n-1) 'i simülasyon olmadan popülasyon varyansı için tarafsız tahmin edici olarak kullanmayı tam olarak nasıl anladılar?

67

Hesaplama varyansının formülünde payda : $(n-1)$

$s^2 = \frac{\sum_{i=1}^N (x_i - \bar{x})^2}{n-1}$

Nedenini hep merak etmişimdir. Ancak, "neden" hakkında birkaç iyi video okumak ve izlemek, öyle görünüyor ki, , nüfus varyansının iyi ve tarafsız bir tahmincisidir. Oysaki hafızayı küçük düşürmekte ve popülasyon varyansını abartmaktadır. $(n-1)$ $n$ $(n-2)$

Bilmek istediğim şey şu ki, bilgisayarsızlık çağında bu seçim tam olarak nasıl yapıldı? Bunu kanıtlayan gerçek bir matematik kanıtı var mı, yoksa bu tamamen deneysel ve istatistikçiler, o zaman “en iyi açıklama” ile ortaya çıkacak bir sürü hesaplama yaptılar mı?

İstatistikçiler bu formülle 19. yüzyılın başlarında bilgisayar yardımıyla nasıl ortaya çıktılar? Manuel mi yoksa göründüğünden daha mı fazla?

— Doktora
kaynak

13

" Bilgisayarların yardımı olmadan " demek istediğinizi varsayıyorum . Cevap - belki de şaşırtıcı olmayan bir şekilde - cebir kullanımıdır. Türetme oldukça basittir ve birçok yerde, istatistik öğrencilerinin onu alıştırma olarak türetmesi / düşük lisans olarak öğrenmesi yaygındır.

— Glen_b

Bunun oldukça iyi bir açıklama yaptığını düşünüyorum: en.wikipedia.org/wiki/Variance#Sample_variance

— Verena Haunschmid

5

Çok yakından ilişkili: Örnek standart sapma neden sd'yi

σ

$\sigma$ hesaplarken bölmek için ve sezgisel bir açıklamaya dayanan tahmincisidir ? .

n - 1

$n-1$

— whuber

Kullanmak için formül düzenledikten ve olarak payda olarak içindir örnek varyans (Latince semboller) olup nüfus varyans (Yunanca semboller).

s^{2}

$s^{2}$

\bar{x}

$\bar{x}$

n - 1

$n-1$

— Alexis

40

Düzeltme Bessel'in düzeltmesi olarak adlandırılır ve matematiksel bir kanıtı vardır. Şahsen, bana kolay yoldan öğretildi: kullanarak , önyargısını nasıl düzelttiğinizdir ( buraya bakın ). $n-1$ $E[\frac{1}{n}\sum_1^n(x_i - \bar x)^2]$

Ayrıca, serbestlik dereceleri kavramına dayanan düzeltmeyi de açıklayabilirsiniz, simülasyon kesinlikle gerekli değildir.

— mugen
kaynak

15

Prova alternatifi # 3, sakin bir kişinin bile anlayabileceği güzel ve sezgisel bir açıklamaya sahiptir. Temel fikir, örnek ortalamasının nüfus ortalamasının aynı olmadığıdır. Gözlemleriniz doğal olarak popülasyon ortalamasından örnek ortalamasına daha yakın olacak ve bu da terimlerini terimleriyle küçümseyebilir . Bu muhtemelen çoğu insan için açıktır ancak önyargılı örneklem varyansının neden şimdiye kadar önyargılı olduğu konusunda "sezgiyi" hiç düşünmedim. Sadece resmi delilleri öğrendim.

(x_{i} - μ)^{2}

$(x_i - \mu)^2$

(x_{i} - \bar{x})^{2}

$(x_i - \bar{x})^2$

— WetlabStudent

2

Ayrıca n-1 ile düzeltmenin neden bir geometrik yaklaşımı vardır (Saville ve Wood'da çok iyi açıklanmıştır: İstatistiksel Yöntemler: Geometrik Yaklaşım). Kısaca söylemek gerekirse: n örneği, n boyutlu veri alanı olarak kabul edilebilir. Örnek nokta vektörleri, p parametresine karşılık gelen p boyutuna ve np boyutuna sahip bir hata vektörüne sahip olan bir model vektörüne ayrıştırılabilen gözlenen bir vektöre eklenir. Hata vektörünün karşılık gelen Pisagor dağılması, ortalama değişim için bir ölçü olan np karelere sahiptir.

— giordano

Size kısa bir açıklama içeren güzel bir link vereceğim: en.wikipedia.org/wiki/Bias_of_an_estimator

— Christina

İspat (alternatif 3) biz kullanarak hem gerçek ve yanlı sapmalar hesaplanmış varsayıyorum neden açıklayabilir 'ler? Farklı varyans problemi bir popülasyona (gerçek varyanslı) ve bir örneğe (önyargılı varyansa sahip) sahip olduğumuzda ortaya çıkar. Fakat aynı verilerde, yani gibi farklılıkları hesaplarsak , neden farklı olsunlar ki? 'nin, önyargılı tamamen aynı ' ler kullanılarak hesaplanan gerçek bir varyans olduğunu düşünüyoruz . Bu ispat ile aynı fikirdeyim. Lütfen yardım edin, neyi özlüyorum?

n

$n$

x

$x$

x_{1}, x_{2}, . . ., x_{n}

$x_1, x_2, ... , x_n$

σ^{2}

$\sigma^2$

x

$x$

s_{biased}^{2}

$s_\text{biased}^2$

— Turkhan Badalov

56

Gördüğüm kanıtların çoğu, Gauss'un (ancak yaptığını) muhtemelen kanıtlamanın oldukça kolay olduğunu bulduğu kadar basit.

Özgeçmiş üzerinde sizi bağlayabileceğim bir türev arıyordum (buradaki cevaplardan en az biri de dahil olmak üzere, site dışındaki kanıtlarla ilgili birkaç bağlantı var), birkaç arama, bu yüzden tamamlık uğruna, basit bir tane vereceğim. Sadeliği göz önüne alındığında, insanların genellikle Bessel’in düzeltme adı verilen şeyi kullanmaya nasıl başlayacağını görmek kolaydır .

Bu, varsayılan bilgi olarak alır ve ilk birkaç temel varyans özelliğinin bilindiğini varsayar . $E(X^2)=\text{Var}(X) + E(X)^2$

\begin{array}{rcl} E [\sum_{i = 1}^{n} (x_{i} - \bar{x})^{2}] & = & E [\sum_{i = 1}^{n} x_{i}^{2} - 2 \bar{x} \sum_{i = 1}^{n} x_{i} + n {\bar{x}}^{2}] \\ = & E [\sum_{i = 1}^{n} x_{i}^{2} - n {\bar{x}}^{2}] \\ = & n E [x_{i}^{2}] - n E [{\bar{x}}^{2}] \\ = & n (μ^{2} + σ^{2}) - n (μ^{2} + σ^{2} / n) \\ = & (n - 1) σ^{2} \end{array}

$\begin{eqnarray} E[\sum_{i=1}^{n} (x_i-\bar x)^2] &=& E[\sum_{i=1}^{n} x_i^2-2\bar x\sum_{i=1}^{n} x_i+n\bar{x}^2]\\ &=& E[\sum_{i=1}^{n} x_i^2-n\bar{x}^2] \\ &=& n E[x_i^2]- n E[\bar{x}^2]\\ &=& n (\mu^2 + \sigma^2) - n(\mu^2+\sigma^2/n)\\ &=& (n-1) \sigma^2 \end{eqnarray}$

— Glen_b
kaynak

1

hangi özellik ortadan ?

- 2 \bar{x} \sum_{i = 1}^{n} x_{i}

$-2\bar{x}\sum_{i=1}^{n}x_i$

— Ciprian Tomoiagă

3

Ortadan kaybolmuyor. Son terimin işaretinin değiştiğini fark ettiniz mi?

— Glen_b 28:16

1

(+1) Geçenlerde şahsen daha sezgisel bulduğuma dair harika bir kanıt duydum. faktörlü örneklem varyansı, tüm çift noktaları arasındaki tüm kare farklarının ortalaması olarak yeniden ifade edilebilir. Şimdi, aynı noktanın iki kez girdiği çiftlerin hepsinin sıfır olduğunu fark edin ve bu ifadeyi önyargılı hale getirir. Tüm bu çiftleri çifte toplamdan dışlayarak ve sadece geri kalanının ortalamalarını alarak önyargının düzeltilmesi makul görünüyor. Bu, Bessel'in düzeltmesini sağlar.

1 / n

$1/n$

— amip diyor Reinstate Monica

1

Hayır, boşver, anladım. , yani yukarıda bahsettiğiniz aynı kimliği 3. satırdaki her iki terime de uyguladınız.

V [\bar{x}] = \frac{V [x]}{n}

$V[\bar{x}] = \frac{V[x]}{n}$

— tel

1

Farklı değişkenlerin herhangi biri aynı ikinci ana sahiptir. Hepsinden bahsetmekten sadece birini tartışmaya gidiyoruz. Sen gibi kolayca alabilirdi (ve bazı insanların yaptığı) ya da veya ... ama almış -inci

x_{1}

$x_1$

x_{2}

$x_2$

x_{n}

$x_n$

i

$i$

— Glen_b

37

Matematik Weisstein Dünyası göre, ilk referans okunabilir Gauss' Werke, hacmi 4'tür 1823 yılında Gauss tarafından ispat edildi https://archive.org/details/werkecarlf04gausrich . İlgili sayfalar 47-49 gibi görünüyor. Görünüşe göre Gauss soruyu araştırdı ve bir kanıt buldu. Latince okumam, ama metinde bir Alman özeti var. Sayfa 103-104 ne yaptığını açıklıyor (Düzenle: Kaba bir çeviri ekledim):

Allein da man nert berechtigt ist, sichersten die werthe fuer die wahren Werthe selbst zu halten, bu yüzden ueberzeugt man sich leicht, dach man düren diyetleri. als sie wirklich besitzen. [Ancak en muhtemel değerleri gerçek değerlermiş gibi ele alma hakkı bulunmadığı için, kişi kendini her zaman en olası hatanın ve ortalama hatanın çok küçük olduğunu ve bu nedenle verilen sonuçların bulunması gerektiğine ikna edebilir. gerçekten sahip olduklarından daha büyük bir doğruluğa sahip.]

bunlardan örneklem varyansının popülasyon varyansının önyargılı bir tahmini olduğu bilinen bir şeydi. Makale, ikisi arasındaki farkın genellikle göz ardı edildiğini söylemeye devam ediyor çünkü numune büyüklüğünün yeterince büyük olması önemli değil. Sonra diyor ki:

Der Verfasser Şapkası Şapkası Ölüler ve Eine Besondere Untersuchung Unterworfen, Zer einem Sehr Merkwuerdigen hoechst einfachen. Resultate gefuehrt hat. Man braucht nemlich den nach dem angezeigten fahlerhaften Verfahren gefundenen mittleren Fehler, ölmek üzere richtigen zu verwandeln, nur mit

$\sqrt{\frac{π - ρ}{π}}$ $\sqrt{\frac{\pi-\rho}{\pi}}$
zu multiplicieren, wo Anzahl der beobachtungen (gözlem sayısı) und die die Anzahl der unbekannten Groessen (bilinmeyen sayısı) bedeutet. [Yazar bu nedenle, çok garip ve oldukça basit bir sonuca yol açan bu konu hakkında özel bir çalışma yaptı. Yani, bir (Verilen ifade) tarafından yukarıdaki hatalı işlem tarafından bulundu ortalama hatayı sağ birine içine değiştirmek için çoğalmaya sadece ihtiyacı gözlem ve sayısıdır bilinmeyen miktarlarda sayısıdır.] $\pi$ $\rho$ $\pi$ $\rho$

Yani, bu gerçekten düzeltmenin ilk kez bulunması halinde, Gauss tarafından yapılan zekice bir hesaplama tarafından bulundu, ancak insanlar zaten bazı düzeltmelerin gerekli olduğunun farkındaydı, belki de başka birisi bunu daha önce ampirik olarak bulabilirdi. . Ya da muhtemelen önceki yazarlar kesin cevap türetmekle ilgilenmedi çünkü zaten oldukça büyük veri kümeleriyle çalışıyorlardı.

Özet: el kitabı, ancak insanlar zaten payda oldukça doğru olmadığını biliyordu . $n$

— Flounderer
kaynak

Birisi Almanca çevirisini sağlayabilirse, iyi olurdu. Birincisi Almanca okumuyorum.

— Faheem Mitha

2

Evet, Google Translate, yazım hatalarım nedeniyle çok iyi çalışmıyor! Çeviri girişimi ekleyeceğim; Almancamı pratik yapmanın iyi bir yolu olacak.

— Flounderer

14

Benim için bir sezgi parçası

\begin{matrix} The degree to which \\ X_{i} varies from \bar{X} \end{matrix} + \begin{matrix} The degree to which \\ \bar{X} varies from μ \end{matrix} = \begin{matrix} The degree to which \\ X_{i} varies from μ . \end{matrix}

$\begin{array}{c} \mbox{The degree to which}\\ X_{i}\mbox{ varies from }\bar{X} \end{array}+\begin{array}{c} \mbox{The degree to which}\\ \bar{X}\mbox{ varies from }\mu \end{array}=\begin{array}{c} \mbox{The degree to which }\\ X_{i}\mbox{ varies from }\mu. \end{array}$

Yani,

E [{(X_{i} - \bar{X})}^{2}] + E [{(\bar{X} - μ)}^{2}] = E [{(X_{i} - μ)}^{2}] .

$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]+\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right].$

Aslında yukarıdaki denklemi kanıtlamak biraz cebir alır (bu cebir yukarıdaki @ Glen_b'in cevabına çok benzer). Ancak bunun doğru olduğunu varsayarak, aşağıdakileri yeniden ayarlayabiliriz:

E [{(X_{i} - \bar{X})}^{2}] = \underset{σ^{2}}{\underset{⏟}{E [{(X_{i} - μ)}^{2}]}} - \underset{\frac{σ^{2}}{n}}{\underset{⏟}{E [{(\bar{X} - μ)}^{2}]}} = \frac{n - 1}{n} σ^{2} .

$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]=\underset{\sigma^{2}}{\underbrace{\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right]}}-\underset{\frac{\sigma^{2}}{n}}{\underbrace{\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]}}=\frac{n-1}{n}\sigma^2.$

Benim için, bir başka sezginin parçası , yerine kullanmanın önyargıya yol açmasıdır. Ve bu önyargı tam olarak eşittir . $\bar{X}$ $\mu$ $\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\frac{\sigma^2}{n}$

— Kenny LJ
kaynak

12

Cevapların çoğu, bunu ayrıntılı bir şekilde ayrıntılı bir şekilde açıkladı, ancak bunlardan başka, birinin yararlı bulabileceği basit bir örnek var:

Diyelim ki ve ilk üç sayının: $n=4$

$8,4,6$ , _

Şimdi dördüncü sayı hiçbir kısıtlama olmadığı için olabilir. Şimdi ve olduğu zaman durumu düşünün , o zaman ilk üç sayı: ise dördüncü sayı . $n=4$ $\bar x=6$ $8,4,6$ $6$

Bu, eğer değerlerini ve olduğunu biliyorsanız , değerinin özgürlüğü yoktur. Böylece bize tarafsız bir tahmin edici verir. $n-1$ $\bar x$ $nth$ $n-1$

— Satwik Bhattamishra
kaynak