İki kovaryans matrisini birleştirme

Bir dağılımın kovaryansını paralel olarak hesaplıyorum ve dağıtılmış sonuçları tekil Gaussian'da birleştirmem gerekiyor. İkisini nasıl birleştiririm?

Benzer şekilde dağıtılmış ve boyutlandırılmışlarsa, ikisi arasında doğrusal olarak enterpolasyon.

Wikipedia kombinasyon için en altta bir forumla sağlıyor ancak doğru görünmüyor; aynı şekilde dağıtılmış iki dağılım aynı kovaryansa sahip olmalıdır, ancak sayfanın altındaki formül kovaryansı iki katına çıkarır.

İki matrisi birleştirmenin bir yolu var mı?

covariance moments

— Matt Kemp
kaynak

Wikipedia formülü sorunuzu cevaplıyor, Matt: bunun, daha sonra örnek boyutuna bölmeniz gereken kısmi bir formül olduğunu fark etmemiş olabilirsiniz.

— whuber

Bunu şimdi anladım, sizin yardımınızla - eğer bir cevaba koyarsanız, cevap olarak işaretlerim.

— Matt Kemp

Bu soru çeşitli şekillerde çokça ortaya çıkıyor. Onlar için ortak olan şey

Verilerimin ayrık alt kümelerinden hesaplanan moment tabanlı istatistikleri nasıl birleştirebilirim?

En basit uygulama iki gruba ayrılan verilerle ilgilidir. Grup büyüklüklerini ve grup anlamını biliyorsunuz. Sadece bu dört nicelik açısından, verilerin genel anlamı nedir?

Diğer uygulamalar ortalamalardan varyanslara, standart sapmalara, kovaryans matrislerine, çarpıklıklara ve çok değişkenli istatistiklere genelleme yapar; ve birden fazla veri alt grubu içerebilir. Bu miktarların çoğunun biraz karmaşık an kombinasyonları olduğuna dikkat edin: örneğin standart sapma, birinci ve ikinci anların (ortalama ve ortalama kare) ikinci dereceden bir kombinasyonunun kare köküdür.

Bu gibi tüm durumlar, çeşitli anları toplamlara indirgeyerek kolayca halledilir , çünkü toplamlar açıkça ve kolayca birleştirilir: eklenir. Matematiksel olarak, şuna gelir: boyutlarındaki ayrık gruplara ayrılmış bir grubunuz var: $X = (x_1, x_2, \ldots, x_n)$ $j_1, j_2, \ldots, j_g$ . Grup diyelim $(x_1, x_2, \ldots, x_{j_1}; x_{j_1+1}, \ldots, x_{j_1+j_2}; x_{j_1+j_2+1}, \ldots; \ldots; \ldots, x_n)$ $i$ . Tanım olarak,herhangi bir verikincimomenti,Güçlerinortalamasıdır, $X_{(i)} = (x_{j_i+1},x_{j_i+2}, \ldots, x_{j_{i+1}})$ $k$ $y_1, \ldots, y_j$ $k$

μ_{k} (y) = (y_{1}^{k} + y_{2}^{k} + \dots + y_{j}^{k}) / j .

$\mu_k(y) = \left(y_1^k + y_2^k + \cdots + y_j^k\right)/j.$

Açıkçası , . Güçlerin toplamıdır . Bu nedenle, daha önceki verilerin ayrıştırılmasına $j \mu_k(y)$ $k$ alt gruplarına, toplam gücü toplamlar grubunaayırabilirve $g$ $n$

\begin{aligned} n μ_{k} (X) & = (x_{1}^{k} + x_{2}^{k} + \dots + x_{n}^{k}) \\ = (x_{1}^{k} + x_{2}^{k} + \dots + x_{j_{1}}^{k}) + \dots + (x_{j_{1} + \dots + j_{g - 1} + 1}^{k} + x_{j_{1} + \dots + j_{g - 1} + 2}^{k} + \dots + x_{n}^{k}) \\ = j_{1} μ_{k} (X_{(1)}) + j_{2} μ_{k} (X_{(2)}) + \dots + j_{g} μ_{k} (X_{(g)}) . \end{aligned}

$\eqalign{ n \mu_k(X) &= \left(x_1^k + x_2^k + \cdots + x_n^k\right) \\ &= \left(x_1^k + x_2^k + \cdots + x_{j_1}^k\right) + \cdots + \left(x_{j_1+\cdots+j_{g-1}+1}^k + x_{j_1+\cdots+j_{g-1}+2}^k + \cdots + x_n^k\right)\\ &= j_1 \mu_k(X_{(1)}) + j_2 \mu_k(X_{(2)}) + \cdots + j_g \mu_k(X_{(g)}). }$

Tarafından bölme $n$ sergileyen yönünden tüm yığının inci anı alt gruplarının anları inci. $k$ $k$

Mevcut başvuruda, kovaryans matrisindeki girdiler, elbette, çok değişkenli ikinci momentler ve ilk momentler olarak ifade edilebilir kovaryanslardır. Hesaplamanın kilit kısmı şudur: her adımda çok değişkenli verilerinizin iki belirli bileşenine odaklanmış olacaksınız; onlara ve diyelim . Baktığınız sayılar formda $x$ $y$

((x_{1}, y_{1}), (x_{2}, y_{2}), ..., (x_{n}, y_{n})),

$((x_1,y_1), (x_2,y_2), \ldots, (x_n,y_n)),$

daha önce olduğu gibi gruplarına ayrıldı. Her grup için ortalama ürün toplamını bilirsiniz : bu çok değişkenli moment, . Bu grup değerlerini birleştirmek için, bunları grup boyutlarıyla çarpacak, bu sonuçları toplayacak ve toplamı . $g$ $x_iy_i$ $(1,1)$ $\mu_{(1,1)}$ $n$

Bu yaklaşımı uygulamak için önceden düşünmeniz gerekir : yalnızca kovaryansları ve alt grup boyutlarını biliyorsanız kovaryansları birleştirmek mümkün değildir : ayrıca alt grupların araçlarını da bilmeniz gerekir (çünkü araçlar önemli bir şekilde dahil edilir tüm kovaryans formüllerinde) veya araçlara cebirsel olarak indirgenebilen bir şey. Formüllerde görünen sabitler konusunda da dikkatli olmanız gerekebilir; dikkatsizliğin ana tuzağı bir "örnek kovaryansını" ( bölünen ürünlerin toplamını $n-1$ $n$ (veya )yerine toplamı geri kazanmak için (veya grup kovaryansını). $n-1$ $j_i-1$ $n$ $j_i$

Oh, evet: mevcut soru hakkında. Wikipedia makalesinde verilen formül, grup araçları (ilk anlar) ve ürünlerin grup toplamları olarak verilmiştir. Yukarıda açıkladığım gibi, bunlar bunları ekleyerek ve daha sonra kovaryansları elde etmek için sonuçları bir bölümle ayarlayarak birleştirilecektir . son bölümü gösterilmez. $n$

— whuber
kaynak

K-th anının tanımı hakkında biraz kafam karıştı. Sıfır ortalama veri mi alıyorsunuz?

— reschu

@reschu Merkezi anları düşünüyorsunuz . Bu yazı doğru anlaşılacağı emin olmak için, ben neyi kastettiğini tanımlanan "

anı." Tanım, ilk formülden hemen önce görünür.

k^{th}

$k^\text{th}$

— whuber

Kötü olabilir! 'Merkezi' ve 'ham' anları karıştırıyordum. Açıklama için teşekkürler!

— reschu

Ben sondan önceki paragrafta "alt grup boyutlarının araçlarını bilmek" yerine "alt grupların araçlarını bilmek" okuması gerektiğini düşünüyorum? (Cevabı çok dikkatli çalışmak için uğraşmadığım için bunu kendim düzenlemekte tereddüt ediyorum)

— Juho Kokkala

@Juho Çok haklısın. Bunu fark ettiğiniz için teşekkürler!

— whuber