Ters bir kovaryans veya hassas matris nasıl yorumlanır?

64

Kimsenin beni, konsantrasyon matrisi veya hassasiyet matrisi olarak da bilinen ters kovaryans matrisinin elemanlarının yorumunu tartışan bazı referanslara yönlendirebileceğini merak ediyordum.

Cox ve Wermuth'un Çok Değişkenli Bağımlılıklarına erişebiliyorum , ancak aradığım şey ters matristeki her bir öğenin yorumlanması. Vikipedi şöyle diyor : “Hassas matrisin elemanları kısmi korelasyonlar ve kısmi varyanslar açısından yorumluyor”, bu da beni bu sayfaya götürüyor . Doğrusal regresyon kullanmadan bir yorum var mı? IE, kovaryans veya geometri açısından?

interpretation covariance-matrix

— Vinh Nguyen
kaynak

4

Wikipedia sayfasını okudun mu? Normal dağılım için geometri ve koşullu bağımsızlık üzerine bir bölüm var. Bu kitapta daha fazlasını bulabilirsiniz .

— NRH

@NRH Geometri, henüz konsantrasyon matrisi ile nasıl ilişkili olduğundan bile emin değilim, kısmi korelasyon sayfasında açıklanmıştır. Bu grafiksel modeller kitabının konsantrasyon matrisinin elemanlarına bir açıklaması var mı? Teşekkürler!

— Vinh Nguyen,

aşağıdaki cevaba bakınız.

— NRH,

2

Ayrıca bakınız Neden bir kovaryans matrisinin inversiyonu rastgele değişkenler arasında kısmi korelasyonlar sağlar?

— amip diyor Reinstate Monica

34

Söylenecek iki şey var. Birincisi, çok değişkenli normal dağılımın yoğunluğuna bakarsanız (burada 0 ile), ile orantılıdır).

\exp (- \frac{1}{2} x^{T} P x)

$\exp\left(-\frac{1}{2}x^T P x\right)$

P = Σ^{- 1}

$P = \Sigma^{-1}$

(x, y) \mapsto x^{T} P y

$(x,y) \mapsto x^T P y$

R^{p}

$\mathbb{R}^p$

P

$P$

$P$ $P$ $X_i$ $X_j$ $i,j$ $P$ $X_i$ $X_j$ diğer tüm değişkenler verildi. Bu, yukarıdaki yorumda bahsettiğim Steffens kitabının konusu. Koşullu bağımsızlık ve grafik modeller. Normal dağılımın oldukça eksiksiz bir tedavisi vardır, ancak takip etmesi o kadar kolay olmayabilir.

— NRH
kaynak

1

- \frac{p_{i j}}{\sqrt{p_{i i} p_{j j}}}

${\bf\color{red} -} \frac{p_{ij}}{ \sqrt{p_{ii} p_{jj}}}$

1

@ Sh3ljohn, kesinlikle haklısın. Vikipedi formülünde bir eksi eksik.

— NRH,

İlk cevap, Fisher bilgisi hakkında hassas matristen daha fazla bahsetmiyor mu? Demek istediğim, gerçekten özel / hoş Gaussian davasında çakışıyorlar, ancak genel olarak çakışmıyorlar. Açıkçası, iki kavram birbiriyle ilişkili (Cramer-Rao alt sınır, MLE'nin asimptotik dağılımı, vb.), Ancak bunları birleştirmek için yardımcı görünmüyor (özellikle de Fisher bilgilerinin nasıl ayırt edileceği konusundaki sorusunu aramak için bu soruya geldim. ters korelasyon matrisi).

— Chill2Macht

24

Bu olasılıklı grafik modeli NRH'nin, kısmi korelasyonun sıfır olması gerektiğini ve sadece X'in Z'ye göre Y'nin koşullu olarak bağımsız olması durumunda, bütün değişkenlerin çok değişkenli Gaussian olduğu varsayımıyla (özellik genel durumun içinde olmadığı varsayımıyla) sıfır olduğunu göstermesini seviyorum. :

görüntü tanımını buraya girin

$y_i$

Kaynak: David MacKay'ın Gaussian Process Basics konusundaki konuşması , 25. dakika.

— Franck Dernoncourt
kaynak

12

Kısmi korelasyonlara dayanarak yapılan yorum muhtemelen çok değişkenli dağılımlar için geçerli olduğundan en istatistiksel olarak faydalıdır. Çok değişkenli Normal dağılımın özel durumunda, sıfır kısmi korelasyon koşullu bağımsızlığa karşılık gelir.

Konsantrasyon matrisinin girişleri için kovaryans matrisinin girişleri formülü almak için Schur tamamlayıcısını kullanarak bu yorumu türetebilirsiniz. Http://en.wikipedia.org/wiki/Schur_complement#Applications_to_probability_theory_and_statistics'e bakın

— vqv
kaynak

11

Kovaryans matrisi, tüm değişkenler arasındaki ilişkiyi temsil ederken, ters kovaryans, elemanın komşularıyla olan ilişkisini sağlar (wikipedia'da belirtilen kısmi / çift akıllıca ilişki).

Aşağıdaki örneği 24: 10'da buradan ödünç aldım, 5 kütlenin birbirine bağlı olduğunu ve 6 yayla etrafa dolaştığını, kovaryans matrisinin tüm kütlelerin korelasyonunu içerdiğini, biri doğru giderse, diğerlerinin de doğru yapabileceğini hayal ediyorum. fakat ters kovaryans matrisi, aynı yay (komşular) ile bağlanan kütlelerin ilişkisini pekiştirir ve çok sayıda sıfır içerir ve bunun için gerekli değildir.

— user4581
kaynak

1

Bu videoda nerede açıklanmaktadır? Bir saat sürecek. Teşekkürler!

— Vinh Nguyen

haklısın, onun 24: 10'da, cov matrisinin ve onun tersinin doğasını anlamak için en iyi örnek olduğunu düşünüyorum

— user4581

5

Bar-Shalom ve Fortmann (1988), Kalman filtrelemesi bağlamında ters kovaryanstan şöyle bahseder:

... [T] burada ters kovaryans (veya bilgi matrisi ) için bir tekrarlama

$\mathbf{P}^{-1}(k+1|k+1) = \mathbf{P}^{-1}(k+1|k) + \mathbf{H}'(k+1) \mathbf{R}^{-1}(k+1)\mathbf{H}(k+1)$

$\mathbf{P}^{-1}\hat{\mathbf{x}}$

Kitap Google'da endekslendi .

— parlak yıldız
kaynak