Bilgi geometrisinde açıklama

Bu soru, Amari'nin Eğimli Üstel Ailelerin-Eğriliklerin ve Bilgi Kaybının Diferansiyel Geometrisi makalesi ile ilgilidir .

Metin aşağıdaki gibi gider.

Let bir olması , bir koordinat sistemi ile olasılık dağılımları boyutlu manifoldu , olduğu varsayılır ... $S^n=\{p_{\theta}\}$ $n$ $\theta=(\theta_1,\dots,\theta_n)$ $p_{\theta}(x)>0$

Her nokta kabul edilebilir ait bir fonksiyonu taşıyan olarak ve ... $\theta$ $S^n$ $\log p_{\theta}(x)$ $x$

Let $T_{\theta}$ tanjant uzay $S^n$ de $\theta$ , olan yaklaşık olarak, küçük bir mahalle doğrusallaştırılmış versiyonu ile tespit $\theta$ de $S^n$ . Let $e_i(\theta), i=1,\dots,n$ doğal temeli $T_{\theta}$ koordine sistemi ile ilişkili ...

Her bir nokta yana $\theta$ arasında $S^n$ bir fonksiyonu taşıyan $\log p_{\theta}(x)$ ve $x$ , kabul doğaldır $e_i(\theta)$ ile $\theta$ fonksiyonu temsil eden

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x) .

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x).$

Son ifadeyi anlamıyorum. Bu, yukarıda belirtilen makalenin 2. bölümünde yer almaktadır. Yukarıdaki denklemle teğet boşluğun temeli nasıl verilir? Bu toplulukta bu tür materyalleri bilen birinin bunu anlamama yardımcı olması faydalı olacaktır. Teşekkürler.

Güncelleme 1:

Her ne kadar (@aginensky'den) $\frac{\partial}{\partial\theta_i}p_{\theta}$ nin lineer olarak bağımsız olduğunu kabul etsem de $\frac{\partial}{\partial\theta_i}\log p_{\theta}$ aynı zamanda doğrusal olarak bağımsızlar, bunların nasıl teğet mekânın üyeleri olduğu çok net değil. Öyleyse nasıl $\frac{\partial}{\partial\theta_i}\log p_{\theta}$ teğet alanın temeli olarak kabul edilebilir. Herhangi bir yardım takdir.

Güncelleme 2:

@aginensky: Amari kitabında şunları söylüyor:

üzerindeki tüm (kesinlikle) pozitif olasılık ölçümleri kümesi olan örneğini ele alalım . biz kabul bir alt kümesi olarak . Aslında, , alanının açık bir alt kümesidir . $S^n=\mathcal{P}(\mathcal{X})$ $\mathcal{X}=\{x_0,\dots,x_n\}$ $\mathcal{P}(\mathcal{X})$ $\mathbb{R}^{\mathcal{X}}=\{X\big|X:\mathcal{X}\to \mathbb{R}\}$ $\mathcal{P}(\mathcal{X})$ $\{X\big |\sum_x X(x)=1\}$

Daha sonra tanjant alanı arasında her noktada doğal ile tespit edilebilir lineer alt uzayı . Bir koordinat sisteminin doğal temeli için , . $T_p(S^n)$ $S^n$ $\mathcal{A}_0=\{X\big |\sum_x X(x)=0\}$ $\frac{\partial}{\partial\theta_i}$ $\theta=(\theta_1,\dots,\theta_n)$ $(\frac{\partial}{\partial\theta_i})_{\theta}=\frac{\partial}{\partial\theta_i}p_{\theta}$

Sonra, bize başka gömme atalım ve tespit alt kümesi ile arasında . Bir tanjant vektör daha sonra çalışma sonucu ile temsil edilir için biz tarafından temsil etmektedir, . Özellikle . Açıktır ki ve $p\mapsto \log p$ $S^n$ $\log S^n:=\{\log p\big |p\in S^n\}$ $\mathbb{R}^{\mathcal{X}}$ $X\in T_p(S^n)$ $X$ $p\mapsto \log p$ $X^{(e)}$ $(\frac{\partial}{\partial\theta_i})_{\theta}^{(e)}=\frac{\partial}{\partial\theta_i}\log p_{\theta}$ $X^{(e)}=X(x)/p(x)$

T_{p}^{(e)} (S^{n}) = {X^{(e)} | X \in T_{p} (S^{n})} = {A \in R^{X} | \sum_{x} A (x) p (x) = 0} .

$T_p^{(e)}(S^n)=\{X^{(e)}\big |X\in T_p(S^n)\}=\{A\in \mathbb{R}^{\mathcal{X}}\big |\sum_x A(x)p(x)=0\}.$

Benim sorum: Hem hem de teğet alanın temelini oluşturuyorsa, bu gerçek şu ki ve olan farklı ve ? $\frac{\partial}{\partial\theta_i}$ $(\frac{\partial}{\partial\theta_i})^{(e)}$ $T_p$ $T_p^{(e)}$ $\frac{\partial}{\partial\theta_i}^{(e)}\in T_p^{(e)}$

Sanırım ( ) ve arasında bir ilişki var gibi görünüyor . Bunu açıklığa kavuşturabilirseniz, çok yardımcı olacaktır. Cevap olarak verebilirsiniz. $S^n,T_p$ $(\log S^n,T_p^{(e)})$

— Ashok
kaynak

Şahsen, karışıklığınızı anlıyorum. Teğet alanı için " " koordinatlarını kullanmak doğal görünmüyor . Sorunuz yereldir, bu nedenle yerel koordinatlar olarak . Teğet boşluk için olağan koordinatlar . düzgünlük, yok olmayan türev, vb. Üzerinde makul koşullar göz önüne alındığında , zincir kuralı ile, teğet alanın standart temelini alıyor ve genel olarak hala temel olacak işlevlerle çarpıyor. .

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x)

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)$

θ_{i}

$\theta_{i}$

\frac{\partial}{\partial θ_{i}}

$\frac{\partial}{\partial\theta_i}$

p_{θ}

$p_{\theta}$

— meh

Açıklamam için yorumumu düzenlemeye çalıştım ve izin verilmedi. Daha fazla ayrıntı istiyorsanız bana bildirin.

— meh

Teşekkür ederim @aginensky: Yani, , bu da teğet alanın temelidir, değil mi?

\frac{\partial}{\partial θ_{i}} \log p_{θ} (x) = 1 / p_{θ} (x) \frac{\partial}{\partial θ_{i}} p_{θ} (x)

$\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)=1/p_{\theta}(x)\frac{\partial}{\partial\theta_i}p_{\theta}(x)$

— Ashok

Son ifade, teğet alanın bir tanımının (bozuk) versiyonudur . Açıkça söylemek gerekirse, farklılaşabilir bir manifoldun bir noktasında teğetsel boşluk, o noktanın bir mahallesindeki farklılaşabilir fonksiyonların mikroplarının türevlerinin uzayına ikili (vektör uzayı) dır. Çift için bir temel oluşturur ve tanım gereği , onun ikili temelidir. Bu materyale ilişkin standart bir referans, Michael Spivak'ın Diferansiyel Geometrisinin Cilt 1'i , amazon.com/… .

{d θ_{i}}

$\{d\theta_i\}$

{\frac{\partial}{\partial θ_{i}}}

$\{\frac{\partial}{\partial\theta_i}\}$

— whuber

@ Ashok - evet. Yazdıklarımın teğet alanın tek bir tanımının kısa bir versiyonuna dayandığını düşünürdüm. Tabii ki, kotanjant uzay teğet uzayla ikili olduğu için, eşit olarak gerçek ikili temel olduğu iddia edilebilir . Her durumda yok olmadığı sürece, iyi olduğunu düşünüyorum.

d θ

$d\theta$

p_{θ}

$p_{\theta}$

— meh

Yorumlarım çok uzun, cevap olarak veriyorum.

Sorunun bu noktada matematikselden daha felsefi olduğunu düşünüyorum. Yani, bir boşluk ve bu durumda bir manifold ile ne demek istiyorsun? Bir manifoldun tipik tanımı, afin bir boşluğa gömülmeyi içermez. Bu 'modern' (150 yaşında?) Yaklaşımdır. Örneğin, Gauss için bir manifold, belirli bir afin boşluğa ( ) belirli bir gömme içeren bir manifolddu . Belirli bir gömülü bir manifold varsa , teğet boşluk (manifoldun herhangi bir noktasında), o noktada teğet boşluğunun belirli bir alt uzayıyla izomorfiktir . Herhangi bir noktada teğet boşluğunun 'aynı' . $R^n$ $R^n$ $R^n$ $R^n$ $R^n$

Noktanın Amari makalede, boşluk o kadar değinmektedir olduğunu düşünüyorum bir 'doğal' koordinatları ile benzeşik bir boşlukta gömme ile birlikte olan düşünülebilir teğet uzayındaki koordinatlar olarak . Sadece fonksiyonunun bir anlamda 'genel' olması durumunda açık olduğunu ekleyebilirim - dejenere için bu başarısız olur. Örneğin, işlev tüm değişkenleri . Ana nokta, manifoldun belirli bir gömülmesi , ile tanjant alanının belirli bir tanımlanmasına yol $S^n$ $\theta_{i}$ $p_{\theta}$ $S^n$ $p$ $p$ $\theta_{i}$ $R^n$ $p_{\theta}$ . Bir sonraki noktası, özellikleri nedeniyle , log işlevini kullanarak manifoldunu, tanjant boşluğun yeni koordinatlar (günlükler ve türevleri) açısından farklı bir kimliğe sahip olduğu başka bir afin boşluğa eşleyebilmesidir. Daha sonra, durumunun özellikleri nedeniyle, iki manifoldun izomorfik olduğunu ve haritanın teğet boşluklarda bir izomorfizme neden olduğunu söylüyor. Bu, iki teğet alanın tanımlanmasına (yani izomorfizm) yol açar. $p$

Ana fikir, iki teğet boşluğun aynı kümeler olmadığı, ancak doğru tanımlamanın ardından izomorfik (temelde 'aynı' için Yunanca olan) olmasıdır. Örneğin, 'ün tüm permütasyonlarının grubu, ' nin tüm permütasyonlarının grubu ile aynı mıdır? Basit bir düşünce deneyi olarak, , pozitif gerçekler eşlemesi , harita günlüğü altındaki tüm gerçekler göz önünde bulundurulmalıdır . Favori gerçek numaranızı ve teğet alanlarda haritanın ne olduğunu düşünün. Sonunda sorunuzu anlıyor muyum? Bir uyarı vardır, yani diferansiyel geometri benim ana uzmanlık alanım değildir. Sanırım doğru anladım, ama bu cevabı eleştirmekte veya hala sorgulamakta özgürsünüz. $\{1,2,3\}$ $\{a,b,c\}$ $R^{+}$ $R$ $>0$

— meh
kaynak

f_{*}

$f_{*}$

p

$p$

G = [g_{i, j}]

$G=[g_{i,j}]$

g_{i, j} = \sum_{x} \partial_{i} p_{θ} (x) \partial_{j} \log p_{θ} (x)

$g_{i,j}=\sum_x\partial_i p_{\theta}(x)~\partial_j\log p_{\theta}(x)$

\partial_{j} \log p_{θ}

$\partial_j\log p_{\theta}$