Olasılık olarak Karşılıklı Bilgi

Ortak entropi üzerinde karşılıklı bilgi olabilir mi:

"X'den Y'ye bir parça bilgi aktarma olasılığı" olarak tanımlanabilir mi?

Çok naif olduğum için üzgünüm, ama hiçbir zaman bilgi teorisi üzerinde çalışmadım ve sadece bununla ilgili bazı kavramları anlamaya çalışıyorum.

Tanımladığınız ölçüme Bilgi Kalite Oranı [IQR] denir (Wijaya, Sarno ve Zulaika, 2017). IQR karşılıklı bilgi "toplam belirsizlik" (ortak entropi) ile bölünür (resim kaynağı: Wijaya, Sarno ve Zulaika, 2017).$I(X,Y)$$H(X,Y)$

Wijaya, Sarno ve Zulaika (2017) tarafından tarif edildiği gibi,

IQR aralığı . DWT bilgi kaybetmeden bir sinyali mükemmel bir şekilde yeniden kurabilirse en büyük değere (IQR = 1) ulaşılabilir. Aksi takdirde, en düşük değer (IQR = 0) MWT'nin orijinal bir sinyalle uyumlu olmadığı anlamına gelir. Diğer bir deyişle, belirli MWT'ye sahip yeniden yapılandırılmış bir sinyal temel bilgileri tutamaz ve orijinal sinyal özellikleri ile tamamen farklı olamaz.$[0,1]$

Bunu, bilgi kaybetmeden sinyalin mükemmel bir şekilde yeniden inşa edilme olasılığı olarak yorumlayabilirsiniz . Bu tür yorumlamanın, öznelliğin olasılık yorumuna , daha sonra da geleneksel, sıkça yorumlanmaya daha yakın olduğuna dikkat edin .

IQR = 1, yeniden yapılandırılmış bilginin güvenilir olduğuna inandığımız anlamına gelir ve IQR = 0 bunun tersi anlamına gelir. İkili olayların olasılıklarının tüm özelliklerini paylaşır. Ayrıca, entropiler olasılıklarla bir dizi başka özelliği paylaşır (örneğin, koşullu entropilerin tanımı, bağımsızlık vb.). Bu yüzden bir olasılık gibi görünüyor ve bunun gibi quacks.

Wijaya, DR, Sarno, R. ve Zulaika, E. (2017). Anne dalgacık seçimi için yeni bir metrik olarak Bilgi Kalite Oranı. Kemometri ve Akıllı Laboratuvar Sistemleri, 160, 59-71.

İşte olasılık uzayının tanımı. Oradaki notasyonları kullanalım. IQR bir demetin bir fonksiyonudur $(\Omega,\mathscr F,P,X,Y)$ (İlk üç bileşen, iki rastgele değişkenin tanımlandığı olasılık alanını oluşturur). Bir olasılık ölçüsü, Tim'in cevabında listelenen tanımın tüm koşullarını karşılayan bir ayar fonksiyonu olmalıdır. Bir belirtmek gerekir $\Theta:=(\Omega,\mathscr F,P,X,Y)$ bir kümenin bir alt kümesi olarak $\tilde\Omega$ . Ayrıca, $\Theta$'s alt kümelerinin bir alan oluşturmak için olan $\tilde\Omega$ ve bu $\text{IQR}(\Omega,\mathscr F,P,X,Y)$ Tim yanıt listelenen olasılık ölçü tanımında sıralanan her üç niteliği de karşılamak zorundadır. Kişi böyle bir nesneyi inşa edene kadar, IQR'nin bir olasılık ölçüsü olduğunu söylemek yanlıştır. Biri için böyle karmaşık bir olasılık ölçüsünün faydasını görmüyorum (IQR fonksiyonunun kendisi değil, bir olasılık ölçüsü olarak). Tim'in cevabında belirtilen makalede IQR, olasılık olarak değil, bir metrik olarak çağrılır veya kullanılır (Birincisi, ikincisinin bir türüdür, ancak ikincisi, birincisi değildir.).

Öte yandan, [ 0 , 1 ] üzerindeki herhangi bir sayının olasılık olmasını sağlayan önemsiz bir yapı vardır . Özellikle bizim durumumuzda, herhangi bir düşünün İçeride ISTV melerin RWMAIWi'nin . Örnek alanı olarak iki öğeli bir dizi çekme ~ Ω : = { a , b } , alan olsun ~ F : = 2 ~ Ω ve olasılık ölçü koymuştur ~ P ( a ) : = IQR ( Θ ) . Tarafından endekslenmiş bir olasılık uzayları sınıfımız var$[0,1]$$\Theta$$\tilde\Omega:=\{a,b\}$$\tilde{\mathscr F}:=2^{\tilde\Omega}$$\tilde P(a):=\text{IQR}(\Theta)$$\Theta$ .