Bayes Teorem Sezgisi

22

Bayes teoreminin önceki , posterior , olasılık ve marjinal olasılık açısından sezgiye dayalı bir anlayışını geliştirmeye çalışıyorum . Bunun için aşağıdaki denklemi kullanıyorum: burada bir hipotezi veya inancı temsil eder ve veri veya kanıtları temsil eder. Posterior kavramını anladım - bu, önceki inancı ve bir olayın olasılığını birleştiren birleştirici bir varlık . Anlamadığım şey, olasılığın neyi ifade ettiği? Ve neden marjinal

P (B | A) = \frac{P (A | B) P (B)}{P (A)}

$P(B|A) = \frac{P(A|B)P(B)}{P(A)}$

A

$A$

B

$B$
paydada olasılık?
Birkaç kaynağı inceledikten sonra bu alıntıya rastladım:

Olabilirlik olay ağırlığıdır meydana tarafından verilen ... bir arka olay olasılığı etkinliği göz önüne alındığında, oluştu. $B$ $A$ $P(B|A)$ $B$ $A$

Yukarıdaki 2 ifade benim için aynı görünüyor, sadece farklı şekillerde yazılmış. Lütfen ikisi arasındaki farkı açıklayabilir misiniz?

bayesian likelihood intuition

— Anas Ayubi
kaynak

4

Bir yazım hatası (veya yanlış anlama) var.

B

$B$ , "hipotez veya inanç" olmalı ve

A

$A$ , formülasyonunuzdaki "veri veya kanıt" olmalıdır.

— gung - Monica'yı eski

1

cevabımı math.stackexchange.com/a/1943255/1505 adresinde görebilirsiniz . Bunu sezgisel olarak anladım

— Lyndon White

27

Bayes yasasında listelenen dört bileşen olmasına rağmen, üç kavramsal bileşen açısından düşünmeyi tercih ediyorum:

\underset{2}{\underset{⏟}{P (B | A)}} = \underset{3}{\underset{⏟}{\frac{P (A | B)}{P (A)}}} \underset{1}{\underset{⏟}{P (B)}}

$\underbrace{P(B|A)}_2 = \underbrace{\frac{P(A|B)}{P(A)}}_3 \underbrace{P(B)}_1$

Önce hakkında inanılan şeydir $B$ öncesi (yani bilginin yeni ve alakalı bir parça rastlayamamıs $A$ ).
Posterior Neye inandığın (veya gerektiğini, sen rasyonel varsa) ilgili $B$ sonra yeni bir bilgi ve ilgili parça rastlayamamıs.
Olasılığının bölüm bilgilerinin yeni parçasının marjinal olasılık bölü endeksler bilgisellik ilgili inançları için yeni bilgi $B$ .

— gung - Monica'yı eski durumuna döndürün
kaynak

19

Zaten birkaç iyi cevap var, ama belki bu yeni bir şey ekleyebilir ...

Her zaman Bayes kuralını, aşağıda gösterildiği gibi ve olayları açısından geometrik olarak anlaşılabilen bileşen olasılıkları açısından düşünüyorum . $A$ $B$

Marjinal olasılıklar ve karşılık gelen çevrelerinin alanlar tarafından verilmektedir. Tüm olası sonuçlar, " veya " olay kümesine karşılık gelen ile temsil edilir . Birleşik olasılık etkinlik "karşılık gelir ve ". $P(A)$ $P(B)$ $P(A \cup B)=1$ $A$ $B$ $P(A \cap B)$ $A$ $B$

Bu çerçevede, Bayes teoremindeki koşullu olasılıklar alanların oranları olarak anlaşılabilir. Olasılığı verilen fraksiyonudur tarafından işgal edilen olarak ifade edilen, $A$ $B$ $B$ $A \cap B$ Benzer bir şekilde, olasılıkverilenfraksiyonudurtarafından işgal edilen, yani

P (A | B) = \frac{P (A \cap B)}{P (B)}

$P(A\vert B)=\frac{P(A \cap B)}{P(B)}$

B

$B$

A

$A$

A

$A$

A \cap B

$A \cap B$

P (B | A) = \frac{P (A \cap B)}{P (A)}

$P(B\vert A)=\frac{P(A \cap B)}{P(A)}$

Bayes teoremi gerçekten olarak yeniden ifade edilebilirler Yukarıdaki tanımların sadece matematiksel bir sonucu olduğunu Bunu bulmak simetrik şeklinde hatırlamak çok daha kolay Bayes teoremi. Yani kimlik, hangi veya nin "önceki" ve "arka" olarak etiketlendiğine bakılmaksızın geçerlidir .

P (B | A) P (A) = P (A \cap B) = P (A | B) P (B)

$P(B\vert A)P(A)=P(A \cap B)=P(A\vert B)P(B)$

p (A)

$p(A)$

p (B)

$p(B)$

(Yukarıdaki tartışmayı anlamanın başka bir yolu da bu soruya verdiğim cevaba daha "muhasebe elektronik tablosu" açısından verilmiştir.)

— GeoMatt22
kaynak

9

@gung'un harika bir cevabı var. Gerçek bir dünya örneğinde "inisiyasyonu" açıklamak için bir örnek daha ekleyeceğim.

Gerçek dünya örnekleriyle daha iyi bağlantı kurmak için, hipotezi ( denkleminizdeki ) temsil etmek için ve kanıtları temsil etmek için kullandığınız gösterimi değiştirmek istiyorum. ( denkleminizdeki ) $H$ $A$ $E$ $B$

Yani formül

P (H | E) = \frac{P (E | H) P (H)}{P (E)}

$P(H|E) = \frac{P(E|H)P(H)}{P(E)}$

Aynı formülün şu şekilde yazılabileceğini unutmayın:

P (H | E) \propto P (E | H) P (H)

$P(H|E) \propto {P(E|H)P(H)}$

burada gelir orantılı ve olan olabilirlik ve olan önceki . Bu denklem , denklemin sağ tarafı daha büyükse posteriorun daha büyük olacağı anlamına gelir . nin sayıyı olasılığa dönüştürmek için normalleştirme sabiti olduğunu düşünebilirsiniz sabit olduğunu söylememin sebebi, kanıtının zaten verilmiş olmasıdır.) $\propto$ $P(E|H)$ $P(H)$ $P(E)$ $E$

Gerçek bir dünya örneği için, kredi kartı işlemlerinde sahtekarlık algılaması yaptığımızı varsayalım. O zaman hipotez , işlemin normal veya hileli olduğu . (Sezgiyi göstermek için aşırı dengesiz davayı seçtim). $H \in \{0,1\}$

Alan adı bilgisinden, çoğu işlemin normal olacağını biliyoruz, sadece çok azı sahtekarlıktır. Bize bir uzman farzedelim vardır anlattı de dolandırıcılık olacaktır. Diyebiliriz Yani önce olduğu ve . $1$ $1000$ $P(H=1)=0.001$ $P(H=0)=0.999$

$P(H|E)$

$E\in\{0,1\}$

$P(E=1|H=0)$ $P(E=1|H=1)$

$E=1$

— Haitao Du
kaynak

P (H = 0)

$P(H=0)$

0.999

$0.999$

P (H = 1) = 0.001

$P(H=1)=0.001$

1

Bayes'in kuralının

$P(a|b)=\frac{P(b,a)}{P(b)}=\frac{P(b,a)}{P(b)P(a)}P(a)$

Oranı not edin

\frac{P (b, a)}{P (b) P (a)} .

$\frac{P(b,a)}{P(b)P(a)}.$

$B \perp A$ $P(b,a)=P(b)P(a)$ . So it’s almost like telling us how far the joint deviates from full independence, or how much information the variables have in common.

Interestingly, the log of this ratio is also present in mutual information:

I (A | B) = \sum_{a, b} P_{} (a, b) \log \frac{P_{} (b, a)}{P (b) P (a)}

$I(A|B) = \sum_{a,b}P_{}(a,b)\mathbf{\log\frac{P_{}(b,a)}{P(b)P(a)}}$

— user0
kaynak

0

I often find viewing the theorem as a table, with the possible outcomes for "B" as the rows, and the possible outcomes for "A" as the columns. The joint probabilities $P(A,B)$ are the values for each cell. In this table we have

likelihood = row proportions posterior = column proportions

The prior and marginal are analogously defined, but based on "totals" instead of a particular column

marginal = row total proportions prior = column total proportions

I find this helps me.

— probabilityislogic
kaynak