İngilizceyi Bayesian’yi Frequentist akıl yürütmeden ayıran özellikleri nasıl açıklarsınız?
Yanıtlar:
Büyükanneme olan temel farkı şöyle açıklayacağım:
Telefonumu evde bir yere yanlış yerleştirdim. Telefonu bulmak için cihazın tabanındaki telefon bulucuyu kullanabilirim ve telefon bulucusuna bastığımda telefon bip sesi çıkarmaya başlar.
Sorun: Evimin hangi bölgesini aramalıyım?
Telefonun bip sesi duyabiliyorum. Ayrıca, sesin geldiği alanı tanımlamama yardımcı olan zihinsel bir modelim var. Bu nedenle, bip sesini duyduktan sonra, telefonumun yerini bulmak için evimin bulunduğu bölgeyi çıkarım.
Telefonun bip sesi duyabiliyorum. Şimdi, sesin geldiği alanı tanımlamama yardımcı olan zihinsel bir model dışında, geçmişte telefonu yanlış yerleştirdiğim yerleri de biliyorum. Bu yüzden, çıkarımlarımı bip seslerini ve geçmişte telefonu yanlış yerleştirdiğim yerler hakkında önceki bilgilerimi kullanarak telefonu bulmak için aramam gereken bir alanı tanımlarım.
Dil sıkıca yanakta:
Bir Bayesian, bir “olasılık” ı tam olarak istatistikçi olmayan kişilerin çoğunun yaptığı gibi tanımlar - yani bir önermenin ya da durumun uygunluğunun bir göstergesi. Ona bir soru sorarsanız, size belirli bir durum için olası sonuçların olasılıklarını açıklayan olasılıkları belirleyen doğrudan bir cevap verecektir (ve önceki varsayımlarını belirtiniz).
Bir Frequentist, olasılıkların olayların gerçekleştiği uzun dönem frekansları temsil ettiğine inanan bir kişidir; Gerekirse, özel durumunuzun rastgele bir örnek olarak değerlendirilebileceği, uzun süreli frekanslar hakkında anlamlı bir şekilde konuşabilmesi için hayali bir popülasyon icat edecektir. Ona belirli bir durum hakkında bir soru sorarsanız, doğrudan bir cevap vermeyecek, bunun yerine bu (muhtemelen hayali) nüfus hakkında bir açıklama yapacak. Sıklık çekmeyen istatistikçilerin çoğu, cevapla kolayca karışacak ve bunu belirli bir durumla ilgili olarak Bayesian olasılığı olarak yorumlayacak.
Bununla birlikte, Frequentist yöntemlerin çoğunun bir Bayesci eşdeğerine sahip olduğunu, çoğu durumda temelde aynı sonucu vereceklerini, farkın büyük ölçüde bir felsefe meselesi olduğunu ve pratikte bunun “dersler için atlar” meselesi olduğunu not etmek önemlidir.
Tahmin edebileceğiniz gibi ben bir Bayes ve mühendisim. ;Ö)
Çok kabaca şöyle derdim:
Sık sık: Örnekleme sonsuzdur ve karar kuralları keskin olabilir. Veriler tekrarlanabilir rastgele bir örnektir - bir sıklık var. Temel parametreler sabittir, yani bu tekrarlanabilir örnekleme sürecinde sabit kalırlar.
Bayes: Bilinmeyen büyüklüklere olasılıkla muamele edilir ve dünyanın durumu her zaman güncellenebilir. Gerçekleştirilen örnekten veriler gözlenmektedir. Parametreler bilinmiyor ve olasılıkla açıklanıyor. Sabit olan veridir.
Bayesçi ve Frequentist'in aynı sorunu nasıl çözeceği konusunda net bir örnek veren mükemmel bir blog yazısı var. Neden sorunu kendiniz yanıtlamıyor ve sonra kontrol etmiyorsunuz?
Problem (Panos Ipeirotis'ın blogundan alınmış):
Döndürdüğünüzde, p olasılıklı p ile başa biter ve 1-p olasılıkla kuyruk biter. (P'nin değeri bilinmiyor.)
P'yi tahmin etmeye çalışırken, yazı teli 100 kez çevrilir. 71 kez kafa biter.
O zaman şu olaya karar vermelisin: "Gelecek iki fırında art arda iki kafa alacağız."
Etkinliğin gerçekleşeceğine veya gerçekleşmeyeceğine bahse girer misin?
Diyelim ki bir adam altı taraflı bir kalıbı yuvarlar ve sonuçları 1, 2, 3, 4, 5 veya 6'dır. Ayrıca, eğer 3'e inerse, size ücretsiz bir ders kitabı vereceğini söyler.
O zaman gayri resmi olarak:
Frequentist her sonuç olarak meydana gelen eşit 1'de 6 şansı var olduğunu söyleyebilirim. Olasılığı, uzun dönem frekans dağılımlarından kaynaklanmış olarak görüyor.
Bayes ancak bir saniye bekle söyleyebilirim, bu adamı tanıyorum, David Blaine, ünlü düzenbaz var! Onun bir şeylere karıştığını hissediyorum. Bunun sadece% 1'inin 3 A'ya inme şansı olduğunu söyleyeceğim. AMA bu inancı yeniden değerlendireceğim ve ölürken daha fazla değiştireceğim. Diğer sayıların eşit olarak geldiğini görürsem, şansı% 1'den biraz daha yüksek bir şeye yinelemeli olarak arttıracağım, aksi halde daha da azaltacağım. O bir önermedeki inanç derecesi olarak görüyor.
Sadece birazcık eğlence ...
Bu siteden:
http://www2.isye.gatech.edu/~brani/isyebayes/jokes.html
ve aynı siteden güzel bir deneme ...
"Bayes Teoreminin Sezgisel Bir Açıklaması"
Bayesian'den, hangi sineklerin daha fazla hayat kurtaracağı veya hangi mahkumların hapse girmesi gerektiği konusunda daha hızlı uçacak bir duvar içerebileceği herhangi bir şeyi içerebilecek bahisler yapması istenir. Saplı büyük bir kutusu var. Kişisel düşüncesi de dahil olmak üzere, kesinlikle bildiği her şeyi kutuya koyarsa ve kolu çevirirse, onun için mümkün olan en iyi kararı vereceğini bilir.
Sıkça rapor yazması istenir. Kara bir kural kitabı var. Rapor vermesi istenen durum onun defteri tarafından kapsanıyorsa, kuralları izleyebilir ve o kadar dikkatli bir şekilde rapor yazabilir ki, en kötüsü, 100'de bir kez (ya da 20'de bir kez ya da bir kez) Raporunda belirtilenler ne olursa olsun zamanı).
Sık görüşmeci (bunun hakkında raporlar yazdığı için) Bayeses'in bazen en kötü durumda kişisel görüşünün yanlış olduğu durumlarda kötü sonuç verebileceği üzerine bahis yaptığını bilir. Frekans uzmanı ayrıca (aynı sebepten dolayı), ondan her seferinde Bayesana karşı bahis yaparsa uzun vadede kaybedeceğini biliyor.
Sade ingilizce'de, Bayesian ve Frequentist akıl yürütmenin soruyu cevaplamanın iki farklı yolu ile ayırt edildiğini söyleyebilirim:
Olasılık nedir?
Pek çok fark, temel olarak her bir sorunun bu soruyu nasıl cevapladığına bağlı olacaktır, çünkü temel olarak teorinin geçerli uygulamalarının alanını tanımlamaktadır. Artık daha fazla soru sormadan gerçekten ya da "basit ingilizce" olarak cevap veremezsiniz. Benim için cevap (tahmin edebileceğiniz gibi)
olasılık mantıktır
. Ek olarak, olasılıklar hesabı, önermeler hesabından elde edilebilir. Bu, en çok "bayes" mantığına uygundur - bununla birlikte uygulamalarda bayes mantığını, onları manipüle etme prensiplerine ek olarak, olasılıklara atamak için prensipler sağlayarak da genişletir. Tabii ki, bu "mantık nedir?" benim için, bu sorunun cevabı olarak verebileceğim en yakın şey “mantık, rasyonel bir kişinin sağduyulu yargıları, verilen bir varsayımlar kümesidir” (rasyonel bir insan nedir? vb.). Mantık, Bayesian muhakemenin sahip olduğu özelliklerin hepsine sahiptir. Örneğin, mantık size neyin varsayılacağını ya da “kesinlikle doğru” olanı söylemez. Size sadece bir önermenin gerçeğinin başka birinin gerçeği ile nasıl ilişkili olduğunu söyler. Sonuçlara başlamak için her zaman "aksiyom" içeren mantıksal bir sistem sağlamanız gerekir. Ayrıca, çelişkili aksiyomlardan keyfi sonuçlar alabilmeniz için de aynı sınırlamaları vardır. Fakat “aksiyomlar” önceden belirlenmiş olasılıklardan başka bir şey değildir
Sıkça muhakeme için, cevabımız şu:
olasılık frekans
Her ne kadar "frekans" burada kullanıldığı şekilde basit bir ingilizce terim olduğundan emin olmasam da - belki de "oran" daha iyi bir kelimedir. Bir olayın olasılığının, onu hesaplayan kişi / cisimden bağımsız olarak var olan gerçek, ölçülebilir (gözlenebilir?) Bir miktar olduğu düşünüldüğünü sıkça cevaplamak istedim. Ama bunu "sade ingilizce" şekilde yapamadım.
Bu yüzden belki de farkın "sade ingilizce" versiyonu, sıkça muhakemenin "mutlak" olasılıklardan muhakeme girişimi, bayes muhakemesi de "göreceli" olasılıklardan muhakeme girişimi olabilir.
Başka bir fark, sık temelli temellerin, gerçek dünya sorununu teorinin soyut matematiğine çevirme biçiminde daha belirsiz olmasıdır. İyi bir örnek teoride "rasgele değişkenler" kullanımıdır - matematiğin soyut dünyasında kesin bir tanımı vardır, ancak bazı gözlenen miktarların rastgele olup olmadığına karar vermek için kullanılabilecek kesin bir prosedür yoktur. değişken".
Bayes mantıklı düşünme şekli, "rastgele değişken" kavramı gerekli değildir. Olasılık bilinmediğinden bir nicelik dağılımına bir olasılık dağılımı verilir - bu, sahip olduğumuz bilgilerden mantıksal olarak çıkarılamadığı anlamına gelir. Bu, bir kerede gözlemlenebilir miktar ile teori arasında basit bir bağlantı sağlar - "bilinmeyen" olduğu gibi açık değildir.
Ayrıca, yukarıdaki örnekte, bu iki düşünme biçimindeki bir başka farkı görebilirsiniz - "rastgele" vs "bilinmeyen". "rastgelelik", "rasgelelik" gerçek miktarın bir özelliği gibi gözükecek şekilde ifade edilir. Tersine, “bilinmemek”, bu miktar hakkında sorduğunuz kişiye bağlıdır - bu nedenle analizi yapan istatistikçinin bir özelliğidir. Bu, genellikle her teoriye ekli olan "öznel" sıfatlara karşı "nesnel" e yol açar. "Rastgelelik" in, "rastgele" olup olmadığına karar vermesi için aynı miktar hakkında farklı bilgiler verilen iki frekansçıya sorarak, bazı standart örneklerin bir özelliği olamayacağını göstermek kolaydır. Biri, her zamanki Bernoulli Urn'dir: frekansçı 1 çizim sırasında gözü kapalıdır, Frekanscı 2 urnun üzerinde dururken, Frekansçı 1'in urndaki topları çizdiğini izlerken. Eğer "rastgelelik" beyanı urn içerisindeki topların bir özelliği ise, o zaman frekansçı 1 ve 2'nin farklı bilgisine dayanamaz - ve bu yüzden iki frekansçı aynı "rastgele" veya "rastgele değil" beyanını vermelidir. .
Gerçekte, konuyu çevreleyen felsefenin çoğunun sadece çarpıcı olduğunu düşünüyorum. Bu tartışmayı reddetmek değil, ancak bir dikkat kelimesidir. Bazen pratik meseleler önceliklidir - aşağıda bir örnek vereceğim.
Ayrıca, ikiden fazla yaklaşımın olduğunu kolayca iddia edebilirsiniz:
Frequentist ve Bayesian hakkında ortak dil konuşma dilinde "birçok kişi. Ben daha geçerli ayrım olabilirlik temelli ve frequentist olduğunu düşünüyorum Üst düzey bir meslektaşım geçenlerde hatırlattı. Maksimum olabilirlik ve Bayes yöntemleri Hem uyması olabilirlik ilkesi frequentist yöntemler yoktur oysa. "
Çok basit bir pratik örnekle başlayacağım:
Bu nedenle test, hastanın sağlıklı veya hasta olmasına bağlı olarak% 100 kesin veya% 95 kesindir. Birlikte ele alındığında, testin en az% 95 oranında doğru olduğu anlamına gelir.
Çok uzak çok iyi. Bunlar bir sıkça tarafından yapılan ifadelerdir. Bu ifadelerin anlaşılması oldukça kolaydır ve doğrudur. 'Sıkça yapılan bir yorumlama' hakkında endişelenmenize gerek yok.
Ancak, bir şeyleri tersine çevirmeye çalıştığınızda işler ilginçleşiyor. Test sonucu göz önüne alındığında, hastanın sağlığı hakkında ne öğrenebilirsiniz? Olumsuz bir test sonucu verildiğinde, hasta herhangi bir yanlış negatif olmadığından açıkça sağlıklıdır.
Ancak, testin olumlu olduğu durumu da göz önünde bulundurmalıyız. Test pozitif miydi, çünkü hasta gerçekten hasta mıydı, yoksa yanlış pozitif mi? Burası frekansçı ve Bayesyen'in ayrıldığı yerdir. Şu an bunun cevaplanamayacağına herkes katılacak. Sık görüşmeci cevap vermeyi reddedecektir. Bayesian size bir cevap vermeye hazır olacak, ama Bayesian'a önce bir öncek vermek zorunda kalacaksınız - yani hastaların ne kadarının hasta olduğunu söyleyeceksiniz.
Özetlemek için aşağıdaki ifadeler doğrudur:
Bunun gibi ifadelerden memnunsanız, sık sık yorumlar kullanıyorsunuzdur. Bu, ne tür sorunlara baktığınıza bağlı olarak projeden projeye değişebilir.
Ancak farklı ifadeler yapmak ve aşağıdaki soruyu cevaplamak isteyebilirsiniz:
Bu, önceki ve Bayes yaklaşımı gerektirir. Ayrıca, doktorun ilgilendiği tek sorunun bu olduğuna dikkat edin. Doktor, “Hastaların pozitif veya negatif sonuç alacağını biliyorum. Artık olumsuz sonucun hastanın sağlıklı olduğu ve eve gönderilebileceğini de biliyorum. Şimdi beni ilgilendiren sadece hastalar olumlu bir sonuç - onlar hasta mı? "
Özetlemek gerekirse: Bunun gibi örneklerde Bayesian, frekansçı tarafından söylenen her şeye katılacak. Ancak Bayesçili, frekansçı ifadelerin doğru olsa da çok faydalı olmadığını savunacak; ve yararlı soruların sadece bir öncekiyle cevaplanabileceğini iddia edecektir.
Bir uzman, parametrenin olası her değerini (H veya S) sırasıyla değerlendirecek ve “parametrenin bu değere eşit olup olmadığını, sınavımın doğru olma ihtimalinin ne olduğunu” soracaktır.
Bir Bayesian bunun yerine her olası gözlemlenen değeri (+ veya -) sırasıyla değerlendirecek ve “Bu değeri henüz yeni gözlemledim, bu H-versus-S'nin koşullu olasılığı hakkında ne söylüyor?” Diye soracaktır.
For sick patients, the test is NOT very accurate.unuttun mu demek istiyorsun?
Bayes ve sıkça yapılan istatistikler, geçmiş olaylara dayanarak gelecekteki olayların olasılığını değerlendirmek için iki sınırlayıcı durum olarak ve kabul edilebilir bir model olarak kabul edilebilecekleri için uyumludur; sistem kalır ve bu anlamda çok fazla sayıda gözlem modelin parametrelerini bilmeye eşittir.
Bazı gözlemler yaptığımızı varsayalım, örneğin, 10 bozuk para fiziğinin sonucu. Bayesian istatistiklerinde, gözlemlediklerinizden başlayıp, gelecekteki gözlemlerin veya model parametrelerinin olasılığını değerlendirirsiniz. Sık sık istatistiklerde, çok sayıda gözlemin senaryolarını varsayarak doğru olanın fikrinden (hipotez) başlarsınız, örneğin, madeni para tarafsızdır ve birçok kez atarsanız% 50 oranında kafa atar. Çok sayıda gözlemin (= hipotez) bu senaryolarına dayanarak, yaptığınız gibi gözlem yapma sıklığını, yani 10 yazı turasının farklı sonuçlarının sıklığını değerlendiriyorsunuz. Ancak o zaman asıl sonucunuzu alırsınız, olası sonuçların sıklığı ile karşılaştırın ve sonucun yüksek frekansta gerçekleşmesi beklenenlere ait olup olmadığına karar verirsiniz. Bu durumda, yapılan gözlemin sizin senaryolarınızla çelişmediği sonucuna varırsınız (= hipotez). Aksi takdirde, yapılan gözlemin senaryolarınızla uyumlu olmadığı sonucuna varırsınız ve hipotezi reddedersiniz.
Böylelikle Bayesci istatistik gözlemlenen şeyden başlar ve gelecekteki olası sonuçları değerlendirir. Sık kullanılan istatistikler, bir şey varsayarsa ne gözleneceğine dair soyut bir deneyle başlar ve ancak o zaman soyut denemenin sonuçlarını gerçekte gözlemlenenle karşılaştırır. Aksi takdirde, iki yaklaşım uyumludur. Her ikisi de, yapılan gözlemlere veya varsayımlara dayanan bazı gözlemlere dayanarak gelecekteki gözlemlerin olasılığını değerlendirir.
Bunu daha resmi bir şekilde yazmaya başladım:
Bayesci çıkarımı, sıkça çıkarımın özel bir uygulaması olarak konumlandırma ve bunun tersi. figshare.
http://dx.doi.org/10.6084/m9.figshare.867707
El yazması yeni. Eğer okuyacak ve yorum yapacaksanız, lütfen bana bildirin.
Olasılığa farklı şekillerde baktıklarını söyleyebilirim. Bayesian özneldir ve bilinmeyen parametrelerin olası değerleri üzerinde önceden bir olasılık dağılımı tanımlamak için önceden inançlar kullanır. Bu yüzden de deFinetti'ninki gibi bir olasılık teorisine güvenir. Sık görüşmeci, olasılığı gözlenen bir orana dayanan sınırlayıcı bir frekansla ilgili bir şey olarak görür. Bu, Kolmogorov ve von Mises tarafından geliştirilen olasılık teorisi ile aynı çizgidedir.
Bir frekans uzmanı, sadece olabilirlik fonksiyonunu kullanarak parametrik çıkarım yapar. Bir Bayesian bunu alır ve öncekilerle çoğalır ve çıkarım için kullandığı posterior dağılımı elde etmek için normalleştirir.
Bu soruyu cevaplamamın yolu, frekans uzmanlarının gördükleri verileri beklentileriyle karşılaştırmalarıdır. Başka bir deyişle, bir şeyin ne sıklıkta olması gerektiğine dair zihinsel bir modele sahipler ve ardından verileri ve bunun ne sıklıkla gerçekleştiğini görüyorlar. yani seçtikleri modelde gördükleri verinin ne kadar muhtemel olduğu.
Bayes insanlar, diğer taraftan, birleştirmek onların zihinsel modellerini. Yani, onlara önceki verilerin deneyimlerine dayanarak, verinin neye benzemesi gerektiğini düşündüklerini söyleyen bir modeli var ve sonra bunu bir “ arka” inancına yerleşmek için gözlemledikleri verilerle birleştiriyorlar . yani, seçtikleri modelin gözlemledikleri veriler göz önüne alındığında geçerli olma ihtimalini bulurlar.
Frequentist: Doğanın gerçek hali. Alışkanlıkla böyle analizler yaparsam cevaplarımın% 95'i doğru olacak.
Bayesian: Gerçek cevabın% 95 olması ihtimali var .... Bunu bana verdiğin verilerle gerçeğin ne olduğuna dair önceki tahminlerimize dayandırıyorum.
Frequentist: zar üzerindeki bahis. Sonuca sadece zarın değeri karar verecek: bahsinizi kazanırsınız veya kazanmazsınız. Yalnız şansa bağlı olarak.
Bayesian: Texas Hold'em poker oynuyor. İki kartınızı gören tek kişi sizsiniz. Masadaki diğer oyuncular hakkında biraz bilginiz var. Flop, turn ve river'da ve muhtemelen hangi oyuncuların kaldığına göre kazanma olasılığınızı ayarlamanız gerekir. Sık sık blöf yapıyorlar mı? Saldırgan mı pasif oyuncular mı? Bütün bunlar ne yaptığınıza karar verecek. Kazandığın ya da kazanmadığına karar verecek olan sadece ilk iki kelepçenin olasılığı değil.
Sık sık poker oynamak, her oyuncunun başlangıçta ellerini göstereceği ve sonra flop, turn ve river kartlarının gösterilmesinden önce bahis ya da bahis oynayacağı anlamına gelir. Şimdi sadece kazanıp kazanmamanız yine şansa bağlı.
Söylesene, başım ağrırsa gidip doktora git. Diyelim ki doktor kararında baş ağrısının iki nedeni, beyin tümörü için 1 numara (zamanın% 99'unda baş ağrısı yaratan bir kök nedeni) ve # 2 soğuk (çok az hastada baş ağrısı yaratabilecek bir neden) olduğunu varsayalım. .
Daha sonra Frequentist yaklaşıma dayanan bir doktor kararları olurdu, beyin tümörünüz var.
Bayesçi yaklaşımına dayanan doktorlar kararın size şunu söyleyeceğini söyler: soğuk algınlığınızın yalnızca% 1'i baş ağrısına yol açsa bile)
Bir erkek kedi ve bir dişi kedi, bir çelik haznede 70 gün boyunca yeterli yiyecek ve suyla birlikte kaleme alınır.
Bir Frequentist kedigiller için ortalama gebelik süresinin 66 gün olduğunu, dişi kediler toplandığında dişinin sıcak olduğunu ve sıcakta bir kez 4 ila 7 gün boyunca tekrar tekrar çiftleşeceğini söylüyor . Muhtemelen birçok yayılma eylemi ve gebelik için yeterli takip süresi olduğundan, olasılık, kutu 70. günde açıldığında, bir miktar yeni doğan yavru var.
Bir Bayesian şöyle derdi: 1. gün kutudan gelen ciddi bir Marvin Gaye sesi duydum ve sonra bu sabah kutudan pek çok yavru kedi benzeri ses geldiğini duydum. Bu nedenle, kedi üremesi hakkında fazla bir şey bilmeden, olasılık, şu ki, 70. günde kutu açıldığında, bir miktar yenidoğan yavru var.