Bayesci ve sıkça tartışmanın tartışması için herhangi bir * matematiksel * temel var mı?

Vikipedi'de şöyle yazıyor :

[olasılık] matematiği, olasılıkla ilgili yorumlardan büyük ölçüde bağımsızdır.

Soru: Biz matematiksel olarak doğru olmak istiyorsanız Sonra izin vermediğimiz olmamalıdır herhangi olasılık yorumunu? Yani, hem Bayesci hem de frekansçılık matematiksel olarak yanlış mı?

Felsefeden hoşlanmıyorum, ama matematikten hoşlanıyorum ve sadece Kolmogorov'un aksiyomları çerçevesinde çalışmak istiyorum. Eğer bu benim hedefimse, Wikipedia'da hem Bayesciliği hem de sıklığı reddetmem gerektiğini söylediği şeyden mi gelmeli ? Eğer kavramlar tamamen felsefi ise ve hiç matematiksel değilse, neden ilk önce istatistiklerde yer alıyorlar?

Arkaplan / Bağlam:
Bu blog yazısı aynı şeyi söylemiyor, ancak teknikleri "Bayesian" veya "sık sık" olarak sınıflandırmaya çalışmanın pragmatik bir perspektiften karşı üretken olduğunu savunuyor.

Vikipedi'den alıntı doğru ise, istatistiksel yöntemleri sınıflandırmaya çalışan felsefi bir perspektiften gibi görünüyor da aynı zamanda ters-üretkendir - eğer bir metot matematiksel olarak doğruysa, temel matematiğin varsayımları kullanılırken metodu kullanmak geçerlidir. aksi halde, eğer matematiksel olarak doğru değilse veya varsayımlar geçerli değilse, o zaman kullanmak geçersizdir.

Öte yandan, pek çok insan neden "Bayesian çıkarımı" olasılık teorisi (yani Kolmogorov'un aksiyomları) ile tanımlamış gibi görünüyor, ancak nedenini bilmiyorum. Bazı örnekler Jaynes'in "Olasılık" adlı Bayesci çıkarsama konusundaki incelemesinin yanı sıra James Stone'un "Bayes Kuralı" adlı kitabıdır. Öyleyse bu iddiaları yüz değerinde almış olursam, bu Bayesçiliği tercih etmem gerektiği anlamına gelir.

Bununla birlikte, Casella ve Berger'in kitabı sık görülüyor gibi görünüyor, çünkü maksimum olasılık tahmin edicilerinden bahsediyor, ancak maksimum bir posteriori tahmin edicisini görmezden geliyor, fakat aynı zamanda her şeyin matematiksel olarak doğru olduğu görülüyor.

Öyleyse, istatistiklerin matematiksel olarak doğru olan tek versiyonunun, Bayescilik ve sıklıkçılığa ilişkin olarak tamamen agnostik olan bir şey olmayı reddeden versiyonudur? Her iki sınıflandırmaya sahip yöntemler matematiksel olarak doğruysa, o zaman bazılarını diğerlerine göre tercih etmek yanlış bir uygulama değildir, çünkü bu kesin ve iyi tanımlanmış bir matematik yerine belirsiz, kötü tanımlanmış bir felsefeye öncelik verirdi?

Özet: Kısacası, Bayesçiye karşı sıkça tartışmanın tartışmasının matematiksel temelinin ne olduğunu anlamıyorum ve tartışma için matematiksel bir temel yoksa (Wikipedia'nın iddia ettiği şey) anlamıyorum. hepsi akademik söylemde.

Olasılık uzayları ve Kolmogorov'un aksiyomları

olasılık alanı , tanım olarak bir üçlü burada bir sonuç kümesidir, bir -algebra ve altkümeleri, Kolmogorov'un aksiyomlarını yerine getiren bir olasılık ölçüsüdür, yani , ile arasında bir fonksiyondur, öyle ki ve ayrık içindeki tutar ( Ω , F , P ) Ω F σ Ω P P F [ 0 , 1 ] P ( Ω ) = 1 E 1 , E 2 , … F P ( ∪ ∞ j = 1 E j ) = ∑ ∞ j = 1 P ( E j$\mathcal{P}$$(\Omega, \mathcal{F}, \mathbb{P} )$$\Omega$$\mathcal{F}$$\sigma$$\Omega$$\mathbb{P}$$\mathbb{P}$$\mathcal{F}$$[0,1]$$\mathbb{P}(\Omega)=1$$E_1, E_2, \dots$$\mathcal{F}$$P \left( \cup_{j=1}^\infty E_j \right)=\sum_{j=1}^\infty \mathbb{P}(E_j)$.

Böyle bir olasılık alanı içinde biri, iki olay için içindeki koşullu olasılığı olarak tanımlayabilir.$E_1, E_2$$\mathcal{F}$$\mathbb{P}(E_1|_{E_2})\stackrel{def}{=}\frac{\mathbb{P}(E_1 \cap E_2)}{\mathbb{P}(E_2)}$

Bunu not et:

1. bu '' koşullu olasılık '' yalnızca 'de tanımlandığında tanımlanır , bu nedenle koşullu olasılıkları tanımlayabilmek için bir olasılık alanına ihtiyaç duyarız.$\mathbb{P}$$\mathcal{F}$
2. Olasılık alanı çok genel terimlerle tanımlanır ( bir set , bir -algebra ve bir olasılık ölçüsü ), tek şart, belirli özelliklerin yerine getirilmesi gerektiğidir; bu üç unsur '' her şey '' olabilir.$\Omega$ $\sigma$$\mathcal{F}$$\mathbb{P}$

Daha fazla ayrıntı bu linkte bulunabilir

Bayes kuralı (geçerli) herhangi bir olasılık alanında bulunur

Koşullu olasılık tanımından aynı zamanda . Ve son iki denklemden Bayes kuralını buluruz. Yani, Bayes kuralı (koşullu olasılık tanımıyla) her olasılık alanında (göstermek için, her denklemden ve türetmek ve eşitlemek Onları (onlar eşittir çünkü kesişme değişmeli)). $\mathbb{P}(E_2|_{E_1})=\frac{\mathbb{P}(E_2 \cap E_1)}{\mathbb{P}(E_1)}$$\mathbb{P}(E_1 \cap E_2)$$\mathbb{P}(E_2 \cap E_1)$

Bayes kuralı, Bayesian çıkarımının temeli olduğu için, herhangi bir geçerli (yani tüm koşulları yerine getiren, Kolmogorov'un aksiyomlarını yerine getiren) olasılık alanı içinde Bayesan analizi yapılabilir.

Sıklıkla olasılık tanımı '' özel bir durum ''

Yukarıdakiler '' genel '' şeklindedir; yani, belirli bir , , aklımızda yoktur; altkümelerinde bir algebra olduğu sürece ve Kolmogorov'un aksiyomlarını yerine getirir.$\Omega$$\mathcal{F}$$\mathbb{P}$$\mathcal{F}$$\sigma$$\Omega$$\mathbb{P}$

Şimdi "sıkça" tanımının Kolomogorov'un aksiyomlarını yerine getirdiğini göstereceğiz. Eğer durum buysa, o zaman '' sıkıcı '' olasılıklar Kolmogorov'un genel ve soyut olasılıklarının sadece özel bir halidir. $\mathbb{P}$

Bir örnek alalım ve zarları atalım. Sonra tüm olası sonuçlar kümesi edilir . Ayrıca bu sette bir -algebra'ya ihtiyacımız var ve tüm alt kümelerini alırız , yani .$\Omega$$\Omega=\{1,2,3,4,5,6\}$$\sigma$$\Omega$$\mathcal{F}$$\Omega$$\mathcal{F}=2^\Omega$

Yine de olasılık ölçüsü tanımlamak gerekir bir frequentist şekilde. Bu nedenle tanımlama olarak burada , zarın rulosunda elde edilen 'in sayısıdır . Benzer , ... .$\mathbb{P}$$\mathbb{P}(\{1\})$$\mathbb{P}(\{1\}) \stackrel{def}{=} \lim_{n \to +\infty} \frac{n_1}{n}$$n_1$$1$$n$$\mathbb{P}(\{2\})$$\mathbb{P}(\{6\})$

Bu şekilde , içindeki tüm singletonlar için tanımlanmıştır . diğer herhangi bir küme için , örneğin , ' ı sık yani , ancak 'lim' doğrusallığı ile, bu 'a eşittir , bu Kolmogorov’un aksiyomlarının tuttuğu anlamına gelir.$\mathbb{P}$$\mathcal{F}$$\mathcal{F}$$\{1,2\}$$\mathbb{P}(\{1,2\})$$\mathbb{P}(\{1,2\}) \stackrel{def}{=} \lim_{n \to +\infty} \frac{n_1+n_2}{n}$$\mathbb{P}(\{1\})+\mathbb{P}(\{2\})$

Dolayısıyla, sıklık olasılığının tanımı Kolomogorov'un genel ve özel bir olasılık ölçüsünün soyut tanımıdır.

Kolmogorov'un aksiyomlarını yerine getiren bir olasılık ölçüsü tanımlamanın başka yolları olduğuna dikkat edin, bu nedenle sık tanımlayıcı tek tanım mümkün değildir.

Sonuç

Kolmogorov'un aksiyomatik sistemindeki olasılık '' soyut '', gerçek bir anlamı yok, sadece '' aksiyom '' 'şartlarını yerine getirmek zorunda. Sadece bu aksiyomları kullanarak Kolmogorov çok zengin bir teorem seti elde edebildi.

Olasılığın frekansçı tanımı aksiyomları tamamlar ve bu nedenle soyut, '' anlamsız '' 'ı sıkça tanımlanmış bir olasılıkla değiştirir, tüm bu teoremler geçerlidir çünkü ' 'frekansçı olasılık' 'sadece özeldir Kolmogorov'un soyut olasılığı olgusu (yani aksiyomları yerine getiriyor).$\mathbb{P}$

Kolmogorov'un genel çerçevesi içerisinde türetilebilecek özelliklerden biri de Bayes kuralıdır. Genel ve soyut çerçevede tuttuğu gibi, olasılıkların sıkça bir şekilde tanımlandığı özel bir durumda da (cfr supra) tutacaktır (frekansçı tanımın aksiyomları yerine getirmesi ve bu aksiyomların ihtiyaç duyulan tek şey olması nedeniyle. tüm teoremleri türetir). Böylece, sık sık bir olasılık tanımıyla Bayesian analizi yapılabilir.

Tanımlama bir frequentist şekilde bu tür bu Kolmogorov soyut aksiyomlarını yerine getirmesi tanımlamak için başka yolları da vardır, tek olasılık değildir. Bayes 'kuralı ayrıca bu' 'özel durumlarda' 'geçerli olacaktır. Böylece, sıkça olmayan bir olasılık tanımıyla Bayesian analizi de yapılabilir .$\mathbb{P}$

EDIT 23/8/2016

@mpiktas Yorumlarınıza tepki:

Dediğim gibi, kümeleri ve olasılık ölçüsü aksiyomatik sistemde özel bir anlamı yoktur, soyutturlar. $\Omega, \mathcal{F}$$\mathbb{P}$

Eğer daha fazla vermek zorunda bu teoriyi uygulamak için tanımlarını (böylece yorumunuzda söylediklerini "gerek bazı tuhaf tanımları 'ile daha da geçinip' olduğu yanlış, ek tanımlara ihtiyaç duyan ).

Adil bir para atma vakasına uygulayalım. Kolmogorov'un teorisindeki kümesinin özel bir anlamı yoktur, sadece '' küme '' olmalıdır. Bu yüzden adil para için bu setin ne olduğunu belirtmeliyiz, yani set tanımlamalıyız . Biz H olarak baş ve kuyruk T gibi, daha sonra bir dizi temsil ediyorsa olan tanımla .$\Omega$$\Omega$$\Omega$ $\Omega\stackrel{def}{=}\{H,T\}$

Olayları da tanımlamalıyız , yani -algebra . Tanımladığımız . in -algebra olduğunu doğrulamak kolaydır .$\sigma$$\mathcal{F}$$\mathcal{F} \stackrel{def}{=} \{\emptyset, \{H\},\{T\},\{H,T\} \}$$\mathcal{F}$$\sigma$

Daha sonra her olay için ölçüsündeki tanımını . Bu yüzden gerek tanımlamak bir harita içinde . Bunu çok sık bir şekilde tanımlayacağım, adil bir madeni para için, çok sayıda , kafaların oranı 0,5 olacaktır, bu yüzden . Benzer şekilde , ve . Not bir haritasıdır içinde ve Kolmogorov belitleri yerine getirir.$E \in \mathcal{F}$$\mathcal{F}$$[0,1]$$\mathbb{P}(\{H\})\stackrel{def}{=}0.5$$\mathbb{P}(\{T\})\stackrel{def}{=}0.5$$\mathbb{P}(\{H,T\})\stackrel{def}{=}1$$\mathbb{P}(\emptyset)\stackrel{def}{=}0$$\mathbb{P}$$\mathcal{F}$$[0,1]$

Sıklık olasılığının tanımına bir referans için bu bağlantıya ('tanım' bölümünün sonunda) ve bu bağlantıya bakın .

İstatistikler Matematik Değildir

İlk önce, @ whuber'un İstatistikleri'nde yer alan bir yorumdan çıkan sözleri çaldım matematik değil mi? (farklı bir bağlamda uygulanır, bu yüzden alıntı yapmadan, kelimeleri çalıyorum):

"İstatistiği", "kimya", "iktisat", "mühendislik" veya matematiği kullanan herhangi bir alanla (ev ekonomisi gibi) değiştirecekseniz, hiçbir fikrinizin değişmeyeceği anlaşılmaktadır.

Tüm bu alanların var olmasına ve yalnızca hangi teoremlerin doğru olduğunu kontrol ederek çözülmeyen soruları olmasına izin verilir. İstatistiklerdeki bazı cevaplar matematik olmasa da? katılmıyorum, istatistiklerin (saf) matematik olmadığı açıktır. Olasılık teorisi, (saf) matematiğin bir dalı yapmak istiyorsanız, gerçekten sorduğunuz türdeki tüm tartışmaları görmezden gelebilirsiniz. Bazı gerçek dünyası soruları modellemek için olasılık teorisini uygulamak istiyorsanız, sizi matematiksel çerçevenin aksiyomlarından ve teoremlerinden daha fazla yönlendirecek bir şeye ihtiyacınız var. Cevabın geri kalanı bu nokta üzerinde başıboş dolaşıyor.

"Matematiksel olarak doğru olmak istiyorsak, olasılık yorumuna izin vermemeliyiz" iddiası da haksız görünüyor. Bir yorumlamayı matematiksel bir çerçevenin üzerine koymak, matematiği yanlış yapmaz (yorumlamanın matematiksel çerçevede bir teorem olduğu iddia edilmediği sürece).

Tartışma (esas olarak) aksiyomlarla ilgili değil

Bazı alternatif aksiyomatizasyonlar * olmasına rağmen, (?) Tartışması Kolmogorov aksiyomlarına itiraz etmekle ilgili değildir. Sıfır ölçülü koşullandırma olaylarına sahip bazı incelikleri görmezden gelmek, düzenli şartlı olasılığa neden olmak, yani yeterince bilmiyorum, Kolmogorov aksiyomları ve şartlı olasılık, kimsenin tartışamadığı Bayes kuralını ima eder. Bununla birlikte, eğer modelinizde rastgele bir değişken değilse (bir olasılık uzayından veya onların ailesinden oluşan bir matematiksel kurulum anlamında model, rastgele değişkenler, vs.), koşullu hesaplamak mümkün değildir. dağılım . Hiç kimse, eğer doğru hesaplanırsa, frekans özelliklerinin modelin sonuçları olduğunu tartışmaz. Örneğin, koşullu dağılımlar$X$$P(X\mid Y)$$p(y\mid \theta)$Bir Bayesian modelinde , sadece ve bazı sonuçların ikincisinde all için geçerli olması durumunda endeksli olasılık dağılımları ailesini tanımlayın onlar da tüm tutarlar .$p(y; \theta)$$p(y \mid \theta) = p(y; \theta)$$\theta$$\theta$

Tartışma matematiğin nasıl uygulanacağı hakkında

Tartışmalar (mevcut olduğu kadar **) bunun yerine, (gerçek yaşam, matematiksel olmayan) bir problem için ne tür olasılık modelinin nasıl oluşturulacağına ve modelin çizim için hangi gerçek sonuçlarla ilgili olduğuna karar vermeyle ilgilidir. -life) sonuçlar. Ancak tüm istatistikçiler kabul etse bile bu sorular ortaya çıkacaktır. [1] ile ilişkilendirdiğiniz blog gönderisinden alıntı yapmak için, aşağıdaki gibi soruları cevaplamak istiyoruz.

Bir ruleti nasıl tasarlamalıyım ki kumarhanem $ kazansın? Bu gübre mahsul verimini arttırıyor mu? Streptomisin, akciğer tüberkülozu tedavi eder mi? Sigara içmek kansere neden olur mu? Bu kullanıcı hangi filmi beğenir? Red Sox hangi beyzbol oyuncusu ile sözleşme yapmalıdır? Bu hasta kemoterapi almalı mı?

Olasılık teorisinin aksiyomları bir beyzbol tanımı bile içermez, bu nedenle "Red Sox'un X beyzbol oyuncusu için bir sözleşme yapması gerektiği" olasılık teorisinde bir teorem olmadığı açıktır.

Bayesian yaklaşımının matematiksel gerekçeleri hakkında not

Tüm bilinmeyenleri Jaynes'in bahsettiği Cox teoremi gibi olasılıksal olarak değerlendirmek için 'matematiksel gerekçeler' vardır (duyduğuma göre, düzeltilmiş veya düzeltilmemiş, matematiksel problemleri olduğunu duydum, bilmiyorum, bkz [2] ve buradaki referanslar) veya (öznel Bayesian) Savage yaklaşımı (bunun [3] 'te olduğunu duydum ama kitabı hiç okumadım), bazı varsayımlar altında rasyonel bir karar vericinin devletler üzerinde olasılık dağılımına sahip olacağını kanıtladı. Dünyayı seçin ve bir fayda fonksiyonunun beklenen değerini maksimize etmeye dayanarak hareketini seçin. Ancak, Red Sox'un yöneticisinin varsayımları kabul etmesi gerekip gerekmediği veya sigara içmenin kansere neden olduğu teorisini kabul edip etmememiz gerekip gerekmediği matematiksel bir çerçeveden düşülemiyor,

Dipnotlar

* Çalışmamıştım, ama Finetti'nin şartlı olasılıkların şart koşullandırma (koşulsuz) ölçütünden elde etmek yerine ilkel olduğu bir yaklaşıma sahip olduğunu duydum. [4] rahat bir Fransız restoranında José Bernardo, Dennis Lindley ve Bruno de Finetti arasında, -additiviteye ihtiyaç duyulup duyulmadığı konusunda bir tartışmadan bahseder .$\sigma$

** [1] 'e bağladığınız blog yazısında belirtildiği gibi, bir takıma ait olan ve diğer takımı küçümseyen her istatistikçi ile ilgili kesin bir tartışma olmayabilir. Bugünlerde hepimizin pragmatik olduğumuzu ve işe yaramaz tartışmaların bittiğini söylediğini duydum. Bununla birlikte, benim deneyimlerime göre, bu farklılıklar, örneğin, birinin ilk yaklaşımının tüm bilinmeyenleri rastgele değişkenler olarak modelleyip modellememesi ve birisinin sıklık garantileriyle ne kadar ilgilendiği konusunda olup olmadığı konusunda var.

Referanslar

[1] Rafa Irizarry, Roger Peng ve Jeff Leek'in istatistik blogu olan Simply Statistics, “Veri bilimcileri için Bayesian'e karşı Frequentist tartışmayı ilan ediyorum”, 13 Eki 2014, http://simplystatistics.org/2014/10 / 13 / olarak-bir tatbik edilen statistician-i bulmak-frequentists versus bayesians-tartışma-tam-önemsiz /

[2] Dupré, MJ ve Tipler, FJ (2009). Zorlu Bayesian olasılığı için yeni aksiyomlar. Bayesian Analizi, 4 (3), 599-606. http://projecteuclid.org/download/pdf_1/euclid.ba/1340369856

[3] Savage, LJ (1972). İstatistiğin temelleri. Kurye Şirketi.

[4] Bernardo, JM Valencia Hikayesi - Valencia Uluslararası Toplantıları'nın Bayesian İstatistikleri konusundaki kökeni ve gelişimi hakkında bazı detaylar. http://www.uv.es/bernardo/ValenciaStory.pdf

Bayesian vs sık görüşme tartışmasının matematiksel temeli çok basittir. Bayesian istatistiklerinde, bilinmeyen parametre rastgele bir değişken olarak değerlendirilir; frekansçı istatistiklerde sabit bir unsur olarak ele alınır. Rastgele bir değişken, kümenin basit bir öğesinden çok daha karmaşık bir matematiksel nesne olduğundan, matematiksel fark oldukça belirgindir.

Ancak, modeller açısından gerçek sonuçların şaşırtıcı şekilde benzer olabileceği ortaya çıkmıştır. Örneğin doğrusal regresyon atın. Bilgi vermeyen önceliğe sahip Bayesçi doğrusal regresyon, ortalamaları, olasılık teorisinden bir problem olmayan, en küçük kareler problemine bir çözüm olan, sık sık doğrusal regresyon parametresinin tahminine eşit olan bir regresyon parametresi tahmininin dağılımına yol açar. . Bununla birlikte, benzer bir çözüme ulaşmak için kullanılan matematik, yukarıda belirtilen sebeplerden dolayı oldukça farklıdır.

Doğal olarak, bilinmeyen parametre matematiksel özelliklerinin (kümenin değişken elemanı - rasgele değişkeni vs) muamele farkından ötürü, hem Bayesci hem de frekansçı istatistikler, rakip bir yaklaşım kullanmanın daha avantajlı göründüğü durumlarda ortaya çıkmaktadır. Güven aralıkları en önemli örnek. Basit bir tahminde bulunmak için MCMC'ye güvenmek zorunda kalmamak başka bir şeydir. Ancak, bunlar genellikle matematikten ziyade daha zevke sahiptir.

Felsefeden hoşlanmıyorum, ama matematikten hoşlanıyorum ve sadece Kolmogorov'un aksiyomları çerçevesinde çalışmak istiyorum.

Herhangi bir yorum yapmadan Kolmogorov'un aksiyomlarını tam olarak nasıl uygularsınız ? Nasıl olur sen olasılığını yorumlamak? Sana "Olasılık hakkındaki tahminin ne anlama geliyor?"$0.5$ Diye sormuş birine ne söylersin ? Sonucunuzun olduğunu söyler misiniz$0.5$, aksiyomları takip ettiğinden beri hangisi doğrudur? Herhangi bir yorum olmadan, denememizi tekrarlarsak sonucu ne kadar sık ​​görmeyi beklediğimizi söyleyemezsiniz. Ayrıca bu sayının, bir olayın gerçekleşmesi ihtimalinden ne kadar emin olduğunuzu söyleyemezsiniz. Ayrıca, bunun olayın ne kadar olacağına inandığınızı da söyleyemezsiniz. Beklenen değeri nasıl yorumluyorsunuz - bazı sayılar diğer sayılarla çarpılır ve aksiyomları ve birkaç teoremi takip ettiklerinden geçerli olan birlikte toplanırlar mı?

Matematiği gerçek dünyaya uygulamak istiyorsanız, yorumlamanız gerekir. Yorumsuz yalnız sayılar ... sayılardır. İnsanlar beklenen değerleri tahmin etmek için beklenen değerleri hesaplamazlar, ancak gerçeklik hakkında bir şeyler öğrenirler.

Ayrıca, gerçek dünya olaylarına istatistik (ve kendi başına olasılık) uygularken olasılık soyuttur. En temel örneği ele alalım: adil bir para. Sık yapılan yorumda, eğer bu kadar çok para attıysanız, aynı sayıda kafa ve kuyruk beklersiniz. Ancak, gerçek hayattaki bir deneyde bu neredeyse hiç olmayacaktı. Yani, ihtimalinin, belirli sayıda, belirli bir defa atılan herhangi bir madeni para ile hiçbir ilgisi yoktur.$0.5$

Olasılık yok

- Bruno de Finetti

Bayesian ile sık görüşme çıkarımı arasındaki karşıtlığı benim görüşüme göre, ilk meselenin olasılık istediğiniz olayın seçimi olduğu yönünde. Sıkça sorulanlar, kanıtlamaya çalıştığınız şeyi (örneğin, boş bir hipotez) daha sonra gözlemlediğiniz bir şeyi bu varsayım altında gözlemleme olasılığını hesaplar. Bu tür ters bilgi akış sırası olasılıkları ile tıbbi tanıdaki duyarlılık ve özgüllük arasında kesin bir yanlışlık var, bu da çok büyük yanlış anlaşılmalara neden oldu ve Bayes 'in kurallarını ileriye götürmek için ("test sonrası olasılıklar") bırakılması gerekiyor. Bayesliler bir olayın olasılığını hesaplar ve mutlak olasılıkların çapa olmadan hesaplanması imkansızdır (önceki). Bayesian bir ifadenin doğruluğunun olasılığı belli bir bilinmeyen varsayım altında veri gözlemleme sıklığından çok farklıdır. Farklılıklar, yapılan ya da yapılabilecek diğer analizler için ayarlamalar gerektiğinde (çokluk; sıralı testler, vb.) Farklılıklar daha belirgindir.

Dolayısıyla matematiksel temelin tartışılması çok ilginç ve olması gereken çok uygun bir tartışma. Ancak, ileri ve geri olasılıklar için temel bir seçim yapmak zorundasınız. Dolayısıyla, tam olarak matematik olmayan şartlandırılmış olan şey inanılmaz derecede önemlidir. Bayesliler, bildiklerinizin tam şartlandırılmasının anahtar olduğuna inanıyor. Sıklık yapanlar matematiği basitleştiren şeye daha sık şart verir.

Bunu iki ayrı soruya ayıracağım ve her birine cevap vereceğim.

1.) Olasılığın, Frequentist ve Bayesian perspektifinde ne anlama geldiğine dair farklı felsefi görüşler göz önüne alındığında, bir yoruma uygulanan ve bir başkasına uygulanmayan matematiksel olasılık kuralları var mı?

Hayır. Olasılık kuralları iki grup arasında tamamen aynı kalır.

2.) Bayesanlar ve Frequentists verileri analiz etmek için aynı matematik modelleri kullanıyor mu?

Genel olarak konuşursak, hayır. Bunun nedeni, iki farklı yorumun, bir araştırmacının farklı kaynaklardan fikir edinebileceğini öne sürmesidir. Özellikle, Frequentist çerçevesinin çoğu zaman kişinin gözlemlenen parametrelere yalnızca gözlemlenen verilerden çıkarım yapabileceğini öne sürdüğü düşünülürken, Bayesçi bir bakış açısı kişinin konu hakkında bağımsız uzman bilgisi içermesi gerektiğini öne sürüyor. Farklı veri kaynakları, analiz için farklı matematiksel modellerin kullanılacağı anlamına gelir.

Bu ne fazla ilgilidir iki kampa kullandığı modeller arasında bol böler olduğu notun da vardır olandan yapılmış olabiliryapılmalıdır (geleneksel olarak bir kamp tarafından kullanılan birçok model diğer kamp tarafından haklı gösterilebilir). Örneğin, BUG modelleri (Bayesian çıkarımı Gibbs örneklemesini kullanarak, pek çok nedenden dolayı model kümesini artık doğru bir şekilde tanımlayamayan bir ad) geleneksel olarak Bayesian yöntemleriyle, çoğunlukla bunu yapmak için harika yazılım paketlerinin bulunması nedeniyle analiz edilir (JAG'ler, Örneğin Stan). Ancak, bu modellerin kesinlikle Bayesian olması gerektiğini söyleyen hiçbir şey yok. Aslında, bu modelleri BUG çerçevesine göre inşa eden NIMBLE projesi üzerinde çalıştım, ancak kullanıcının kendileri hakkında nasıl bir çıkarım yapabileceği konusunda çok daha fazla özgürlük sağladım. Sağladığımız araçların büyük çoğunluğu özelleştirilebilir Bayesian MCMC yöntemleri olsa da, bu modeller için de geleneksel olarak Sık Kullanılan bir yöntem olan maksimum olabilirlik tahmini de kullanılabilir. Benzer şekilde, öncelikleri genellikle Bayesian ile yapabileceğiniz ve Frequentist modellerle yapamayacağınız şeyler olarak düşünülür. Bununla birlikte, cezalandırılmış tahmin, normalleştirici parametre tahminlerini kullanarak aynı modeller sağlayabilir (Bayesian çerçevesi, düzenlileştirme parametrelerini gerekçelendirmek ve seçmek için daha kolay bir yol olsa da, Frequentists, en iyi durumda, çok sayıda veri senaryosuyla birlikte kaldı. " Bu normalizasyon parametreleri, çünkü çok sayıda çapraz onaylanmış numuneden daha fazla, daha iyi veya daha kötüsü için “...

Bayesanlar ve Frequentists olasılıkların farklı şeyleri temsil ettiğini düşünüyor. Sık görüşmeler frekanslarla ilgili olduklarını düşünür ve yalnızca frekansların mümkün olduğu bağlamlarda anlamlı olur. Bayesliler onları belirsizliği temsil etmenin bir yolu olarak görüyorlar. Herhangi bir gerçek belirsiz olabileceğinden, herhangi bir şeyin olasılığı hakkında konuşabilirsiniz.

Matematiksel sonuç, Frequentists'in temel olasılık denklemlerinin yalnızca bazen geçerli olduğunu düşündüğü ve Bayesanların her zaman geçerli olduğunu düşündüğüdür. Bu yüzden aynı denklemleri doğru olarak görüyorlar, fakat ne kadar genel olduklarına göre farklılaşıyorlar.

Bunun aşağıdaki pratik sonuçları vardır:

(1) Bayesanlar yöntemlerini, olasılık teorisinin temel denklemlerinden (Bayes Teoremi sadece bir örnektir) elde edeceklerdir;

(2) Eksik bilgilerden kaynaklanırsanız olasılık teorisinin temel denklemlerini tutarlı bir şekilde kullanmanızın veya başınızın belaya girdiğini gösteren teoremler vardır. Birçok insan bu teoremlerin ne kadar anlamlı olduğu konusunda şüpheleri vardır, ancak pratikte gördüğümüz şey budur.

Örneğin, gerçek dünyadaki masum% 95 Güven Aralıklarını arayan, tamamen imkansız olan değerlerden oluşması mümkündür (Güven Aralığı türetmek için kullanılan aynı bilgilerden). Başka bir deyişle, Frequentist yöntemler basit tümdengelim mantığına aykırı olabilir. Tamamen olasılık teorisinin temel denklemlerinden elde edilen Bayes yöntemleri bu problemi yaşamamaktadır.

(3) Bayesian, Frequentist'ten kesinlikle daha geneldir. Herhangi bir gerçek hakkında belirsizlik olabileceğinden, herhangi bir gerçeğe olasılık atanabilir. Özellikle, üzerinde çalıştığınız gerçekler gerçek dünya frekansları ile ilişkiliyse (tahmin ettiğiniz bir şey veya verilerin bir parçası olarak), Bayesian yöntemleri onları gerçek dünyadaki herhangi bir gerçeği gibi düşünebilir ve kullanabilir.

Sonuç olarak, herhangi bir sorun Frequentist, yöntemlerinin Bayesanlar için de geçerli olduğunu düşünüyor, ayrıca doğal olarak da çalışabiliyor. Ancak bunun tersi, Frequentists, olasılıklarını, örneğin, birden fazla evreni hayal etmek veya asla gerçekleştirilmemiş ve çoğu zaman prensipte olamayan sonsuza kadar varsayımsal tekrarlar icat etmek gibi bir "frekans" olarak yorumlamak için alt bölümleri icat etmedikçe, genellikle doğru değildir. .

Soru: O zaman matematiksel olarak doğru olmak istiyorsak, olasılık yorumuna izin vermemeli miyiz? Yani, hem Bayesci hem de frekansçılık matematiksel olarak yanlış mı?

Evet, ve bu tam olarak insanların hem Bilim Felsefesinde hem de Matematikte yaptığı şeydir.

1. Felsefi yaklaşım. Wikipedia bir yorum / olasılık tanımları özeti sunmaktadır .

2. Matematikçiler güvende değil. Geçmişte, Kolmogorov okulu olasılık tekeline sahipti: olasılık, bütün alana 1 atanan sonlu bir ölçü olarak tanımlanıyor ... Bu hegemonya artık Kuantum olasılığı ve Ücretsiz olasılık .

Bayes / sık görüşme tartışması çok sayıda temele dayanıyor. Eğer matematiksel temelden bahsediyorsanız, fazla olduğunu sanmıyorum.

Her ikisinin de karmaşık problemler için çeşitli yaklaşık yöntemler kullanması gerekir. İki örnek, frekansçı için "önyükleme" ve bayesyen için "mcmc" dir.

İkisi de nasıl kullanılacağına dair ritüellerle / prosedürlerle birlikte gelir. Sık rastlanan bir örnek "bir şeyin tahmincisini önermek ve özelliklerini tekrarlanan örnekleme altında değerlendirmek" iken, bir bayesyen örnek "bildiklerinize bağlı olmayan bildikleriniz için olasılık dağılımlarını hesaplamaktır". Olasılıkları bu şekilde kullanmak için matematiksel bir temel yoktur.

Tartışma, uygulama, yorumlama ve gerçek dünyadaki problemleri çözme yeteneği hakkında daha fazla.

Aslında, bu genellikle, "diğer taraf" tarafından kullanılan ve tüm teorinin kendileri için atılması gerektiğini savunan belirli bir “ritüel / prosedür” kullanacakları “kendi taraflarını” tartışan insanlar tarafından kullanılır. Bazı örnekler ...

• aptal öncelikleri kullanmak (ve onları kontrol etmemek)
• aptal CI'leri kullanmak (ve onları kontrol etmemek)
• hesaplamalı bir tekniğin teoriyle karıştırılması (bölmeler mcmc değildir!
• Bir teoriyle ilgili belirli bir uygulama ile ilgili bir problem hakkında konuşmak, diğer teorinin özel problemi "daha iyi" olarak çözemeyeceği hakkında konuşmak

Öyleyse, istatistiklerin matematiksel olarak doğru olan tek versiyonunun, Bayescilik ve sıklıkçılığa ilişkin olarak tamamen agnostik olan bir şey olmayı reddeden versiyonudur? Her iki sınıflandırmaya sahip yöntemler matematiksel olarak doğruysa, o zaman bazılarını diğerlerine göre tercih etmek yanlış bir uygulama değildir, çünkü bu kesin ve iyi tanımlanmış bir matematik yerine belirsiz, kötü tanımlanmış bir felsefeye öncelik verirdi?

Hayır. İzlemez. Duygularını hissedemeyen bireyler, yalnızca tek bir nesnel çözüme sahip gibi görünen kararlar da dahil olmak üzere, karar vermede biyolojik olarak yetersizdir. Bunun nedeni, rasyonel karar vermenin duygusal kapasitemize ve hem bilişsel hem de duygusal tercihlerimize bağlı olmasıdır. Bu korkutucu olsa da, ampirik gerçekliktir.

Gupta R, Koscik TR, Bechara A, Tranel D. Amigdala ve karar verme. Neuropsychologia. 2011; 49 (4): 760-766. doi: 10.1016 / j.neuropsychologia.2010.09.029.

Elmaları portakal tercih eden bir kişi bunu tercih ettiği için savunamaz. Tersine, portakalları elmaları tercih eden bir kişi, bu tercihi olduğu gibi rasyonel olarak savunamaz. Elmayı tercih eden insanlar genellikle portakal yer. Çünkü elmanın maliyeti, portakalın maliyeti ile karşılaştırıldığında çok fazladır.

Bayesci ve Frequentist tartışmaların çoğu, Likelihoodist ve Frequentist tartışmaların yanı sıra, anlama hatalarının etrafında toplandı. Bununla birlikte, Carnapian olasılığı veya güvene dayalı istatistikler gibi küçük veya artık kullanılmayan yöntemler de dahil olmak üzere tüm yöntemlerde iyi eğitilmiş bir insanımız olduğunu hayal edersek, o zaman sadece bazı araçları diğer araçlara göre tercih etmek akılcıdır.

Rasyonellik sadece tercihlere bağlıdır; davranış tercihlere ve maliyetlere bağlıdır.

Tamamıyla matematiksel bir bakış açısıyla, bir aracın diğerinden daha iyi olduğu, bazı maliyet veya fayda işlevini kullanarak daha iyi tanımlandığı, ancak yalnızca bir aracın çalışabileceği benzersiz bir cevap olmadığı sürece, hem maliyetlerin hem de Tercihler tartılacak.

Karmaşık bir bahis teklif etmeyi düşünerek bir bahisçi sorununu düşünün. Açıkçası, bu durumda tutarlı ve diğer hoş özelliklere sahip olduğu için, bahisçi Bayesian yöntemlerini kullanmalıdır, ancak bahisçinin yalnızca bir hesap makinesi olduğunu ve bir kalem ve kâğıt bile olmadığını hayal edin. Bahisçinin hesap makinesini kullanarak ve kafasındaki şeyleri takip ederek Frequentist çözümü hesaplayabileceği ve Bayesyen'i hesaplamak için Dünya'da hiç şansı olmadığı durumda olabilir. “Hollandalı Rezervasyon Yapma” riskini almaya istekliyse ve potansiyel maliyeti yeterince düşük buluyorsa, Frequentist yöntemleri kullanarak bahis teklif etmesi mantıklı olacaktır.

Öyle rasyonel için size olmaya agnostik duygusal tercihleri sizin için daha iyi olmasını bulmak için. Tüm insanların duygusal ve bilişsel tercihlerinizi paylaştığına inanmadığınız sürece, durumun agnostik olması mantıklı değildir, ki böyle olmadığını biliyoruz.

Kısacası, Bayesçiye karşı sıkça tartışmanın tartışmasının matematiksel temelinin ne olduğunu anlamıyorum ve tartışma için matematiksel bir temel yoksa (Wikipedia'dakilerin iddia ettiği şey) anlamıyorum. akademik söylem

Akademik tartışmaların amacı hem eskilere hem de yeni fikirlere ışık vermektir. Bayesian ve Frequentist tartışmaların çoğu ile Likelesshoodist ve Frequentist tartışmaların çoğu yanlış anlamalardan ve düşüncenin eksikliğinden kaynaklanıyordu. Bazıları, ne oldukları için tercihler söyleyememekten geldi. Tahmin edicinin tarafsız ve gürültülü olmalarına rağmen erteleme ve tahminci önyargılı ve doğru olmanın bir tartışması, duygusal tercihlerin bir tartışmasıdır;

Felsefeden hoşlanmıyorum, ama matematikten hoşlanıyorum ve sadece Kolmogorov'un aksiyomları çerçevesinde çalışmak istiyorum.

Neden? Çünkü Kolmogorov'u Cox'lara, de Finetti'lere mi yoksa Savage'lara mı tercih edersin? Bu tercih gizlice mi içeri giriyor? Ayrıca, olasılık ve istatistik matematik değildir, matematik kullanırlar. Bu bir retorik dalı. Bunun neden önemli olduğunu anlamak için ifadenizi dikkate alınız:

eğer bir yöntem matematiksel olarak doğru ise, o zaman temel matematiğin varsayımları geçerli olduğunda yöntemi kullanmak geçerlidir, aksi takdirde matematiksel olarak doğru değilse veya varsayımlar geçerli değilse, kullanmak geçersizdir.

Bu doğru değil. Güven aralıklarıyla ilgili güzel bir makale var ve kötüye kullanılması alıntı:

Morey, Richard; Hoekstra, Rink; Rouder, Jeffrey; Lee, Michael; Wagenmakers, Eric-Jan, Güven aralıklarına güven duymanın yanlışlığı, Psychonomic Bulletin & Review, 2016, Cilt.23 (1), s.103-123

Makaledeki farklı potansiyel güven aralıklarını okursanız, her biri matematiksel olarak geçerlidir, ancak daha sonra özelliklerini değerlendirirseniz, bunlar büyük ölçüde farklılık gösterir. Aslında, sağlanan güven aralıklarının bir kısmı, sorundaki tüm varsayımlara uysalar da "kötü" özelliklere sahip olduğu düşünülebilir. Bayesian aralığını listeden çıkarırsanız ve yalnızca dört Frequentist aralığına odaklanırsanız, aralıklar geniş ya da dar ya da sabit olduğunda daha derin bir analiz yaparsanız, aralıkların eşit olmayabileceğini göreceksiniz. "Her biri varsayım ve gereklilikleri karşılasa da.

Yararlı olması veya alternatif olarak mümkün olduğu kadar faydalı olması için matematiksel olarak geçerli olması yeterli değildir. Aynı şekilde, matematiksel olarak doğru olabilir, ancak zararlı olabilir. Makalede, doğru konum hakkında en az miktarda bilgi olduğunda ve parametrenin konumu hakkında mükemmel bilgi veya mükemmel bilgiye yakın olduğunda en dar düzeyde olan bir aralık vardır. Ne olursa olsun, kapsam gereksinimlerini karşılar ve varsayımları karşılar.

Matematik asla yeterli olamaz.