Alman Tank Problemine Çözüm

Çözüm bu resmi bir matematiksel kanıtı var mıdır Alman tank Problem bir işlevidir sadece parametreleri k (gözlemlenen örnek sayısı) ve m (gözlenen örnekleri arasındaki maksimum değer)? Başka bir deyişle, çözümün maksimum değerin yanı sıra diğer örnek değerlerden bağımsız olduğunu kanıtlayabilir mi?

Olasılık

Olasılık teorisindeki yaygın problemler, belirli bir model verilen ve ilgili parametreler (diyelim ki onlara diyelim) gözlemlerinin olasılığını ifade eder . Örneğin, kart oyunlarında veya zar oyunlarında belirli durumlar için olasılıklar genellikle çok basittir.$x_1, x_2, ... , x_n$$\theta$

Bununla birlikte, birçok pratik durumda, ters bir durumla ilgileniyoruz ( çıkarımsal istatistikler ). Yani: gözlem verildi ve şimdi model bilinmiyor veya en azından belirli parametreleri bilmiyoruz .$x_1, x_2, ... , x_k$$\theta$

Sorunların bu tür sık sık parametrelerin olasılığı denilen bir terim, bakın , bir parametre özgü iman bir orandır verilen gözlemler . Bu terim, bir model parametresinin varsayımsal olarak doğru olacağını varsayarak gözlemlerinin olasılığı ile orantılı olarak ifade edilir . $\mathcal{L(\theta)}$$\theta$$x_1, x_2, .. x_k$$x_1, x_2, .. x_k$$\theta$

Belirli bir parametre değeri için belirli bir gözlem daha olasıdır (diğer parametre değerleriyle olasılığa göre), gözlem bu belirli parametreyi (veya bu parametreyi varsayan teori / hipotez) o kadar çok destekler . (Göreceli) yüksek olasılık, bu parametre değerine olan inancımızı güçlendirecektir ( bu konuda söylenecek çok daha felsefi vardır ).$\theta$$x_1, x_2, .. x_n$

Alman tank sorununun olasılığı

Şimdi Alman tank sorunu için bir dizi örnek için olasılık fonksiyonu :$x_1, x_2, .. x_k$

{1, 2, 10} örneklerini veya {8, 9, 10} örneklerini gözlemleyip gözlemlemediğiniz , numuneler parametresiyle aynı dağılımdan düşünüldüğünde önemli olmamalıdır . Her iki örnek de olasılığı ile eşit derecede olasıdır ve muhtemelen bir örnek parametresi hakkında diğer örnekten daha fazla bilgi vermez .$\theta$${{\theta}\choose{3}}^{-1}$$\theta$

Yüksek değerler {8, 9, 10} size daha yüksek olması gerektiğini düşündürüyor / inanıyor olabilir . Ancak, bu sadece {10} değeridir. Bu gerçekten size olasılığı hakkında ilgili bilgi verir (10 değeri on veya daha yüksek olacağını söyler , diğer 8 ve 9 değerleri bu bilgilere hiçbir katkıda bulunmaz. ).$\theta$$\theta$$\theta$

Fisher Neyman çarpanlara ayırma teoremi

Bu teorem size belirli bir istatistik (yani, ortalama, medyan veya Alman tank probleminde olduğu gibi gözlemlerin bazı işlevleri) yeterli olduğunda (tüm bilgileri içerir) yeterli olduğunu söyler Eğer olabilirlik işlevinde, diğer gözlemlere bağlıdır terimler, çarpanlarına olabilir bu faktör hem bağlı değildir, öyle ki, parametre ve (ve olasılık fonksiyonunun verileri varsayımsal parametre değerleri ile ilişkilendiren kısmı sadece istatistiğe bağlıdır, ancak verilerin / gözlemlerin tamamına bağlı değildir).$T(x_1, x_2, … , x_k)$$x_1, x_2, … , x_k$$\theta$$x_1, x_2, … , x_k$

Alman tank sorununun durumu basit. Sen Olabilirlik için tüm ifade yukarıda zaten sadece istatistik bağlı olduğunu yukarıda görebilirsiniz ve değerlerin geri kalanı önemli değildir.$\max(x_1, x_2, .. x_k)$$x_1, x_2, .. x_k$

Örnek olarak küçük bir oyun

Aşağıdaki oyunu tekrar tekrar oynadığımızı varsayalım: kendisi rastgele bir değişkendir ve 100 veya 110 eşit olasılıkla çizilir. Sonra örneği .$\theta$$x_1,x_2,...,x_k$

Biz tahmin için bir strateji seçmek isteyen gözlenen dayalı sağ tahminim var bizim olasılığını maksimize .$\theta$$x_1,x_2,...,x_k$$\theta$

Örnekte sayılardan biri> 100 değilse uygun strateji 100'ü seçmek olacaktır.

değerlerinin yüze yakın (ancak tam olarak yüzün üzerinde değil) tüm yüksek değerler olma eğiliminde olduğunda 110 parametre değerini seçmeye cazip gelebiliriz , ancak bu yanlış olur. Gerçek parametre değeri 110 olduğunda 100 olduğunda böyle bir gözlem olasılığı daha büyük olacaktır. Bu nedenle, eğer böyle bir durumda, parametre değeri olarak 100'ü tahmin edersek, hata yapma olasılığımız daha düşük olacaktır (çünkü yüze yakın ancak yine de altında olan bu yüksek değerlere sahip durum, gerçek değerin 110 olması yerine gerçek değerin 100 olması durumunda daha sık görülür).$x_1,x_2,...,x_k$

"Sorunun" kesin bir formülasyonunu sunmadınız, bu yüzden neyin kanıtlanmasını istediğiniz tam olarak belli değil. Bayesci bir perspektiften bakıldığında, arka olasılık tüm verilere bağlıdır. Bununla birlikte, belirli bir seri numarasının her gözlemi bu numarayı en çok destekleyecektir. Yani, herhangi bir gözlem verilir , posterior ve hipotez "tank gerçek sayıdır için daha büyük olacaktır önce arasındaki olasılık oranı o olacak daha" "tank gerçek sayıdır [sayısı dışında ]". Bu nedenle, önceden üniforma ile başlarsak, o gözlemi gördükten sonra en yüksek posteriora sahip olacaktır.$n$$n$$n$$n$

Veri noktası ve hipotezlerine sahip olduğumuz bir durumu düşünün . Açıkçası, için posterior sıfırdır. Ve için posteriorlarımız öncekinden daha büyük olacak. Bunun nedeni Bayesci akıl yürütmede kanıt bulunmamasının yokluğun kanıtı olmasıdır . Olasılığımızı azaltabilecek bir gözlem yapabileceğimiz ancak fırsatımızın olmadığı her fırsatımız olduğunda olasılık artar. Biz bu yana olabilir gördük bizim için posteriors set olurdu, sıfıra biz görmedik gerçeği biz bizim posteriors artması gerektiği anlamına gelir$13$$N=10,13,15$$N=10$$N=13,15$$16$$N=13,15$$N=13,15$ . Ancak, sayı ne kadar küçük olursa, o sayıyı hariç tutabilecek daha fazla sayı göreceğimizi unutmayın. İçin , biz gördükten sonra bu hipotezi reddedilir olurdu . Ancak , hipotezi reddetmek için en az ihtiyacımız olurdu . Hipotezi yana daha çürütülebilir olan , gerçeği biz o yoktu tahrif için daha kanıtıdır tahrif değil daha için kanıtıdır .$N=13$$14,15,16,...$$N=15$$16$$N=13$$N=15$$N=13$$N=13$$N=15$$N=15$

Bu nedenle, her veri noktası gördüğümüzde, altındaki her şeyin posteriorunu sıfıra ayarlar ve diğer her şeyin posteriorunu artırır, daha küçük sayılar en büyük artışı elde eder. Bu nedenle, toplamda en büyük artışı alan sayı, posterior sıfıra ayarlanmamış en küçük sayı, yani gözlemlerin maksimum değeri olacaktır.

Maksimumdan küçük sayılar, maksimumun ne kadar büyüdüğünü etkiler , ancak maksimum büyüklük artışının genel eğilimini etkilemez. daha önce gördüğümüz yukarıdaki örneği düşünün . Bir sonraki sayı , bunun ne gibi bir etkisi olur? fazla yardımcı oluyor , ancak her iki sayı da zaten reddedildi, bu yüzden ilgili değil. Bu yardımcı oluyor den fazla , ama zaten fazla yardım etti edilmiş çoğu yardım etti edildiği sayı etkilemeyecek şekilde.$13$$5$$5$$6$$13$$15$$13$$15$