Önyargılı bootstrap: CI'yi gözlemlenen istatistik etrafında ortalamak uygun mu?

Bu, Bootstrap'e benzer : tahmin, güven aralığının dışında

Bir popülasyondaki genotiplerin sayısını temsil eden bazı verilerim var. Shannon dizinini kullanarak genetik çeşitliliği tahmin etmek ve ayrıca bootstrapping kullanarak bir güven aralığı oluşturmak istiyorum. Bununla birlikte, önyükleme yoluyla tahminin son derece önyargılı olduğunu ve gözlemlediğim istatistik dışında kalan bir güven aralığıyla sonuçlandığını fark ettim.

Aşağıda bir örnek verilmiştir.

# Shannon's index
H <- function(x){
  x <- x/sum(x)
  x <- -x * log(x, exp(1))
  return(sum(x, na.rm = TRUE))
}
# The version for bootstrapping
H.boot <- function(x, i){
  H(tabulate(x[i]))
}

Veri üretimi

set.seed(5000)
X <- rmultinom(1, 100, prob = rep(1, 50))[, 1]

Hesaplama

H(X)

## [1] 3.67948

xi <- rep(1:length(X), X)
H.boot(xi)

## [1] 3.67948

library("boot")
types <- c("norm", "perc", "basic")
(boot.out <- boot::boot(xi, statistic = H.boot, R = 1000L))

## 
## CASE RESAMPLING BOOTSTRAP FOR CENSORED DATA
## 
## 
## Call:
## boot::boot(data = xi, statistic = H.boot, R = 1000)
## 
## 
## Bootstrap Statistics :
##     original     bias    std. error
## t1*  3.67948 -0.2456241  0.06363903

Önyargı düzeltme ile CI oluşturma

boot.ci(boot.out, type = types)

## BOOTSTRAP CONFIDENCE INTERVAL CALCULATIONS
## Based on 1000 bootstrap replicates
## 
## CALL : 
## boot.ci(boot.out = boot.out, type = types)
## 
## Intervals : 
## Level      Normal              Basic              Percentile     
## 95%   ( 3.800,  4.050 )   ( 3.810,  4.051 )   ( 3.308,  3.549 )  
## Calculations and Intervals on Original Scale

T varyansının t0 varyansı için kullanılabileceğini varsayarsak .

norm.ci(t0 = boot.out$t0, var.t0 = var(boot.out$t[, 1]))[-1]

## [1] 3.55475 3.80421

CI etrafında bildirmek doğru olur t0 ? Bootstrap'i oluşturmanın daha iyi bir yolu var mı?

OP tarafından verilen kurulumda ilgili parametre Shannon entropi bu olasılık vektörünün bir fonksiyonudur . örneğe dayalı tahminci ( simülasyonda ) eklenti tahmin edicisi Numuneler, Shannon entropisinin olduğu homojen dağılım kullanılarakShannon entropisi eşit dağılımda maksimize edildiğinden, eklenti tahmincisi aşağıya doğru eğimli olmalıdır . Bir simülasyon,

$$\theta(\mathbf{p}) = - \sum_{i = 1}^{50} p_i \log p_i,$$ $\mathbf{p} \in \mathbb{R}^{50}$$n$$n = 100$ $$\hat{\theta}_n = \theta(\hat{\mathbf{p}}_n) = - \sum_{i=1}^{50} \hat{p}_{n,i} \log \hat{p}_{n,i}.$$ $\log(50) = 3.912.$$\mathrm{bias}(\hat{\theta}_{100}) \simeq -0.28$ , . Eklenti tahmincisi tutarlıdır, ancak metodu tekdüze dağılım olarak için geçerli değildir , çünkü Shannon entropisinin türevi 0'dır. Dolayısıyla, nin bu özel seçimi için , asimptotik argümanlara dayanan güven aralıkları belirgin değildir. $\mathrm{bias}(\hat{\theta}_{500}) \simeq -0.05$$\Delta$$\mathbf{p}$$\mathbf{p}$

Yüzdelik aralık, dağılımına dayanmaktadır; burada , gözlem örneklemesinden elde edilen tahmin . Özellikle, dağılımı için% 2.5 kantil ile% 97.5 kantil arasındaki aralıktır . OP'nin bootstrap simülasyonunun gösterdiği gibi, , açıkça tahmincisi olarak aşağıya doğru eğimlidir ; tamamen yanlış.$\theta(\mathbf{p}_n^*)$$\mathbf{p}_n^*$$n$$\hat{\mathbf{p}}_n$$\theta(\mathbf{p}_n^*)$$\theta(\mathbf{p}_n^*)$$\theta(\hat{\mathbf{p}}_n)$

Temel (ve normal) aralık için, kantillerin rolleri değiştirilir. Bu, aralığın makul göründüğü anlamına gelir (3.912'yi kapsar), ancak 3.912'yi aşan aralıklar mantıklı değildir. Dahası, temel aralığın doğru kapsama sahip olup olmayacağını bilmiyorum. Gerekçesi aşağıdaki yaklaşık dağıtım kimliğine dayanmaktadır:

N , n =

$$\theta(\mathbf{p}_n^*) - \theta(\hat{\mathbf{p}}_n) \overset{\mathcal{D}}{\simeq} \theta(\hat{\mathbf{p}}_n) - \theta(\mathbf{p}),$$ bu gibi (nispeten) küçük için sorgulanabilir olabilir .$n$$n = 100$

Standart bir hata OP'ın son öneri dayalı aralık olacak değil çünkü büyük önyargı da işe. Bu belki bir önyargı düzeltilmiş tahmincisi için çalışmak, ama sonra ilk önyargı düzeltilmiş tahmincisi için tüm ihtiyaç doğru standart hataları.$\theta(\hat{\mathbf{p}}_n) \pm 1.96\hat{\mathrm{se}}_n$

için profil günlüğü olasılığını temel alarak bir olasılık aralığını dikkate . farklı sabit değerleri için üzerinde günlük olasılığını en üst düzeye çıkarmanız dışında, bu örnek için profil günlüğü olasılığını hesaplamanın basit bir yolunu bilmemekten korkuyorum. .p θ ( p$\theta(\mathbf{p})$$\mathbf{p}$$\theta(\mathbf{p})$

@NRH'nin cevabının işaret ettiği gibi, sorun, önyüklemenin taraflı bir sonuç vermemesi değil. Bir örneklemden elde edilen verilere dayanarak Shannon entropisinin basit "eklenti" tahmininin gerçek popülasyon değerinden aşağıya doğru sapmasıdır.

Bu sorun, 1950'lerde, bu endeksin tanımlanmasından birkaç yıl sonra fark edildi. Bu makale , ilgili literatüre atıflar ile altta yatan konuları tartışmaktadır.

Sorun, bireysel olasılıkların bu entropi ölçüsü ile doğrusal olmayan ilişkisinden kaynaklanmaktadır. Bu durumda, örnek n , de gen i için gözlemlenen genotip fraksiyonu , gerçek olasılık olan nin tarafsız bir tahmincisidir . Ancak bu gözlemlenen değer, M genleri üzerinde entropi için "plug-in" formülüne uygulandığında:p, n,$\hat{p}_{n,i}$$p_{n,i}$

$$\hat{\theta}_n = \theta(\hat{\mathbf{p}}_n) = - \sum_{i=1}^{M} \hat{p}_{n,i} \log \hat{p}_{n,i}.$$

doğrusal olmayan ilişki, ortaya çıkan değerin, gerçek genetik çeşitliliğin önyargılı bir düşük tahmini olduğu anlamına gelir.

Önyargı, gen sayısına, ve gözlem sayısına, . İlk siparişe göre, eklenti tahmini gerçek entropiden bir miktar kadar düşük olacaktır . Daha yüksek mertebeden düzeltmeler yukarıda verilen makalede değerlendirilir.N ( M - 1 ) / 2 $M$$N$$(M -1)/2N$

R'de bu konuyla ilgilenen paketler var. simbootÖzellikle paket işlevi vardır estShannonfbu önyargı düzeltmeleri yapar ve bir işlevi sbdivgüven aralıkları hesaplamak için. Sıfırdan başlamaya çalışmak yerine, bu tür yerleşik açık kaynaklı araçları analiziniz için kullanmak daha iyi olacaktır.