Günlükte felaket iptali

Düşük göreli hata ile çift hassasiyetli kayan nokta aşağıdaki işlevi uygulamaya çalışıyorum :

l Ö g s u m (x, y) = günlük (tecrübe (x) + tecrübe (y))

$\mathrm{logsum}(x,y) = \log(\exp(x) + \exp(y))$

Bu, günlük uygulamalarda temsil edilen olasılıkları veya olasılık yoğunluklarını eklemek için istatistiksel uygulamalarda yaygın olarak kullanılır. Tabii ki, $\exp(x)$ veya $\exp(y)$ kolayca taşabilir veya taşabilir, bu da ilk başta taşmayı önlemek için günlük alanı kullanıldığından kötü olur. Bu tipik bir çözümdür:

l Ö g s u m (x, y) = x + l Ö g 1 p (tecrübe (y - x))

$\mathrm{logsum}(x,y) = x + \mathrm{log1p}(\exp(y - x))$

den $y-x$ olur, ancak $\exp$ . Daha kötüsü, $x$ ve $\mathrm{log1p}(\exp(y - x))$ yakın olduğundadır. İşte göreceli bir hata grafiği:

resim açıklamasını buraya girin

Arsa olarak kesilir eğri şeklini vurgulamak iptal oluşur hangi. Ben hatayı kadar gördüğüm ve Daha kötüsü şüpheli. (FWIW, "gerçek gerçeği" işlevi, MPFR'nin 128-bit hassasiyetle keyfi hassas şamandıraları kullanılarak uygulanır.) $10^{-14}$ $\mathrm{logsum}(x,y) = 0$ $10^{-11}$

Aynı sonuçları veren başka reformları denedim. İle dış ifadesi olarak, aynı hata ile 1. yakın bir şey bir günlük alarak ortaya dış ifadesi olarak iptal iç ifade olur. $\log$ $\mathrm{log1p}$

Şimdi, mutlak hata çok küçüktür, bu nedenle çok küçük göreceli hataya sahiptir (bir epsilon içinde). Kullanıcı çünkü biri iddia edebilir gerçekten (olasılıkları günlüğe) olasılıklar ilgilenen bu korkunç bağıl hata bir sorun değildir. Genellikle değil, ama bir kütüphane işlevi yazıyorum ve istemcileri yuvarlama hata çok daha kötü değil göreceli hata güvenmek istiyorum. $\exp(\mathrm{logsum}(x,y))$ $\mathrm{logsum}$

Görünüşe göre yeni bir yaklaşıma ihtiyacım var. Ne olabilir?

floating-point stability numerics

— Neil Toronto
kaynak

Son paragrafınızı anlamıyorum. "Bir epsilon içinde" benim için hiçbir şey ifade etmiyor. Son Yerdeki Birlik mi demek istiyorsun ? Kullanıcıların olasılıklarla ilgilenmesiyle ilgili olarak, küçük bir günlük olasılık hatası büyük bir olasılık hatasına neden olacaktır, bu yüzden durum böyle değildir.

— Aron Ahmadia

Meraktan, iki yönteminizin "en iyisini" alıp bunun hatasını çizmeyi denediniz mi? O zaman ihtiyacınız olan tek şey, hangi durumda olduğunuzu saptamak için doğru mantıktır (umarım daha az maliyetli veya algoritmanın gerekli maliyetinin bir parçası olmak), ardından uygun yönteme geçin.

— Aron Ahmadia

@AronAhmadia: "Bir epsilon içinde", yaklaşık 2.22e-16 olan çift duyarlıklı kayan nokta epsilonundan daha az göreceli hata anlamına gelir. Normal (yani normal olmayan) şamandıralar için, yaklaşık bir ulp'ye karşılık gelir. Ayrıca,

mutlak

in göreli hatası

a

$a$

x

$x$

\exp (x)

$\exp(x)$

, neredeyse sıfıra yakın olan kimlik işlevi olan

. IOW,

için küçük mutlak hata

için küçük göreli hata anlamına gelir.

\exp (a) - 1

$\exp(a)-1$

x

$x$

\exp (x)

$\exp(x)$

— Neil Toronto

Zeyilname: Mutlak hata

sıfır olduğunda. Ne zaman

, örneğin, haklısın: göreli patlar.

a

$a$

a > 1

$a > 1$

— Neil Toronto

formülü sayısal olarak kararlı olmalıdır.

l Ö g s u m (x, y) = maksimum (x, y) + l Ö g 1 p (tecrübe (- abs (x - y))

$\mathrm{logsum}(x,y)=\max(x,y)+\mathrm{log1p}(\exp(-\operatorname{abs}(x-y))$

günlük \underset{ben}{Σ} e^{x_{ben}} = ξ + günlük \underset{ben}{Σ} e^{x_{ben} - ξ}, ξ = \underset{ben}{maksimum} x_{ben}

$\log \sum_i e^{x_i} = \xi+ \log\sum_i e^{x_i-\xi},~~~\xi=\max_i x_i$

Günlük toplamının sıfıra çok yakın olması ve yüksek göreceli doğruluk istiyorsanız, muhtemelen

l Ö g s u m (x, y) = maksimum (x, y) + l e x p (x - y)

$\mathrm{logsum}(x,y)=\max(x,y)+\mathrm{lexp}(x-y)$ bir kullanılarak

doğru (yani çift kesinlikten fazla) uygulaması

l e x p (z) : = günlük (1 + e^{- | z |})

$\mathrm{lexp}(z):=\log(1+e^{-|z|})$ bu da küçük

için neredeyse doğrusaldır .

z

$z$

— Arnold Neumaier
kaynak

Mutlak hata açısından, öyle. Göreceli hata açısından, çıktı sıfıra yakın olduğunda korkunçtur.

— Neil Toronto

@NeilToronto: Lütfen iki açık giriş

x

$x$

y

$y$

X = -0.775 ve y = -0.6175 için 62271 ulps hatası ve 1.007e-11 göreli hatası alıyorum.

— Neil Toronto

İlgi alanındaki yüksek doğrulukta veri noktalarını hesaplayın - asimtotik davranış nedeniyle en azından iki farklı aralığa ihtiyaç vardır. Sıfıra yakın olmayan z için tanımlayıcı ifade kullanılabilir. İstisnai aralığı elde etmek için, istisnai aralık için yeterince yüksek derecede rasyonel bir fonksiyon takın. Sayısal kararlılık için, ilgi aralığına uyarlanmış pay ve paydada bernstein polinomları veya Tchebychev polinomları kullanın. Sonunda, sürekli bir kesire genişletin ve doğruluktan etkilenmeden katsayıları ne kadar kısaltabileceğini öğrenin.

— Arnold Neumaier

elde etmek için

verir

l = l (z)

$l=l(z)$

m

$m$ aynı şeyi ancak işlev lexp (Z) -l (z) uygulanır.

— Arnold Neumaier