Gürültülü veya ince yapılandırılmış veriler için orta nokta kuralından daha iyi kareleme var mı?

Bu uzun sorunun sadece ilk iki bölümü önemlidir. Diğerleri sadece örnekleme amaçlıdır.

Arka fon

Yüksek dereceli kompozit Newton – Cotes, Gauß – Legendre ve Romberg gibi gelişmiş kareleme, esas olarak, fonksiyonun iyi bir şekilde örneklenebileceği ancak analitik olarak entegre edilemediği durumlar için tasarlanmıştır. Bununla birlikte, örnekleme aralığından (örnek için Ek A'ya bakın) veya ölçüm gürültüsünden daha ince yapılara sahip işlevler için, orta nokta veya yamuk kuralı gibi basit yaklaşımlarla rekabet edemezler (bir gösterim için Ek B'ye bakın).

Bu biraz sezgiseldir, örneğin, bileşik Simpson kuralı temelde bilginin dörtte birini daha düşük bir ağırlık atayarak “atar”. Bu tür dördünlerin yeterince sıkıcı işlevler için daha iyi olmasının tek nedeni, sınır efektlerinin doğru bir şekilde kullanılmasının atılan bilgilerin etkisinden daha ağır basmasıdır. Başka bir bakış açısından, ince bir yapıya veya gürültüye sahip işlevler için, entegrasyon alanının sınırlarından uzak olan numunelerin neredeyse eşit mesafede olması ve neredeyse aynı ağırlığa sahip olması gerektiği açıktır (çok sayıda örnek için) ). Öte yandan, bu tür işlevlerin kareleme, sınır etkilerinin daha iyi ele alınmasından yararlanabilir (orta nokta yönteminden daha iyi).

Soru

Gürültülü veya ince yapılandırılmış tek boyutlu verileri sayısal olarak entegre etmek istediğimi varsayalım.

Örnekleme noktalarının sayısı sabittir (fonksiyon değerlendirmesinin maliyetli olması nedeniyle), ancak bunları serbestçe yerleştirebilirim. Bununla birlikte, ben (veya yöntem) örnekleme noktalarını etkileşimli olarak, diğer örnekleme noktalarından elde edilen sonuçlara dayanarak yerleştiremez. Ayrıca önceden potansiyel sorunlu bölgeleri de bilmiyorum. Yani, Gauß – Legendre (eşitlikçi olmayan örnekleme noktaları) gibi bir şey iyidir; adaptif kareleme, interaktif olarak yerleştirilmiş örnekleme noktaları gerektirdiği için değildir.

• Böyle bir durum için orta nokta yönteminin ötesine geçen herhangi bir yöntem önerildi mi?

• Veya: Bu koşullar altında orta nokta yönteminin en iyi olduğuna dair herhangi bir kanıt var mı?

• Daha genel olarak: Bu sorun üzerinde mevcut herhangi bir çalışma var mı?

Ek A: İnce yapılandırılmış fonksiyona özel örnek

Tahmin etmek istiyorum için: ileve. Tipik bir işlev şöyle görünür:$\int_0^1f(t)\, \mathrm{d}t$φi∈[0,2π

$$f(t) = \sum_{i=1}^{k} \frac{\sin(ω_i t-φ_i)}{ω_i},$$ $φ_i∈ [0,2π]$$\log{ω_i} ∈ [1,1000]$

Bu işlevi aşağıdaki özellikler için seçtim:

• Bir kontrol sonucu için analitik olarak entegre edilebilir.
• Kullandığım örnek sayısı ( ) ile hepsini yakalamayı imkansız hale getiren bir seviyede ince bir yapıya sahiptir .$<10^2$
• İnce yapısı hakim değildir.

Ek B: Kıyaslama

Tamlık için, Python'da bir kriter:

import numpy as np
from numpy.random import uniform
from scipy.integrate import simps, trapz, romb, fixed_quad

begin = 0
end   = 1

def generate_f(k,low_freq,high_freq):
    ω = 2**uniform(np.log2(low_freq),np.log2(high_freq),k)
    φ = uniform(0,2*np.pi,k)
    g = lambda t,ω,φ: np.sin(ω*t-φ)/ω
    G = lambda t,ω,φ: np.cos(ω*t-φ)/ω**2
    f = lambda t: sum( g(t,ω[i],φ[i]) for i in range(k) )
    control = sum( G(begin,ω[i],φ[i])-G(end,ω[i],φ[i]) for i in range(k) )
    return control,f

def midpoint(f,n):
    midpoints = np.linspace(begin,end,2*n+1)[1::2]
    assert len(midpoints)==n
    return np.mean(f(midpoints))*(n-1)

def evaluate(n,control,f):
    """
    returns the relative errors when integrating f with n evaluations
    for several numerical integration methods.
    """
    times = np.linspace(begin,end,n)
    values = f(times)
    results = [
            midpoint(f,n),
            trapz(values),
            simps(values),
            romb (values),
            fixed_quad(f,begin,end,n=n)[0]*(n-1),
        ]

    return [
            abs((result/(n-1)-control)/control)
            for result in results
        ]

method_names = ["midpoint","trapezoid","Simpson","Romberg","Gauß–Legendre"]

def med(data):
    medians = np.median(np.vstack(data),axis=0)
    for median,name in zip(medians,method_names):
        print(f"{median:.3e}   {name}")

print("superimposed sines")
med(evaluate(33,*generate_f(10,1,1000)) for _ in range(100000))

print("superimposed low-frequency sines (control)")
med(evaluate(33,*generate_f(10,0.5,1.5)) for _ in range(100000))

(Burada medyanı sadece yüksek frekans içeriğine sahip fonksiyonlar nedeniyle aykırı değerlerin etkisini azaltmak için kullanıyorum. Ortalama olarak sonuçlar benzer.)

Göreli entegrasyon hatalarının medyanları şunlardır:

superimposed sines
6.301e-04   midpoint
8.984e-04   trapezoid
1.158e-03   Simpson
1.537e-03   Romberg
1.862e-03   Gauß–Legendre

superimposed low-frequency sines (control)
2.790e-05   midpoint
5.933e-05   trapezoid
5.107e-09   Simpson
3.573e-16   Romberg
3.659e-16   Gauß–Legendre

Not: İki ay ve sonuçsuz bir ödül aldıktan sonra bunu MathOverflow'a gönderdim .

Her şeyden önce, uyarlanabilir kareleme kavramını yanlış anladığınızı düşünüyorum. Uyarlanabilir kareleme "etkileşimli olarak numune noktaları yerleştirme" anlamına gelmez. Uyarlanabilir kareleme arkasındaki tüm fikir, belirli bir işlevi olabildiğince az işlev değerlendirmesi ile belirli (tahmini) mutlak veya göreceli bir hataya entegre edecek bir plan tasarlamaktır.

İkinci bir açıklama: "Örnekleme noktalarının sayısı sabittir (fonksiyon değerlendirmesinin maliyetli olması nedeniyle), ancak bunları serbestçe yerleştirebilirim". Fikir, örnekleme noktalarının (veya kareleme terminolojisindeki fonksiyon değerlendirmelerinin) mümkün olduğunca az olması gerektiği (yani sabit olmayan) olması gerektiğini düşünüyorum.

Öyleyse, örneğin QUADPACK'te uygulanan uyarlanabilir kareselenin arkasındaki fikir nedir?

1. Temel bileşen "iç içe" bir kareleme kuralıdır: bu, birinin diğeriyle daha yüksek bir sıraya (veya doğruluğa) sahip olduğu iki kareleme kuralının birleşimidir. Neden? Bu kurallar arasındaki farka dayanarak, algoritma kareleme hatasını tahmin edebilir (elbette, algoritma referans sonucu olarak en doğru olanı kullanacaktır). Örnekler, düğümü ve düğümü olan yamuk kuralı olabilir . QUADPACK söz konusu olduğunda kurallar Gauss-Kronrod kurallarıdır. Bunlar, belirli bir düzeneğin Gauss-Legendre kareleme kuralını kullanan enterpolatuar kareleme kuralları$2^{n}$$2^{n+1}$$N$ve bu kuralın optimal bir uzantısı. Bu, Gauss-Legendre düğümlerinin (yani maliyetli fonksiyon değerlendirmeleri) farklı ağırlıklarla yeniden kullanılması ve bir dizi ekstra düğüm eklenmesiyle daha yüksek bir kareleme düzeninin elde edilebileceği anlamına gelir. Başka bir deyişle, orijinal Gauss-Legendre derece kuralı, derece tüm polinomlarını tam olarak entegre ederken, genişletilmiş Gauss-Kronrod kuralı bazı daha yüksek sıralı polinomu tam olarak entegre edecektir. Klasik bir kural G7K15'tir (15. derece Gauss-Kronrod ile 7. derece Gauss-Legendre). Sihir, Gauss-Legendre'nin 7 düğümünün Gauss-Kronrod'un 15 düğümünün bir alt kümesi olması, bu nedenle 15 işlev değerlendirmesi ile bir hata tahmini ile birlikte dörtlü bir değerlendirmem var!$N$$2N-1$

2. Sonraki bileşen bir "böl ve fethet" stratejisidir. Bu G7K15'i integralinizde kaybettiğinizi ve zevkinize göre çok büyük bir kareleme hatası gözlemlediğinizi varsayalım. QUADPACK daha sonra orijinal aralığı eşit aralıklı iki alt aralıkta alt bölümlere ayırır. Daha sonra, G7K15 temel kuralını kullanarak iki alt-integrali yeniden değerlendirecektir. Şimdi, algoritmanın küresel bir hata tahmini (umarım birincisinden daha düşük olması gerekir) değil, aynı zamanda iki yerel hata tahmini vardır. Aralığı en büyük hata ile alır ve bunu ikiye böler. İki yeni integral tahmin edilir ve global hata güncellenir. Global hata istediğiniz hedefin altına gelinceye veya maksimum alt bölüm sayısı aşılıncaya kadar devam edin.

Bu yüzden scipy.quadyöntemi kullanarak yukarıdaki kodunuzu güncellemek için meydan okuyorum. Belki çok sayıda "ince yapı" olan bir integral durumunda, maksimum alt bölüm sayısını ( limitseçenek) artırmanız gerekebilir . Ayrıca epsabsve / veya epsrelparametreleriyle de oynayabilirsiniz .

Ancak, sadece deneysel verileriniz varsa, iki olasılık görüyorum.

1. Ölçüm noktalarını, yani değerlerini seçme şansınız varsa, iç içe trapezoidal bir kural (ve Romberg ekstrapolasyonundan faydalanabilmeniz) için bunları eşit olarak ve tercihen gücü olarak seçerim.$t$$2$
2. Düğümleri seçmenin bir yolu yoksa, yani ölçümler rastgele zamanlarda gelirse, bence en iyi seçenek hala yamuk kuralıdır.

Kodunuzun çeşitli dörtlü kurallar ve gürültü ve ince yapıya karşı ne kadar iyi yaptıkları hakkında temel bir şey gösterdiğine ikna olmadım ve çeşitli farklı para cezaları yapısını seçerseniz farklı bir şey bulacağınıza inanıyorum. İşte teorem:

Hiçbir kareleme yöntemi, sınırsız toplam varyasyona sahip bir fonksiyona karşı düşük mutlak veya göreceli hata veremez. Birim yuvarlama olan bir kayan nokta sisteminde , tahmini$\mu$ burada sayısal uygulanması üzerine etki eden kuadratür toplamıdır ve .

$$\left| \int_{a}^{b} f \, \mathrm{d}x - \hat{Q}[\hat{f}] \right| \le \left| \int_{a}^{b} f \, \mathrm{d}x - Q[f] \right| + \mu\left[ 4\int_{a}^{b} |f| \, \mathrm{d}x + \int_{a}^{b} |xf'| \, \mathrm{d}x \right]$$ $\hat{Q}$$\hat{f}$$f$

Kanıt: Kareleme düğümleri ve (negatif olmayan) kareleme ağırlıkları ve kayan nokta yaklaşımlarını ve . karşıladığını varsayalım burada Burada birim yuvarlaklığıdır. Sonra $\{x_i\}_{i=0}^{n-1}$$\{w_i\}_{i=0}^{n-1}$w i x$\hat{w}_{i}$$\hat{x}_i$$\hat{f}$$\hat{f}(x) = f(x)(1+2\delta)$$|\delta| \le \mu$$\mu$

$$\begin{align*} \hat{Q}[\hat{f}] &= \sum_{i=0}^{n-1} \hat{w}_i \otimes \hat{f}(\hat{x}_i) \\ &= \sum_{i=0}^{n-1} w_i (1+\delta^w_i)f(x_i + \delta_i^x x_i)(1+2\delta_i^{f})(1+\delta_i^{*}) \\ &\approx \sum_{i=0}^{n-1} w_i \left[f(x_i)+ \delta_i^x x_i f'(x_i) \right] (1+\delta^w_i + 2\delta_i^{f} + \delta_i^*) \\ &\approx \sum_{i=0}^{n-1} w_i f(x_i) + \sum_{i=0}^{n-1}\delta_i^x w_i x_i f'(x_i) + w_i f(x_i) (\delta^w_i + 2\delta_i^{f} + \delta_i^*) \\ \end{align*}$$ böylece Toplamın hatasız hesaplandığını varsayar; bu varsayımı bırakmak için ile çarpın . $$\begin{align*} |\hat{Q}[\hat{f}] - Q[f]| &\le \mu \sum_{i=0}^{n-1}w_i(|x_i f'(x_i)| + 4|f(x_i)|) \\ &\approx 4\mu \int |f| \, \mathrm{d}x + \mu \int |xf'| \, \mathrm{d}x \end{align*}$$ $n$

Mutatis mutandis de sonucun sabit nokta aritmetiğinde olduğunu gösterebilirsiniz.