11

Sayısal türevleri hesaplamak istendiğinde, Bengt Fornberg tarafından burada (ve burada rapor edilir ) sunulan yöntem çok uygundur (hem kesin hem de uygulanması basittir). 1988'deki orijinal bildiri tarihi olarak, bugün daha iyi bir alternatif olup olmadığını bilmek istiyorum (ya da neredeyse basit ve daha kesin)?

finite-difference precision

— Vincent
kaynak

1

Neyi farklılaştırmak istediğinizi bilmeden söylemek zor. Otomatik farklılaşmayı düşündünüz mü ?

— Biswajit Banerjee

@BiswajitBanerjee: Sonlu fark katsayıları için otomatik farklılaşma geçerli değildir.

— Geoff Oxberry

@GeoffOxberry: Asıl fiziksel problemden, yani "hesaplama bilimi" nin bilim kısmından bahsediyordum.

— Biswajit Banerjee

@Vincent: Bir işlevi veya tabloyu ayırt etmeye mi çalışıyorsunuz? Tablo verileri varsa, tablo verileri gürültülü mü? Bir PDE'yi takdir etmeye mi çalışıyorsunuz?

— user14717

9

genel bakış

İyi soru. R. Baltensperger tarafından "Keyfi kollokasyon noktaları için matris farklılaştırma yönteminin doğruluğunun artırılması" başlıklı bir makale bulunmaktadır. Bu Bence önemli değil, ama (zaten 2000 yılında ortaya çıkmasından önce bilindiğini) bir noktası vardır: sabit fonksiyon türevi olduğunu aslında doğru bir temsilinin önemini vurgulamaktadır should sıfır olması (tam olarak matematiksel anlamda geçerlidir, ancak sayısal gösterimde olması gerekmez). $f(x)=1$

Bunun n. Türev türev matrislerinin satır toplamlarının sıfır olmasını gerektirdiğini görmek kolaydır . Bu kısıtlamayı çapraz girişi ayarlayarak, yaniKayan nokta hesaplamalarındaki yuvarlama hataları nedeniyle bir bilgisayarda çalışırken bu özelliğin tam olarak geçerli olmadığı açıktır. Daha şaşırtıcı olan, türev matris için analitik formüller kullanıldığında (örneğin birçok klasik kollokasyon noktası, örneğin Gauss-Lobatto için kullanılabilir) bu hataların daha da şiddetli olmasıdır. $D^{(n)}$

\begin{matrix} (1) & D_{j j}^{(n)} := - \sum_{\begin{matrix} i = 1 \\ i \neq j \end{matrix}}^{N} D_{i j} . \end{matrix}

$\tag 1 D^{(n)}_{jj} := -\sum_{\substack{i=1\\i \neq j }}^N D_{ij}\,.$

Şimdi, makale (ve içindeki referanslar), türevin hatasının satır toplamlarının sapma sıfıra göre olduğunu belirtir. Bu nedenle amaç, bunları mümkün olduğunca sayısal hale getirmektir.

Sayısal testler

İyi nokta şu ki Fornberg prosedürü bu açıdan oldukça iyi görünüyor. Aşağıdaki resimde, değişken Chebyshev-Lobatto kollokasyon noktalarının kesin, yani analitik, ilk türev matrisinin ve Fornberg algoritması tarafından türetilmiş olanın davranışını karşılaştırdım.

Yine, alıntılanan makaledeki ifadeye inanarak, Fornberg algoritmasının türev için daha doğru sonuçlar vereceği anlamına gelir.

Bunu kanıtlamak için, kağıttaki ile aynı işlevi kullanacağım, veBu, (i) analitik olarak elde edilen türev matrisi, (ii) Fornberg türev matrisi ve (iii) Fornberg matrisinin düzeltilmiş bir versiyonudur; (1) aracılığıyla oldukça basit bir şekilde uygulanırİşte ne olsun (yine Gauss-Lobatto abscissas örneği için):

\begin{matrix} (2) & f (x) = \frac{1}{1 + x^{2}} . \end{matrix}

$\tag 2 f(x) = \frac{1}{1+x^2}\,.$

\begin{matrix} (3) & E_{n} = max_{i \in {0, \dots, n}} | f^{'} (x_{i}) - \sum_{j = 1}^{n} D_{i j} f (x_{j}) | . \end{matrix}

$\tag 3 E_n = \max_{i\in \{0,\ldots,n\}} \bigg| f^\prime(x_i) - \sum_{j=1}^n D_{ij} f(x_j) \bigg|\,.$

\begin{matrix} (4) & {\tilde{D}}_{j j} = D_{j j} - (\sum_{i = 1}^{n} D_{j i}), for all j . \end{matrix}

$\tag 4 \tilde D_{jj} = D_{jj} - \left(\sum_{i=1}^n D_{ji} \right), \qquad \text{for all}\ j\,.$

Sonuç

Sonuç olarak, Fornberg'in yöntemi oldukça doğru görünmektedir, olması durumunda bile, analitik formüllerden elde edilen sonuçlardan yaklaşık 3 kat daha büyüklükte daha doğrudur. Bu, çoğu uygulama için yeterince doğru olmalıdır. Dahası, bu dikkate değerdir, çünkü Fornberg bu gerçeği yöntemine açıkça dahil etmemektedir (en azından iki Fornberg gazetesinde hiç söz yoktur). $N=512$

Bu örnek için, Denklem (4) 'ün doğrudan dahil edilmesiyle başka bir büyüklük derecesi elde edilebilir. Bu oldukça basit bir yaklaşım olduğundan ve her bir türev için sadece bir kez uygulandığından, onu kullanmamanın bir sebebi görmüyorum.

Baltensperger kağıdından - denklem (1) 'deki toplamı, yuvarlama hatalarını azaltmak için değerlendirmek için daha sofistike bir yaklaşım kullanan yöntem, hata için yaklaşık aynı büyüklük derecesini verir. Yani, en azından bu örnek için, kabaca yukarıdaki "Düzeltilmiş Fornberg" yöntemine eşdeğerdir.

— davidhigh
kaynak

4

Sürekli bir işlevin sayısal bir uygulamasını ayırt etmeye çalıştığınızı varsayarsak, çok sayıda yöntem vardır:

1) Otomatik farklılaşma. En doğru ve genel yöntem. Kodlama acılıdır, operatörün aşırı yüklenmesi ve argümana bağlı arama gerektirir. Bu kavramları anlaması için kullanıcıya yük bindirir. Ayrıca içtenliği ayırt etmek gibi çıkarılabilir tekilliklerle mücadele eder . $x= 0$

2) Bir Chebyshev dönüşümü. İşlevinizi bir Chebyshev polinomları aralığına yansıtın ve üç dönem tekrarını ayırt edin. Süper hızlı, çok doğru. Ancak, kompakt olarak desteklenen bir ilgi alanınıza sahip olmanızı gerektirir; seçilen alan adının dışında, üç terim yinelenmesi kararsızdır. $[a,b]$

3) Sonlu farklar. 1D'de küçültülmüş; bkz. Nick Higham'ın Sayısal Hesaplamadaki İpuçları ve Püf Noktaları . Fikir, kesme hatasını ve yuvarlama hatasını dengelerseniz, bir adım boyutu seçmeniz gerekmez; otomatik olarak seçilebilir. Boost'da bu fikir, tür için doğru basamakların 6 / 7'sini kurtarmak için (varsayılan olarak) kullanılır. (Higham sadece doğru rakamların 1/2 daha basit durumu için fikri gösterir, ancak fikir kolayca genişletilebilir.) Katsayılar Fornberg'in eşdeğerli tablosundan, ancak adım boyutu, işlevin 1ULP olarak değerlendirilebileceği varsayımı altında seçilir. doğruluk. Dezavantajı, tipteki rakamların yarısını kurtarmak için 2 fonksiyon değerlendirmesi, rakamları 3/4 rakamını kurtarmak için 4 gerektirir. 1D'de kötü bir anlaşma değil. Daha yüksek boyutlarda, felaket.

4) Karmaşık adım türevi. Kullanım . Birim yuvarlanması için alın ve bu hemen hemen her biti düzeltir. Bununla birlikte, biraz hile, çünkü karmaşık düzlemde bir işlevi uygulamak, gerçek türevini elle kodlamaktan daha zordur. Hala harika bir fikir ve bazı durumlarda yararlı. $f'(x) \approx \Im(f(x+ih))$ $h$

— user14717
kaynak

1

Fornberg'in algoritmasını geliştiren kimsenin farkında değilim (biraz daha yeni makalesine de bakınız ). Bir kenara, bana göre, algoritmasına sayısal türevleri hesaplamanın bir yolu olarak bakmak doğru değil. Tek yaptığı sonlu fark yöntemleri için ağırlıkları hesaplamak için etkili bir algoritma türetmek . Yönteminin avantajı, bir seferde istenen türeve kadar tüm türevler için ağırlık vermesidir.

— Brian Zatapatique
kaynak

"Algoritmasına sayısal türevleri hesaplamanın bir yolu olarak bakmak doğru değil" ifadesine katılmıyorum. ağırlıkları noktası için değerlendirildikten sonra , üzerinden herhangi bir fonksiyonunun sayısal türevini doğrudan hesaplayabilirsiniz .

w_{i}

$w_i$

z

$z$

f (x)

$f(x)$

f^{'} (z) = \sum_{i} w_{i} f (x_{i})

$f^\prime(z) = \sum_i w_i f(x_i)$

— davidhigh

@davidhigh: Fornberg'in gazetelerini okursanız, onlar sonlu fark yaklaşımları için ağırlıkların hesaplanması hakkında konuşurlar, yaklaşımların hesaplanması hakkında değil. Tabii ki türevleri hesaplamak için algoritmayı da kullanabilirsiniz, ancak ağırlıkları hesaplamak, saklamak ve daha sonra yaklaşık türevleri hesaplamak için bunları tekrar tekrar kullanmak daha mantıklıdır. Aksi takdirde, ihtiyaç olmadığında ağırlıkları tekrar tekrar hesaplarsınız.

— Brian Zatapatique

1

Daha basit bir şema

Fornberg yönteminin bir uzantısıyla ilgili diğer cevabımın yanı sıra , burada daha basit alternatifler için soruya değineceğim.

Bunun için Lagrangian enterpolasyonunun türev katsayılarını daha doğrudan üreten alternatif bir şema çiziyorum. Uygulanması sadece birkaç satır kod gerektirir, keyfi ızgaralar için çalışır ve ilk deneylerime göre Fornberg'inki kadar doğrudur.

Uygulama temeli hayali adımlı türevidir makine hassasiyeti sırasıyla bir değişkendir. Hayali-adım türevinin kararlı bir şekilde türev değerleri ürettiği bilinmektedir ve ile bir Sonlu farklar uygulamasının sayısal dengesizliğine maruz kalmamaktadır .

f^{'} (x) = \frac{1}{h} Im (f (x + i h)),

$f'(x) \ = \ \frac{1}{h}\,\text{Im}\big(f(x+ih)\big)\,,$

h

$h$

h \to 0

$h\rightarrow 0$

İkinci bileşen, ızgarasındaki Lagrange enterpolasyon polinomu , barycentric formlardan biriyle değerlendirildi, örn. burada Karmaşık adım türevini kullanmak için, bu formüllerin karmaşık için de çalıştığından emin olunmalıdır argümanlar . Ayrıca, belirli bir f (x) fonksiyonu ve katsayılarının vektörü için, enterpolasyon polinomunu ile $L_i(x)$ $\{x_1,\ldots, x_N\}$

L_{i} (z) = {\begin{cases} 1 & if z = x_{i} \\ \frac{\frac{μ_{i}}{z - x_{k}}}{\sum_{k} \frac{μ_{k}}{z - x_{k}}} & otherwise . \end{cases}

$L_i(z) \ = \ \begin{cases}1 & \text{if }z = x_i\\\ \frac{\frac {\mu_i}{z-x_k}}{ \sum_k\frac {\mu_k}{z-x_k} } & \text{otherwise}\,. \end{cases}$

μ_{i} = \frac{1}{\prod_{k \neq i} (x_{i} - x_{k})}

$\mu_i = \frac{1}{\prod_{k\neq i} (x_i - x_k)}$

z

$z$

f_{i} = f (x_{i})

$f_i = f(x_i)$

(x_{1}, f_{i})

$(x_1,f_i)$

P (x; f) = \sum_{i = 1}^{N} f_{i} L_{i} (x) .

$P(x;f) = \sum_{i=1}^N f_i L_i(x)\,.$

Algoritma

Algoritma aşağıda gösterilmiştir. Fornberg ile aynı giriş ve çıkış parametrelerine sahiptir, ancak daha çok beyinsizdir.

Giriş:

$x$ : N farklı ızgara noktalı bir ızgara
$ord$ : türev siparişi
z: Türevin değerlendirileceği bir nokta
Olası: noktalarındaki fonksiyonu veya funciton değerleri f_i (yalnızca çıkış değişkeni 2 için gereklidir) $f(x)$ $f_i$

Başlatma

Barentrik interpolasyon yoluyla Lagrange polinomları başlatın . $L$
için -matris dizisini başlat $N\times N$ $D^{(o)}$ $o=0, \ldots, ord$
Takım örneğin, boyut, birim matrisine $D^{(0)} := I_N$ $N\times N$
Set $o := 0$

Algoritma

İken : $o < ord$

Hesaplama kompleksi adımlı türevinin için tüm ve . Burada, belirtmektedir arasında inci satır . $D^{(o+1)}_{ik} = CSD \bigg( P\big(x_k; D^{(o)}_{i}\big) \bigg)$ $CSD$ $i$ $k$
$D^{(o)}_{i}$ $i$ $D^{(o)}$
Set o = o + 1;

Ne karar verin Çıktı :

noktasında Sonlu Fark katsayılarının vektörü , burada . Fornberg'in yaptığı budur. $d^{(ord)}$ $z$ $d_i = P(z;D^{(ord)}_i)$
İnterpolasyon fonksiyonu için türev sipariş . Bunun için, bir işlev girmeniz gerekir. fonksiyon değerleri de algoritmasına. $p^{(ord)}(x) = \sum_{i=1}^N f(x_i) P(x;D^{(ord)}_i)$ $f^{(ord)}(x)$ $ord$ $f_i$ $x_i$
Varyant 2'nin enterpolasyon işlevini döndüren, ancak ızgara noktalarında enterpolasyon yapılacak keyfi bir fonksiyonu için bir meta işlev . $\text{diff}(\text{int } ord, \text{function } g)$ $g$

Şahsen, 3. varyantı en çok seviyorum.

Algoritmanın analizi

Fornberg gibi, bu algoritma . Zamanı bulursam doğruluk, istikrar vb. İle ilgili daha ampirik sonuçlar vereceğim. $\mathcal O(ord \cdot N^2)$

— davidhigh
kaynak

0

Sayısal farklılaşmanın hassasiyetini artırmak için aşağıdakileri yapın:

1) Bazı adım boyutlarına göre en sevdiğiniz yüksek hassasiyetli "standart" yöntemi seçin h .

2) Türev değerini 1) 'de seçilen yöntemle farklı ama makul adım boyutları h ile birçok kez hesaplayın . Her seferinde h'yi , kullandığınız yöntem için uygun bir adım boyutu olduğu aralıktan (0.5 * H / 10, 1.5 * H / 10) rastgele bir sayı olarak seçebilirsiniz .

3) Sonuçların ortalaması.

Sonuç, mutlak hata wrt'sinde 2-3 büyüklük derecesi kazanabilir. ortalamasız sonuç.

https://arxiv.org/abs/1706.10219

— F. Jatpil
kaynak

3

SciComp.SE'ye hoş geldiniz! Yöntemi kısaca özetlerseniz, bu cevap daha da iyi olacaktır.

— Christian Clason

2

Ayrıca kullanıcı adınız bu makaleyi yazmanızı önerir. Lütfen kendi tanıtımınızla ilgili yönergelerimizi okuyun ve gönderinizi buna göre düzenleyin .

— Wrzlprmft

Dürüst olmak gerekirse, cevabım gerçekten geçerli bir cevaba işaret ediyorsa, olumsuz oylamanın adil olmadığını düşünüyorum.

— F.Jatpil

1

Beni de ... öyleyse benim +1 ... :-) al