«numeric-precision» etiketlenmiş sorular

Kayan nokta aritmetiğinin hassas problemleri olduğunu biliyorum. Genelde sayının sabit bir ondalık göstergesine geçerek veya sadece hatayı ihmal ederek bunların üstesinden gelirim. Ancak, bu yanlışlığın nedenleri nelerdir bilmiyorum. Şamandıra numaraları ile neden bu kadar çok sayıda yuvarlama sorunu var?

62 floating-point  numeric-precision 

Scheme (R5RS) ve Python ( bu soruya bakınız ) gibi programlama dilleri , değer tam olarak çevresindeki tamsayılar arasında olduğunda en yakın eşit sayıya doğru ilerler. Bunun arkasındaki sebep nedir? Aşağıdaki hesaplamaları aklınıza gelmesi kolaylaştıran matematiksel bir fikir var mı? (R5RS, IEEE kayan nokta standardına bu davranışın kaynağı olarak atıfta …

44 scheme  numbers  numeric-precision  python-3.x 

Kayan nokta sayılarının doğruluğunu araştırırken, birkaç yerde buna benzer bir ifade gördüm. " Float ve double edilmektedir ( için tasarlanmış / genellikle kullanılan ) mühendislik ve bilimsel hesaplama " Anladığım kadarıyla, yüzen ve iki katların gücü, (iyi ama mükemmel değil) hassasiyeti için kullandıkları bellek miktarıdır. Neredeyse bu cevaptan bir anlayış …

33 floating-point  numeric-precision 

Bilgisayarlar, paydayı 2 ^ x'e göre bir çözümden başka bir şey olduğu kesirli sayıları saklamakta zorlanıyor. Bunun nedeni, ondalık sayısından sonraki ilk hanenin 1/2, ikinci 1/4 (veya 1 / (2 ^ 1) ve 1 / (2 ^ 2)) vb. Bilgisayar, sayının ondalık kısmını başka bir tam sayı olarak kaydetmişken neden …

24 numbers  numeric-precision 

Matematiksel hesaplamalar ile ilgilenen bir uygulama oluştururken, belirli sayıların yuvarlama hatalarına neden olduğu sorunuyla karşılaştım. Bunu anlamak ise kayan nokta tam değil , sorunun nasıl hesaplamalar değil herhangi bir sorun neden yapar noktası yuvarlama kayan üzerlerinde önceden oluşturulmaktadır zaman emin olmak için tam sayılarla başa çıkıyorsunuz?

18 floating-point  numeric-precision 

Sayısal olarak, kararsız şemaları tanımlayabilmek ve kararlılıklarını geliştirmek çok önemlidir. Kararsız kayan nokta hesaplamaları nasıl belirlenir? Birçok sayısal şemanın birlikte çalıştığı çok karmaşık bir simülasyon üzerinde çalışıyorum ve zayıf kısımlarını tanımlamak için bir yöntem arıyorum. Diferansiyel denklemleri içeren fiziksel bir model üzerinde çalışıyorum. Genel sürecin kuş bakışı görünümü: (Ön aşama) …

15 numbers  numeric-precision 

Eğer dil yapısı belirli bir değerden daha büyük sayıları idare edemez ise son derece büyük sayılar (sonsuz - intergers hiçbir şamandıralar) üzerinde hesaplamalar yapmak nasıl gitmek düşünmeye çalışıyorum. Eminim bu soruyu soran ilk veya son kişi değilim ama kullandığım arama terimleri bana bu durumları ele almak için bir algoritma vermiyor. …

15 math  variables  numeric-precision 

Başka bir programcının incelerken normal dağılım CDF'yi hesaplamak için bir fonksiyonun uygulanması , bir yapılan öneri ya Python'un yerleşik işlevleri veya kullanım SciPy, ortak bilimsel kütüphane ile tüm uygulama değiştirin. Başka bir programcı , belgelerinde math.erfc()ne scipy.stats.norm.cdf()kesin hassasiyet garantisi ne de verdiğini belirtti . Bu nedenle, bir yaklaşım algoritmasını ( …

9 documentation  math  floating-point  numeric-precision