«precision» etiketlenmiş sorular

R'de rakam gösterimi üzerinde kontrol elde etme seçeneği vardır. Örneğin: options(digits=10) hesaplama sonuçlarını R seansı sonuna kadar 10 haneli olarak vermesi beklenir. R'nin yardım dosyasında, basamak parametresinin tanımı aşağıdaki gibidir: rakamlar: sayısal değerleri yazdırırken yazdırılacak basamak sayısını kontrol eder. Bu sadece bir öneridir. Geçerli değerler 1 ... 22 ve varsayılan …

110 r  precision  digits  r-faq  output-formatting 

Bu son röportajımda sorulan bir soruydu ve bilmek istiyorum (sayısal analizin teorisini aslında hatırlamıyorum, bu yüzden lütfen bana yardım edin :) Kayan nokta sayılarını biriktiren bir fonksiyonumuz varsa: std::accumulate(v.begin(), v.end(), 0.0); va, std::vector<float>örneğin,. Bu sayıları toplamadan önce sıralamak daha iyi olur mu? En kesin cevabı hangi sıra verir? Ben şüpheli …

105 c++  floating-point  precision 

Normalde çift veya ondalık tür değerleri arasındaki eşitliğe güvenemeyeceğinizi biliyorum, ancak 0'ın özel bir durum olup olmadığını merak ediyorum. 0,00000000000001 ve 0,00000000000002 arasındaki belirsizlikleri anlayabilsem de, 0'ın kendisini karıştırması oldukça zor görünüyor çünkü hiçbir şey değil. Hiçbir şey konusunda kesin değilseniz, artık hiçbir şey değil. Ama bu konu hakkında pek …

100 c#  .net  floating-point  precision  zero 

Bazı birim testleri yaparken DateTime.UtcNow ile bazı beklenmedik davranışlarla karşılaştım. Art arda DateTime.Now/UtcNow'u aradığınızda, daha kesin milisaniye artışları yakalamak yerine, beklenenden daha uzun bir zaman aralığı için aynı değeri size geri veriyor gibi görünüyor. Kesin zaman ölçümleri yapmak için daha uygun bir Kronometre sınıfı olduğunu biliyorum, ancak birinin bu davranışı …

97 c#  .net  datetime  precision  time-precision 

Bu yıllardır aklımda olan bir şey ama daha önce sormaya hiç zaman ayırmadım. Birçok (sözde) rasgele sayı üreteci, 0.0 ile 1.0 arasında rasgele bir sayı üretir. Matematiksel olarak bu aralıkta sonsuz sayılar vardır, ancak doublebir kayan nokta sayısıdır ve bu nedenle sonlu bir kesinliğe sahiptir. Yani sorular: double0.0 ile 1.0 …

95 random  floating-point  double  precision 

Bu bir soru değil, çünkü daha çok farkında olmak. json_encode()PHP7.1.1'i kullanan bir uygulamayı güncelledim ve kayan değerlerin bazen 17 haneyi uzatacak şekilde değiştirilmesiyle ilgili bir sorun görüyordum. Belgelere göre PHP 7.1.x, serialize_precisionçift ​​değerleri kodlarken kesinlik yerine kullanılmaya başlandı . Bunun örnek bir değer yarattığını tahmin ediyorum 472.185 olmak 472.18500000000006 bu …

93 php  json  precision  php-7.1 

Garip faturalar alan bazı müşterilerim var. Temel sorunu izole edebildim: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) …

84 sql-server  tsql  precision  sql-server-2016  sqldatatypes 

Sıklıkla, elde edilen farkın makine hassasiyetinin üzerinde olup olmadığını kontrol etmek gerektiğinde ortaya çıkar. Bu amaçla Ar kullanışlı değişkeni için gibi görünüyor: .Machine$double.eps. Ancak bu değeri kullanma yönergeleri için R kaynak koduna döndüğümde birden çok farklı desen görüyorum. Örnekler statsKitaplıktan birkaç örnek : t.test.R if(stderr < 10 *.Machine$double.eps * abs(mx)) …

36 r  floating-point  rounding  precision 

np.dotİki 'float32'2D diziyi aldığımızı varsayalım : res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Sayılar. Dışında değişebilirler: DURUM 1 : dilima np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in range(1, len(a)): print(list(np.dot(a[:i], b)[0])) # …

15 python  c  arrays  numpy  precision 

Kayan nokta pozitif sayılar ( std::vector<float>, boyut ~ 1000) oldukça uzun bir listem var . Sayılar azalan düzende sıralanır. Siparişi takip ederek onları toplarsam: for (auto v : vec) { sum += v; } Sanırım bazı sayısal kararlılık problemim olabilir, çünkü vektörün sonuna yakın sumolandan çok daha büyük olacak v. …

12 c++  floating-point  precision