«precision» etiketlenmiş sorular

13,95'ea yuvarlanmak istiyorum . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 roundFonksiyon beklediğim şekilde çalışmıyor.

1691 python  floating-point  rounding  precision 

Çift kesinlik ve tek kesinlik arasındaki farkı okudum. Bununla birlikte, çoğu durumda floatve doublebirbirinin yerine kullanılabilir gibi görünmektedir, yani birini veya diğerini kullanmak sonuçları etkilemez gibi görünmektedir. Gerçekten böyle mi? Şamandıralar ve çiftler ne zaman değiştirilebilir? Aralarındaki farklar nelerdir?

420 c++  c  floating-point  precision 

Son sorumun cevabını aldım (neden böyle düşünmediğimi bilmiyorum). Bir basıyordum doublekullanarak coutbunu beklemiyordum zaman anladınız yuvarlanır. Nasıl coutbaskı yapabilirimdoubleTam hassasiyet kullanarak ?

332 c++  floating-point  precision  iostream  cout 

2 ondalık basamağa kadar bir sayı göstermek istedim. toPrecision(2)JavaScript kullanabileceğimi düşündüm . Ancak, sayı ise 0.05, anladım 0.0500. Aynı kalmayı tercih ederim. JSbin'de görün . Bunu yapmanın en iyi yolu nedir? Birkaç çözüm kodlamayı düşünebilirim, ama böyle bir şeyin yerleşik olduğunu hayal ediyorum (umarım)?

316 javascript  floating-point  precision 

Bir veritabanında belirtilen aşağıdaki sütun var: ondalık (5,2) Kişi bunu nasıl yorumlar? SQL Server Management stüdyosunda görüntülenen sütundaki özelliklere göre bunun anlamını görebiliyorum: ondalık (Sayısal kesinlik, Sayısal ölçek). Hassasiyet ve ölçek gerçek anlamda ne anlama geliyor? Bunu 5 basamaklı ve iki ondalık basamaklı bir ondalık sayı olarak yorumlamak kolay olurdu …

245 sql  database  decimal  scale  precision 

Gerçek zamanlı zaman damgasını milisaniye hassasiyetle tam olarak nasıl oluşturabilirim? 16.4.2013 9: 48: 00: 123 gibi bir şeye ihtiyacım var. Mümkün mü? Saniyede 10 kez değerleri örneklediğim bir uygulama var ve bunları bir grafikte göstermem gerekiyor.

231 c#  datetime  precision  milliseconds 

Kayan nokta sayıları olarak saklandığında bazı sayılar neden doğruluk kaybediyor? Örneğin, ondalık sayı 9.2tam olarak iki ondalık tam sayı ( 92/10) oranı olarak ifade edilebilir, her ikisi de tam olarak ikili ( 0b1011100/0b1010) olarak ifade edilebilir . Ancak, kayan nokta sayısı olarak depolanan aynı oran asla tam olarak eşit değildir …

198 floating-point  language-agnostic  precision 

Toplamını almaya çalışıyorum 1 + 2 + ... + 1000000000, ancak PHP ve Node.js komik sonuçlar alıyorum . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 node.js var sum = 0; for (i = …

192 php  node.js  precision  integer-overflow  integer-arithmetic 

Son zamanlarda bir çift metni metne dizmek ve sonra geri almak zorunda kaldı. Değer eşdeğer görünmüyor: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Ancak MSDN: Standart Sayısal Biçim Dizeleri'ne göre, "R" seçeneğinin gidiş-dönüş güvenliğini …

185 c#  double  tostring  precision 

Tek hassas kayan nokta işlemi ile çift hassas kayan nokta işlemi arasındaki fark nedir? Özellikle video oyun konsollarıyla ilgili pratik terimlerle ilgileniyorum. Örneğin, Nintendo 64'ün 64 bit işlemcisi var mı ve eğer öyleyse, bu çift hassas kayan nokta işlemlerini yapabileceği anlamına mı gelir? PS3 ve Xbox 360 çift hassas kayan …

169 floating-point  precision  processor  operations 

Hayır, bu başka bir "Neden (1 / 3.0) * 3! = 1" sorusu değil. Son zamanlarda kayan noktalar hakkında çok şey okudum; özellikle, aynı hesaplamanın farklı mimarilerde veya optimizasyon ayarlarında nasıl farklı sonuçlar verebileceği . Bu, tekrarları depolayan veya eşler arası ağa bağlı (sunucu-istemcinin aksine) video oyunları için bir sorundur …

155 c#  .net  floating-point  precision  ieee-754 

0.1Ondalık sayının sonlu bir ikili sayı ile tam olarak temsil edilemeyeceğini biliyorum ( açıklama ), bu yüzden double n = 0.1biraz hassasiyet kaybedecek ve tam olarak olmayacak 0.1. Öte yandan 0.5tam olarak olduğu için temsil edilebilir 0.5 = 1/2 = 0.1b. 0.1 Üç kez eklemenin tam olarak 0.3aşağıdaki kodun yazdırılmasının …

152 java  floating-point  double  precision 

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Yukarıdaki kod yazdırılır: 11.399999999999 Bunu sadece 11.4 yazdırabilmek (veya kullanabilmek için) nasıl alabilirim?

149 java  floating-point  double  precision 

JavaScript konusunda yeniyim ve yeni keşfettim toFixed()ve toPrecision()sayıları yuvarlamak için. Ancak ikisi arasındaki farkın ne olduğunu çözemiyorum. Arasındaki fark nedir number.toFixed()ve number.toPrecision()?

124 javascript  rounding  precision 

Bir çift verildiğinde , PHP'nin round () işlevine benzer şekilde , ondalık noktadan sonra onu belirli bir hassasiyet noktasına yuvarlamak istiyorum. Ben Dart dokümanlarında bulabilirsiniz yakın şey double.toStringAsPrecision () 'dir, ancak bu rakamları içerdiğinden neye ihtiyacım oldukça değildir önce hassasiyet toplam noktalarında ondalık noktasının. Örneğin, toStringAsPrecision (3) kullanarak: 0.123456789 rounds …

111 dart  precision  double-precision