«floating-accuracy» etiketlenmiş sorular

На этот вопрос есть ответы на yığın taşması на русском : Вычисления на числах с плавающей точкой не работают Aşağıdaki kodu göz önünde bulundurun: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Bu yanlışlıklar neden oluyor?

2983 math  language-agnostic  floating-point  floating-accuracy 

Çözünürlük bağımsız koordinat sistemi nedeniyle UIKitkullanımlarını biliyorum CGFloat. Ancak her zaman örneğin olmadığını kontrol etmek istiyorum frame.origin.xedilmektedir 0beni hasta hissettiren: if (theView.frame.origin.x == 0) { // do important operation } Is not CGFloatile karşılaştırırken yanlış pozitif karşı savunmasız ==, <=, >=, <, >? Bu bir kayan nokta ve kesin olmayan …

391 objective-c  ios  c  floating-point  floating-accuracy 

Aşağıdaki kod açıkça yanlıştır. Sorun ne? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

Bu java.sun sayfasına göre ==Java'da kayan nokta sayıları için eşitlik karşılaştırma operatörüdür. Ancak, bu kodu yazarken: if(sectionID == currentSectionID) benim editörü içine ve statik analiz çalıştırmak, elde: "JAVA0078 = = ile karşılaştırıldığında kayan nokta değerleri" ==Kayan nokta değerlerini karşılaştırmak için kullanmanın yanlışlığı nedir ? Bunu yapmanın doğru yolu nedir?

177 java  equality  floating-accuracy 

Ondalık sayıların çoğunun tam bir kayan nokta temsili olmadığını biliyorum ( Kayan nokta matematik bozuk mu? ). Ama neden her iki değerin gerçekten çirkin ondalık temsili olduğunda 4*0.1güzel yazdırıldığını görmüyorum 0.4, ama 3*0.1değil: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) Decimal('0.3000000000000000444089209850062616169452667236328125') >>> Decimal(4*0.1) Decimal('0.40000000000000002220446049250313080847263336181640625')

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Aşağıdaki örnekte 0'a (veya sonsuza) bölme elde etmek mümkün mü? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Normal durumlarda elbette olmayacak. Ama ne olursa ave bçok yakın olabilir edilir (a-b)bırakılmasına neden 0hesaplamanın …

131 floating-point  double  floating-accuracy  ieee-754 

Ondalık sayıları ondalık basamaklar halinde kesmeye çalışıyorum. Bunun gibi bir şey: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)hemen hemen doğru olanı yapar ama değeri yuvarlar. Değerin yuvarlanmasına ihtiyacım yok. Umarım bu javascript ile mümkündür.

93 javascript  floating-point  floating-accuracy 

1.0'a en yakın olan, ancak aslında 1.0 olmayan iki katını programlı olarak elde etmenin bir yolu var mı? Bunu yapmanın bir hileli yolu, iki katı aynı büyüklükte bir tamsayıya hatırlamak ve sonra bir çıkarmaktır. IEEE754 kayan nokta biçimlerinin çalışma şekli, bu, kesirli bölümü tüm sıfırlardan (1.000000000000) hepsine (1.111111111111) değiştirirken üssün …

89 c++  floating-point  floating-accuracy