«ieee-754» etiketlenmiş sorular

NaN'lerin aritmetik olarak yayıldığı iyi bilinir, ancak herhangi bir gösteri bulamadım, bu yüzden küçük bir test yazdım: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float sub3 = …

300 c++  c  floating-point  ieee-754  icc 

NaN değerlerinin karşılaştırılması neden diğer değerlerden farklı davranıyor? Yani, ==, <=,> =, <,> operatörleriyle yapılan tüm karşılaştırmalar, bir veya her iki değer NaN'dir, diğer tüm değerlerin davranışının aksine yanlış döndürür. Bunun sayısal hesaplamaları bir şekilde basitleştirdiğini düşünüyorum, ancak Kahan'ın IEEE 754'ün Durumu ile ilgili diğer tasarım kararlarını ayrıntılı olarak tartışan …

267 floating-point  comparison  nan  ieee-754  iec10967 

Hassasiyeti kaybetmeden bir IEEE 754 çift tipinde depolanabilen en büyük "kayan" tam sayı nedir?

226 types  floating-point  double  ieee-754 

Kayan veri türü, tek duyarlıklı 32 bitlik IEEE 754 kayan noktadır ve çift veri türü, çift duyarlıklı 64 bitlik IEEE 754 kayan noktadır. Bu ne demek? Ve ne zaman çift yerine float kullanmalıyım?

220 java  floating-point  double  ieee-754 

Açıklık getirmek gerekirse, IEE 754 yüzen bir dil kullanıyorsanız ve şunu beyan ederim: float f0 = 0.f; float f1 = 1.f; ... ve sonra onları tekrar basarsanız, tam olarak 0.0000 ve 1.0000 elde edeceğim. Ancak IEEE 754, gerçek çizgideki tüm sayıları temsil edemez. Sıfıra yakın 'boşluklar' küçük; uzaklaştıkça boşluklar büyür. …

162 types  floating-point  ieee-754 

Ondalık sayıların çoğunun tam bir kayan nokta temsili olmadığını biliyorum ( Kayan nokta matematik bozuk mu? ). Ama neden her iki değerin gerçekten çirkin ondalık temsili olduğunda 4*0.1güzel yazdırıldığını görmüyorum 0.4, ama 3*0.1değil: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) Decimal('0.3000000000000000444089209850062616169452667236328125') >>> Decimal(4*0.1) Decimal('0.40000000000000002220446049250313080847263336181640625')

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Hayır, bu başka bir "Neden (1 / 3.0) * 3! = 1" sorusu değil. Son zamanlarda kayan noktalar hakkında çok şey okudum; özellikle, aynı hesaplamanın farklı mimarilerde veya optimizasyon ayarlarında nasıl farklı sonuçlar verebileceği . Bu, tekrarları depolayan veya eşler arası ağa bağlı (sunucu-istemcinin aksine) video oyunları için bir sorundur …

155 c#  .net  floating-point  precision  ieee-754 

Aşağıdaki örnekte 0'a (veya sonsuza) bölme elde etmek mümkün mü? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Normal durumlarda elbette olmayacak. Ama ne olursa ave bçok yakın olabilir edilir (a-b)bırakılmasına neden 0hesaplamanın …

131 floating-point  double  floating-accuracy  ieee-754 

PHP, tür hokkabazlığı ile ünlüdür. Bunun beni şaşırttığını kabul etmeliyim ve karşılaştırmalarda temel mantıksal / temel şeyleri bulmakta zorlanıyorum. Örneğin: Eğer $a > $bdoğruysa ve $b > $cdoğruysa, bunun $a > $cda her zaman doğru olduğu anlamına mı gelmelidir ? Temel mantığı takip ederek, evet derdim ancak o kadar şaşırdım …

115 php  if-statement  comparison  logic  ieee-754 

Kayan nokta hakkında bir şeyler okudum ve NaN'nin işlemlerden kaynaklanabileceğini anladım. Ama bunların tam olarak ne kavramlar olduğunu anlayamıyorum. Onların arasındaki fark ne? C ++ programlama sırasında hangisi üretilebilir? Bir programcı olarak sNaN'ye neden olan bir program yazabilir miyim?

108 floating-point  nan  ieee-754 

>>> (float('inf')+0j)*1 (inf+nanj) Neden? Bu, kodumda kötü bir hataya neden oldu. 1Çarpımsal kimlik neden vermiyor (inf + 0j)?

97 python  nan  ieee-754 

JavaScript'te, NaN değeri dahili olarak çok çeşitli 64-bit çiftler ile temsil edilebilir. Özellikle, aşağıdaki bitsel gösterime sahip herhangi bir çift: x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx NaN olarak yorumlanır. Sorum şu: ArrayBuffers kullanarak bir JS Numarasına iki 32-bit uints attığımı …

12 javascript  ieee-754