«floating-point» etiketlenmiş sorular

Kayan nokta sayıları, tamsayılardan daha büyük aralıkları temsil edebilen, ancak daha düşük kesinlik pahasına aynı miktarda bellek kullanan gerçek sayıların yaklaşıklarıdır. Sorunuz küçük aritmetik hatalar (örn. Neden 0.2 + 0.1, 0.300000001'e eşittir?) Veya ondalık dönüştürme hatalarıyla ilgili ise, göndermeden önce lütfen aşağıda verilen "bilgi" sayfasını okuyun.






12
Float ve double arasındaki fark nedir?
Çift kesinlik ve tek kesinlik arasındaki farkı okudum. Bununla birlikte, çoğu durumda floatve doublebirbirinin yerine kullanılabilir gibi görünmektedir, yani birini veya diğerini kullanmak sonuçları etkilemez gibi görünmektedir. Gerçekten böyle mi? Şamandıralar ve çiftler ne zaman değiştirilebilir? Aralarındaki farklar nelerdir?



11
Kayan nokta değerlerini karşılaştırmak ne kadar tehlikelidir?
Çözünürlük bağımsız koordinat sistemi nedeniyle UIKitkullanımlarını biliyorum CGFloat. Ancak her zaman örneğin olmadığını kontrol etmek istiyorum frame.origin.xedilmektedir 0beni hasta hissettiren: if (theView.frame.origin.x == 0) { // do important operation } Is not CGFloatile karşılaştırırken yanlış pozitif karşı savunmasız ==, <=, >=, <, >? Bu bir kayan nokta ve kesin olmayan …



15
Python'da neredeyse eşitlik için şamandıraları karşılaştırmanın en iyi yolu nedir?
Şamandıraların eşitlik için karşılaştırılmasının, yuvarlama ve hassasiyet sorunları nedeniyle biraz hareketsiz olduğu iyi bilinmektedir. Örneğin: https://randomascii.wordpress.com/2012/02/25/karşılaştırma- yüzer- nokta- sayıları2012-tr/ Python'da bununla başa çıkmak için önerilen yol nedir? Elbette bunun için bir yerde standart bir kütüphane işlevi var mı?


2
0.0039215689 sabiti neyi temsil eder?
Çeşitli grafik başlık dosyalarında bu sürekli açılır pencereyi görmeye devam ediyorum 0.0039215689 Belki renk ile ilgili bir şey var gibi görünüyor? Google'daki ilk hit : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, 8, 8) * 0.0039215689f; Gfx.FogColor.A …

6
Çift mi BigDecimal mi?
Bazı kayan nokta değişkenleri hesaplamak zorunda ve meslektaşım beni kullanmak önermek BigDecimalyerine doubledaha kesin olacağından. Ama bunun ne olduğunu ve bundan en iyi şekilde nasıl yararlanabileceğini bilmek istiyorum BigDecimal?

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.