Programlama floating-point

30

На этот вопрос есть ответы на yığın taşması на русском : Вычисления на числах с плавающей точкой не работают Aşağıdaki kodu göz önünde bulundurun: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Bu yanlışlıklar neden oluyor?

2983 math language-agnostic floating-point floating-accuracy

27

Bir dizeyi bir kayan noktaya veya int'e nasıl ayrıştırabilirim?

Python'da, "545.2222"karşılık gelen kayan nokta değerine benzer bir sayısal dizeyi nasıl ayrıştırabilirim 545.2222? Ya dizeyi ayrıştırmak "31", bir tam sayıya 31? Sadece ayrıştırmak nasıl bilmek istiyorum şamandıra str bir etmek floatve (ayrı) bir int str bir etmek int.

2251 python parsing floating-point type-conversion integer

12

GCC neden * a * a * a * a * a - (a * a * a) * (a * a * a) 'yı optimize etmiyor?

Bilimsel bir uygulama üzerinde bazı sayısal optimizasyonlar yapıyorum. Fark ettiğim bir şey, GCC'nin çağrıyı pow(a,2)derleyerek optimize edeceğidir a*a, ancak çağrı pow(a,6)optimize edilmemiştir ve aslında kütüphane işlevini çağıracaktır pow, bu da performansı büyük ölçüde yavaşlatır. (Buna karşılık, çalıştırılabilir Intel C ++ Derleyicisiicc kitaplık çağrısını ortadan kaldıracaktır pow(a,6).) Ne hakkında merak ediyorum …

2120 gcc assembly floating-point compiler-optimization fast-math

18

.NET'te ondalık, kayan nokta ve çift arasındaki fark nedir?

Ne arasındaki farktır decimal, floatve double.NET? Birisi bunlardan ne zaman yararlanır?

2085 .net floating-point double decimal

25

Kayan noktalı sayıları iki ondalık basamağa sınırlama

13,95'ea yuvarlanmak istiyorum . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 roundFonksiyon beklediğim şekilde çalışmıyor.

1691 python floating-point rounding precision

30

Bir dizenin sayı (float) olup olmadığını nasıl kontrol ederim?

Bir dizenin Python'da sayı olarak gösterilip gösterilemeyeceğini kontrol etmenin en iyi yolu nedir? Şu anda sahip olduğum fonksiyon: def is_number(s): try: float(s) return True except ValueError: return False Hangi, sadece çirkin ve yavaş değil, hantal görünüyor. Ancak daha iyi bir yöntem bulamadım çünkü floatana işlevi çağırmak daha da kötü.

1607 python casting floating-point type-conversion

5

0.1f'den 0'a değiştirmek neden performansı 10 kat yavaşlatıyor?

Neden bu kod biraz, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i …

1527 c++ performance visual-studio-2010 compilation floating-point

15

Para birimini temsil etmek için neden Double veya Float kullanmıyorsunuz?

Her zaman asla parayla doubleveya floattürlerle para temsil etmem söylendi ve bu sefer size soruyorum: neden? Eminim çok iyi bir sebep vardır, ne olduğunu bilmiyorum.

939 floating-point currency

7

HTML5'te kayan giriş türü var mı?

Html5.org'a göre , "sayı" girdi türünün "değer özniteliği, belirtilir ve boş değilse, geçerli bir kayan nokta sayısı olan bir değere sahip olmalıdır." Yine de (sadece Chrome'un en son sürümünde), tamsayılarla bir "yukarı yönlü" kontrol, kayan değil: <input type="number" id="totalAmt"></input> Kod snippet'ini çalıştırSonuçları gizleSnippet'i genişlet HTML5'e özgü bir kayan nokta giriş …

816 html input floating-point

30

Sayıyı her zaman 2 ondalık basamak gösterecek şekilde biçimlendir

Numaralarımı her zaman 2 ondalık basamak gösterecek şekilde biçimlendirmek istiyorum, uygun olduğunda yuvarlama. Örnekler: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Bunu kullanıyorum: parseFloat(num).toFixed(2); Ancak , yerine 1olarak görüntüleniyor .11.00

782 javascript floating-point number-formatting

30

Ondalık aralık () adım değeri nasıl kullanılır?

0 ile 1 arasında 0,1 adım atmanın bir yolu var mı? Bunu aşağıdaki gibi yapabileceğimi düşündüm, ancak başarısız oldu: for i in range(0, 1, 0.1): print i Bunun yerine, adım argümanının sıfır olamayacağını, ki beklemediğimi söylüyor.

744 python floating-point range

11

Bölünmeyi kayan nokta olmaya nasıl zorlayabilirim? Division 0'a yuvarlamaya devam ediyor mu?

İki tamsayı değerim var ave bkayan noktadaki oranlarına ihtiyacım var. Bunu biliyorum a < bve hesaplamak istiyorum a / b, bu yüzden tamsayı bölme kullanırsam, her zaman geri kalanıyla 0 alırım a. cAşağıda Python'da kayan nokta sayısı olmaya nasıl zorlayabilirim ? c = a / b

721 python floating-point integer division python-2.x

14

Ondalık Sayı'yı Çifte Dönüştür

Track-BarBir Formopaklığı değiştirmek için bir kullanmak istiyorum . Bu benim kodum: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Uygulamayı oluşturduğumda, şu hatayı veriyor: Dolaylı türünü dönüştürülemez decimaliçindouble Kullanmayı denedim transve doublesonra Controlçalışmıyor. Bu kod, geçmiş bir VB.NET projesinde iyi çalıştı.

673 c# floating-point type-conversion double decimal

30

JavaScript'te kayan nokta sayısı hassasiyeti ile nasıl başa çıkılır?

Aşağıdaki kukla test komut dosyası var: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Kod snippet'ini çalıştırSonuçları gizleSnippet'i genişlet Bu, 0.020000000000000004yalnızca yazdırılması gereken sonucu yazdırır 0.02(hesap makinenizi kullanırsanız). Anladığım kadarıyla bu kayan nokta çarpma hassasiyetindeki hatalardan kaynaklanıyor. Böyle bir durumda doğru sonucu elde edebilmek için iyi …

618 javascript floating-point

5

Math.round (0.49999999999999994) neden 1 döndürüyor?

Aşağıdaki programda, her bir değerin .5, dışında, aşağı doğru yuvarlandığını görebilirsiniz 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while (Math.round(x) > i); } …

567 java floating-point double rounding

«floating-point» etiketlenmiş sorular