Programlama floating-point

3

Neden Intel C ++ Derleyici ile NaN - NaN == 0.0?

NaN'lerin aritmetik olarak yayıldığı iyi bilinir, ancak herhangi bir gösteri bulamadım, bu yüzden küçük bir test yazdım: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float sub3 = …

300 c++ c floating-point ieee-754 icc

13

Bir şamandıra için yalnızca iki ondalık basamak göster

Ben değere sahip 25.00bir yer float, ama ben ekranda yazdırmak yaparken olduğu 25.0000000. Değeri yalnızca iki ondalık basamakla nasıl görüntüleyebilirim?

296 objective-c formatting floating-point

6

Toplam siparişin değiştirilmesi neden farklı bir sonuç döndürüyor?

Toplam siparişin değiştirilmesi neden farklı bir sonuç döndürüyor? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Hem Java hem de JavaScript aynı sonuçları döndürür. Kayan nokta sayılarının ikili olarak gösterilme şekli nedeniyle, bazı rasyonel sayıların ( 1/3 - 0.333333 ... gibi ) tam olarak …

294 java javascript floating-point

2

Neden bazı kayan <tamsayı karşılaştırmaları diğerlerinden dört kat daha yavaştır?

Kayan sayıları tamsayılarla karşılaştırırken, bazı değer çiftlerinin değerlendirilmesi, benzer büyüklükteki diğer değerlerden çok daha uzun sürer. Örneğin: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Ancak, kayan nokta veya tam sayı belirli bir miktar daha küçük veya daha büyük yapılırsa, karşılaştırma çok daha hızlı gerçekleşir: …

284 python performance floating-point cpython python-internals

19

Ondalık sayılar neden tam olarak ikilik olarak gösterilemiyor?

Kayan nokta temsili hakkında SO'ya gönderilen çeşitli sorular vardır. Örneğin, ondalık sayı 0.1 tam bir ikili temsile sahip değildir, bu nedenle == işlecini başka bir kayan noktalı sayı ile karşılaştırmak tehlikelidir. Kayan nokta gösteriminin arkasındaki ilkeleri anlıyorum. Anlamadığım şey, matematiksel bir perspektiften, ondalık noktanın sağındaki sayılar soldakilerden daha "özel" olan …

284 math floating-point

3

ActiveRecord'da Float ve Ondalık

Bazen, Activerecord veri türleri kafamı karıştırıyor. Err, sık sık. Sonsuz sorularımdan biri, belirli bir vaka için, Kullanmalı mıyım :decimalyoksa :float? Sık sık bu bağlantıya rastladım, ActiveRecord:: decimal vs: float? , ancak cevaplar kesin olmam için yeterince açık değil: İnsanların asla şamandıra kullanmamaları ve her zaman ondalık kullanmaları için düz olarak …

283 ruby-on-rails types floating-point decimal rails-activerecord

6

Bu sayılar neden eşit değil?

Aşağıdaki kod açıkça yanlıştır. Sorun ne? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

14

Rastgele kayan sayı oluşturma

C ++ 'da rasgele değişkenler nasıl oluştururum? Tamsayı rand'ı alıp bir şeye bölebileceğimi düşündüm, bu yeterli mi?

271 c++ random floating-point

12

IEEE754 NaN değerleri için yanlış dönen tüm karşılaştırmalar için gerekçe nedir?

NaN değerlerinin karşılaştırılması neden diğer değerlerden farklı davranıyor? Yani, ==, <=,> =, <,> operatörleriyle yapılan tüm karşılaştırmalar, bir veya her iki değer NaN'dir, diğer tüm değerlerin davranışının aksine yanlış döndürür. Bunun sayısal hesaplamaları bir şekilde basitleştirdiğini düşünüyorum, ancak Kahan'ın IEEE 754'ün Durumu ile ilgili diğer tasarım kararlarını ayrıntılı olarak tartışan …

267 floating-point comparison nan ieee-754 iec10967

12

Ondalık yerine ne zaman çift kullanmalıyım?

Bunun yerine double(veya float) kullanmanın üç avantajını adlandırabilirim decimal: Daha az bellek kullanır. Daha hızlı çünkü kayan nokta matematik işlemleri, işlemciler tarafından yerel olarak desteklenir. Daha geniş bir sayı aralığını temsil edebilir. Ancak bu avantajlar sadece modelleme yazılımında bulunanlar gibi hesaplama yoğun operasyonlar için geçerli görünmektedir. Elbette, finansal hesaplamalar gibi …

265 c# types floating-point double decimal

9

Java'da “strictfp” anahtar kelimesini ne zaman kullanmalıyım?

Bunun ne yaptığını araştırdım, ancak strictfpanahtar kelimeyi Java'da ne zaman kullanacağınız konusunda gerçekten bir örneği var mı? Herkes bunun için bir kullanım buldu mu? Sadece kayan nokta operasyonlarıma koymanın herhangi bir yan etkisi var mı?

258 java floating-point strictfp

9

8 ondalık basamaklı Enlem / Boylam için hangi MySQL veri türü kullanılmalıdır?

Harita verileri ile çalışıyorum ve Latitude/Longitude8 ondalık basamağa kadar uzanıyor. Örneğin: Latitude 40.71727401 Longitude -74.00898606 Şunu kullanan Google dokümanında gördüm : lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL ancak, ondalık basamakları yalnızca 6'ya gider. Bu verileri saklamam için başka bir yöntem kullanmalı mıyım …

257 mysql types floating-point

7

Ruby'deki bölme neden ondalık değer yerine bir tamsayı döndürüyor?

Örneğin: 9 / 5 #=> 1 ama bekliyordum 1.8. Doğru ondalık (tamsayı olmayan) sonucu nasıl alabilirim? Neden geri dönüyor 1?

256 ruby math floating-point division integer-division

8

JavaScript dize float dönüştürmek nasıl?

Bir datagrid iki değer ayrıştırmaya çalışıyorum. Alanlar sayısaldır ve virgül kullandıklarında (ör. 554,20), virgülden sonraki sayıları alamıyorum. Denedim parseIntve parseFloat. Bunu nasıl yapabilirim?

255 javascript parsing floating-point

22

JavaScript ile bir sayının ondalık kısmını alma

Ben gibi şamandıra numaraları var 3.2ve 1.6. Sayıyı tamsayı ve ondalık bölüme ayırmam gerekiyor. Örneğin, değeri 3.2iki sayıya bölünür, yani 3ve0.2 Tamsayı kısmını elde etmek kolaydır: n = Math.floor(n); Ama ondalık kısmı almakta sorun yaşıyorum. Bunu denedim: remainer = n % 2; //obtem a parte decimal do rating Ancak her …

248 javascript floating-point numbers decimal rounding

«floating-point» etiketlenmiş sorular