«floating-point» etiketlenmiş sorular

Bunlar arasında herhangi bir fark var mı: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Anladığım kadarıyla her iki durumda da aynı sonuç var. Derlenen kodda herhangi bir fark var mı?

120 c++  c  floating-point 

John Carmack, Quake III kaynak kodunda, bir float'ın ters karekökünü normalden 4 kat daha hızlı (float)(1.0/sqrt(x)), garip bir 0x5f3759dfsabit dahil olmak üzere hesaplayan özel bir işleve sahiptir . Aşağıdaki koda bakın. Biri satır satır burada tam olarak neler olup bittiğini ve bunun neden normal uygulamadan çok daha hızlı çalıştığını açıklayabilir …

112 algorithm  floating-point  square-root 

Noktadan sonra sabit sayıda basamak olması için kayan noktadan basamakları kaldırmak istiyorum, örneğin: 1.923328437452 -> 1.923 Başka bir işleve bir dize olarak çıktı vermem gerekiyor, yazdırmam gerekiyor. Ayrıca kayıp rakamları yuvarlamak değil, görmezden gelmek istiyorum.

110 python  floating-point 

"41.00027357629127" gibi bir dizeyi dönüştürüyorum ve kullanıyorum; Convert.ToSingle("41.00027357629127"); veya float.Parse("41.00027357629127"); Bu yöntemler 4.10002732E + 15 döndürür . Float türüne dönüştürdüğümde "41.00027357629127" istiyorum. Bu dize aynı olmalı ...

108 c#  .net  string  floating-point  type-conversion 

Kayan nokta hakkında bir şeyler okudum ve NaN'nin işlemlerden kaynaklanabileceğini anladım. Ama bunların tam olarak ne kavramlar olduğunu anlayamıyorum. Onların arasındaki fark ne? C ++ programlama sırasında hangisi üretilebilir? Bir programcı olarak sNaN'ye neden olan bir program yazabilir miyim?

108 floating-point  nan  ieee-754 

Intel Core Duo'da bazı temel matematiğimizin profilini çıkarıyorum ve karekök için çeşitli yaklaşımlara bakarken tuhaf bir şey fark ettim: SSE skaler işlemlerini kullanarak, karşılıklı bir karekök alıp çarpmak daha hızlı sqrt'yi elde etmek için, yerel sqrt opcode kullanmaktan çok! Şunun gibi bir döngü ile test ediyorum: inline float TestSqrtFunction( float …

106 performance  assembly  floating-point  x86  sse 

Bu son röportajımda sorulan bir soruydu ve bilmek istiyorum (sayısal analizin teorisini aslında hatırlamıyorum, bu yüzden lütfen bana yardım edin :) Kayan nokta sayılarını biriktiren bir fonksiyonumuz varsa: std::accumulate(v.begin(), v.end(), 0.0); va, std::vector<float>örneğin,. Bu sayıları toplamadan önce sıralamak daha iyi olur mu? En kesin cevabı hangi sıra verir? Ben şüpheli …

105 c++  floating-point  precision 

printfBir kayan nokta tanımlayıcısına uygulanabilecek, çıktıyı gerekli sayıda anlamlı basamağa otomatik olarak biçimlendirecek bir genişlik belirleyicisi var mı , böylece dizeyi geri tararken, orijinal kayan nokta değeri elde ediliyor mu? Örneğin, ondalık basamak floathassasiyetine a yazdırdığımı varsayalım 2: float foobar = 0.9375; printf("%.2f", foobar); // prints out 0.94 Çıktıyı taradığımda, …

103 c  floating-point  printf  c99  floating-point-precision 

Bu kodu yazdım: float b = 3.6; ve bunu anlıyorum: Hata: Çözülmemiş derleme sorunu: Tür uyuşmazlığı: double'dan float'a dönüştürülemez Neden? Nedir tanımı float?

103 java  floating-point 

fNumaralardan sonra ne ifade ediyor ? Bu C'den mi yoksa Amaç-C'den mi? Bunu sabit bir sayıya eklememek arasında bir fark var mı? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Neden sadece yazmadığımı açıklayabilir misin: CGRect frame = CGRectMake(0, 0, 320, 50);

102 objective-c  c  floating-point 

Bu sadece kendi merakımı tatmin etmek için. Bunun bir uygulaması var mı: float InvSqrt (float x) { float xhalf = 0.5f*x; int i = *(int*)&x; i = 0x5f3759df - (i>>1); x = *(float*)&i; x = x*(1.5f - xhalf*x*x); return x; } Rust bölgesinde bulundunuz mu? Varsa, kodu gönderin. Denedim ve …

101 rust  floating-point  sqrt  type-punning 

Bir UITextField'den alınan sayıların aslında Strings olduğunu ve onları Float'a dönüştürdüğünü düşündüğüm sayıları dönüştürmeye çalışıyorum, böylece onları çarpabilirim. UITextfieldAşağıdaki gibi beyan edilen iki s var : @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Kullanıcı bir UIB düğmesine bastığında, kullanıcının kazandığı ücreti hesaplamak istiyorum, ancak kullanmadan önce onları floatlara çevirmem …

101 string  floating-point  swift  string-parsing 

Bir kayan nokta listesini serileştirmek için python 2.6'daki standart json modülünü kullanıyorum . Ancak şöyle sonuçlar alıyorum: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Yüzen sayıların yalnızca iki ondalık basamakla biçimlendirilmesini istiyorum. Çıktı şöyle görünmelidir: >>> json.dumps([23.67, 23.97, 23.87]) '[23.67, 23.97, 23.87]' Kendi JSON Encoder sınıfımı tanımlamayı …

100 python  json  formatting  floating-point 

C ++ 'da performans açısından kritik bazı işler yapıyorum ve şu anda "daha hızlı" olduğu için doğal olarak kayan nokta olan sorunlar için tamsayı hesaplamaları kullanıyoruz. Bu, pek çok can sıkıcı soruna neden olur ve çok sayıda can sıkıcı kod ekler. Şimdi, kayan nokta hesaplamalarının yaklaşık 386 gün boyunca ne …

100 c++  x86  floating-point  x86-64 

Normalde çift veya ondalık tür değerleri arasındaki eşitliğe güvenemeyeceğinizi biliyorum, ancak 0'ın özel bir durum olup olmadığını merak ediyorum. 0,00000000000001 ve 0,00000000000002 arasındaki belirsizlikleri anlayabilsem de, 0'ın kendisini karıştırması oldukça zor görünüyor çünkü hiçbir şey değil. Hiçbir şey konusunda kesin değilseniz, artık hiçbir şey değil. Ama bu konu hakkında pek …

100 c#  .net  floating-point  precision  zero