Tek hassasiyetli kayan nokta sayıları hafızanın yarısını kaplar ve modern makinelerde (GPU'larda bile) çift hassasiyetle karşılaştırıldığında neredeyse onlarla iki kat daha hızlı işlem yapılabilir. Sadece bulduğum birçok FDTD kodu tek duyarlıklı aritmetik ve depolama kullanır. Büyük ölçekli seyrek denklem sistemlerini çözmek için tek bir hassasiyetin ne zaman kabul edilebilir olduğuna dair bir kural var mı? Matris durum numarasına büyük ölçüde bağlı olması gerektiğini varsayıyorum.
Ayrıca, gerektiğinde çifte kesinlik kullanan ve çifte kesinlik gerekmeyen yerlerde tek etkili bir teknik vardır. Örneğin, bir matris vektör çarpımı veya bir vektör nokta ürünü için, sonuçları çift kesinlikli bir değişkente (iptal hatasını önlemek için) toplamak iyi bir fikir olabilir, ancak tek tek girişlerin birbiriyle çarpılması tek hassasiyet kullanılarak çoğaltılabilir.
Modern FPU'lar sorunsuz bir şekilde tek hassasiyetten (şamandıra) çift hassasiyete (çift) ve tersi yönde dönüşüm sağlıyor mu? Yoksa bu maliyetli işlemler mi?