Gerçek olası en düşük pozitif GERÇEK sayı nedir


11

MSDN , REAL sayı aralığının - 3.40E + 38 ila -1.18E - 38, 0 ve 1.18E - 38 ila 3.40E + 38 olduğunu söylüyor. Görünüşe göre gerçek alt sınır çok daha düşük. Aşağıdaki komut dosyası REAL sütununu 1.401298E-45 ile doldurur:

CREATE TABLE a
  (
    r1 REAL NULL ,
    r2 REAL NULL ,
    r3 REAL NULL
  ) ;
GO
INSERT  INTO a
        ( r1, r2 )
VALUES  ( 1.18E-37, 10 ) ;
GO
DECLARE @i INT ;
SET @i = 1 ;

WHILE @i < 20 
  BEGIN ;

    UPDATE  a
    SET     r1 = r1 / r2 ;

    SELECT  r1 ,
            r2
    FROM    a ;

    SET @i = @i + 1 ;

  END ;
GO
DROP TABLE a ;

r1            r2
------------- -------------
1.18E-38      10

(snip)

r1            r2
------------- -------------
1.401298E-45  10

Biri bana mümkün olan en düşük pozitif sayının ne olduğunu söyleyebilir mi?


1
Bu tipte kesinlikle garip bir davranış var. Yayınlayabildiğim ve seçebildiğim en küçük skaler literal 1.1754944E-38 idi. geri.
Jon Seigel

Yanıtlar:


13

Minimum bir pozitif (normal-altı) tek duyarlıklı kayan nokta değeri 2'dir -149 ≈ 1.4 x 10 -45 . Minimum pozitif normal değer 2 −126 ≈ 1,18 × 10 −38'dir ( referans ).

DECLARE
    @r1 real = POWER(2e0, -126),
    @r2 real = POWER(2e0, -23)

SELECT
    @r1,
    @r2,
    @r1 * @r2,
    CONVERT(binary(4), @r1 * @r2);

Çift kesinlik için minimum pozitif alt normal :

DECLARE @r1 float = POWER(2e0, -1075);

SELECT @r1, CONVERT(binary(8), @r1);
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.