böylece bir sembol (harfler veya rakamlar) taban 32'dir (8 bit) Her ilk bit yüksek veya düşük pencere için kullanılır, ardından sonraki bitler hassasiyeti 2'ye böler. (en iyi durumda 8'e bölün) ancak bir alternatif var lat ve uzun hassasiyet arasında, alternatif olarak 4 ve 8'e bölünür.
# km
1 ± 2500
2 ± 630
3 ± 78
4 ± 20
5 ± 2.4
6 ± 0.61
7 ± 0.076
8 ± 0.019
9 ± 0.0024
10 ± 0.00060
11 ± 0.000074
Wiki sayfasında belirtildiği gibi, bu değerlerin ekvator yakınındaki bir konumdan geldiğini ve bir derecenin X ve Y'de neredeyse aynı uzunluğa sahip olduğunu unutmayın. Daha doğru bir bilgi için, lat ve uzun hatalardan başlamanız gerekir ve X hassasiyetinde km hassasiyetini konumunuzun enlemine göre hesaplayın.