Pisagor formülünün enlem ve boylamda verilen konumlarda kullanılması, örneğin bir karenin formülünü kullanarak bir dairenin alanını hesaplamak kadar az anlamlıdır: bir sayı üretmesine rağmen, çalışması gerektiğini düşünmek için hiçbir neden yoktur.
Küçük ölçeklerde herhangi bir pürüzsüz yüzey düzlem gibi görünse de, Pisagor formülünün doğruluğu kullanılan koordinatlara bağlıdır . Bu koordinatlar bir kürenin (veya elipsoidin) enlem ve boylamı olduğunda, bunu bekleyebiliriz.
Boylam çizgileri arasındaki mesafeler makul derecede doğru olacaktır.
Ekvator boyunca mesafeler makul derecede doğru olacaktır.
Diğer tüm mesafeler, enlem ve boylamdaki farklılıklarla kabaca orantılı olarak hatalı olacaktır.
Hata, mesafe hesaplamalarının başlangıç ve bitiş noktalarına bağlıdır. Bununla birlikte, hem küre hem de elipsoidin eksen etrafında dairesel bir simetriye sahip olması nedeniyle, hata sadece boylamların farkına bağlıdır , bu nedenle bu hatayı incelemek için asıl Meridian'da olacağız. Hem küre hem de elipsoid kuzey-güney yansıması altında simetrik olduğundan, sadece güney yarımkürede orijin noktalarını incelemeliyiz. Böyle bir nokta için, [Pisagor hesaplaması] / [Gerçek mesafe] 'ye eşit olan nispi hatanın bir dağılım haritasını çizebiliriz.
Dünyanın ortalama yarıçapını kullanan Pisagor formülü,
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
burada dx , boylamlardaki fark ve dy , enlemlerdeki fark, her ikisi de derecedir. (Boylam değerindeki fark , antimerideri geçerken doğru dx değerini vermek için modulo 360'a indirgenmiştir ; bunu yapmamak, bize Pisagor formülünün kendisi hakkında hiçbir şey söylemez yapay olarak büyük hatalar getirecektir.)
Aşağıdaki grafikler WGS 84 elipsoidi üzerindeki -70'den 0'a kadar enlemler için 10 derecelik artışlarla doğru mesafeye kıyasla nispi hatayı göstermektedir. Yatay koordinat, boylamlardaki fark ve dikey koordinat, hedefin enlemidir. Işık bölgeleri nispeten küçük bir hataya sahiptir: kontur çizgileri 1, 1.01, 1.02, 1.05, 1.1, 1.2, 1.5, 2, vb. .) Kırmızı noktalar başlangıç noktasını gösterir.
Dikey beyaz bantlar beklentinin doğruluğunu kanıtlar (1): Pisagor mesafeleri boylamlarda küçük bir fark olduğu zaman doğrudur. Düşük enlemlerdeki yatay beyaz bantlar beklentisi doğrular (2): Equator yakınında, yatay mesafeler makul derecede doğrudur. Aksi takdirde, daha geniş olan karanlık bölgelerin şahit olduğu gibi, diğer tüm mesafelerde Pisagor formülü kötüdür.
Maksimum için kantitatif tahminler yapabilirizyakınlardaki çiftler için elde edilen hata (örneğin, birbirlerinden birkaç yüz kilometre uzakta). Ölçek - yarıçap için uygun bir değer kullanarak - meridyen boyunca doğrudur, ancak enlemin bir kesiti tarafından yaklaşık olarak değişir. Örneğin, 40 derecelik bir enlemde sekant 1.31'dir, Pisagor formülünü ima etmek, doğu-batı yönünde yaklaşık% 31'lik mesafeler verecektir. (Bu, sağ üst kontur çiziminde belirgindir, kırmızı noktanın hemen doğu-batısındaki bölgenin 1,2 ve 1,5 konturlar arasında olduğu -40 derece enlemde bir başlangıç noktası için.) Diğer tüm yönlerde kısa mesafeler olacaktır. % 0 ile% 31 arasında bir miktar çok fazla; daha uzun mesafeler daha da fazla olabilir (kontur çizgilerinin gösterdiği gibi).