X ve y koordinatlarının numpy dizilerinde en yakın noktanın dizinini bulma

Question 1

İki adet 2d uyuşmuş dizim var: x_array, x yönünde konumsal bilgi içerir, y_array y yönündeki konumları içerir.

O halde uzun bir x, y noktaları listem var.

Listedeki her nokta için, o noktaya en yakın olan konumun dizi indeksini (dizilerde belirtilen) bulmam gerekiyor.

Bu soruya dayanarak saf bir şekilde çalışan bir kod ürettim: Numpy dizisindeki en yakın değeri bulun

yani

import time
import numpy

def find_index_of_nearest_xy(y_array, x_array, y_point, x_point):
    distance = (y_array-y_point)**2 + (x_array-x_point)**2
    idy,idx = numpy.where(distance==distance.min())
    return idy[0],idx[0]

def do_all(y_array, x_array, points):
    store = []
    for i in xrange(points.shape[1]):
        store.append(find_index_of_nearest_xy(y_array,x_array,points[0,i],points[1,i]))
    return store


# Create some dummy data
y_array = numpy.random.random(10000).reshape(100,100)
x_array = numpy.random.random(10000).reshape(100,100)

points = numpy.random.random(10000).reshape(2,5000)

# Time how long it takes to run
start = time.time()
results = do_all(y_array, x_array, points)
end = time.time()
print 'Completed in: ',end-start

Bunu büyük bir veri kümesi üzerinden yapıyorum ve gerçekten biraz hızlandırmak istiyorum. Herkes bunu optimize edebilir mi?

Teşekkürler.

GÜNCELLEME: @silvado ve @justin (aşağıda) önerilerini takip eden ÇÖZÜM

# Shoe-horn existing data for entry into KDTree routines
combined_x_y_arrays = numpy.dstack([y_array.ravel(),x_array.ravel()])[0]
points_list = list(points.transpose())


def do_kdtree(combined_x_y_arrays,points):
    mytree = scipy.spatial.cKDTree(combined_x_y_arrays)
    dist, indexes = mytree.query(points)
    return indexes

start = time.time()
results2 = do_kdtree(combined_x_y_arrays,points_list)
end = time.time()
print 'Completed in: ',end-start

Yukarıdaki kod, kodumu (100x100 matrislerde 5000 nokta arayarak) 100 kat hızlandırdı. İlginç bir şekilde scipy.spatial.KDTree kullanmak ( scipy.spatial.cKDTree yerine ) benim saf çözümüme benzer zamanlamalar verdi, bu yüzden kesinlikle cKDTree sürümünü kullanmaya değer ...

Question 2

scipy.spatialAyrıca kd ağaç uygulaması vardır: scipy.spatial.KDTree.

Yaklaşım genellikle bir kd ağacı oluşturmak için ilk olarak nokta verilerini kullanmaktır. Bunun hesaplama karmaşıklığı N log N mertebesindedir, burada N, veri noktalarının sayısıdır. Aralık sorguları ve en yakın komşu aramaları daha sonra log N karmaşıklığı ile yapılabilir. Bu, tüm noktalardan (karmaşıklık N) geçmekten çok daha etkilidir.

Bu nedenle, aralık veya en yakın komşu sorgularını tekrarladıysanız, bir kd ağacı şiddetle tavsiye edilir.

Question 3

İşte bir scipy.spatial.KDTreeörnek

In [1]: from scipy import spatial

In [2]: import numpy as np

In [3]: A = np.random.random((10,2))*100

In [4]: A
Out[4]:
array([[ 68.83402637,  38.07632221],
       [ 76.84704074,  24.9395109 ],
       [ 16.26715795,  98.52763827],
       [ 70.99411985,  67.31740151],
       [ 71.72452181,  24.13516764],
       [ 17.22707611,  20.65425362],
       [ 43.85122458,  21.50624882],
       [ 76.71987125,  44.95031274],
       [ 63.77341073,  78.87417774],
       [  8.45828909,  30.18426696]])

In [5]: pt = [6, 30]  # <-- the point to find

In [6]: A[spatial.KDTree(A).query(pt)[1]] # <-- the nearest point 
Out[6]: array([  8.45828909,  30.18426696])

#how it works!
In [7]: distance,index = spatial.KDTree(A).query(pt)

In [8]: distance # <-- The distances to the nearest neighbors
Out[8]: 2.4651855048258393

In [9]: index # <-- The locations of the neighbors
Out[9]: 9

#then 
In [10]: A[index]
Out[10]: array([  8.45828909,  30.18426696])

Question 4

Verilerinizi doğru biçime aktarabiliyorsanız, hızlı bir şekilde aşağıdaki yöntemleri kullanmaktır scipy.spatial.distance:

http://docs.scipy.org/doc/scipy/reference/spatial.distance.html

Özellikle pdistve cdistikili mesafeleri hesaplamanın hızlı yollarını sağlar.