GPU'da karşılaştırmalar neden bu kadar pahalı?

Çarpışma algılama sınıfımın performansını artırmaya çalışırken, gpu'da harcanan sürenin ~% 80'inin, döngüden geçmesi gereken kovaların sınırlarını anlamaya çalışıp çalışmadığı / başka koşulların harcandığını gördüm.

Daha kesin:

1. her iş parçacığı bir kimlik alır, bu kimlikle üçgeni bellekten alır (her biri 3 tamsayı) ve bu 3 tarafından köşelerini alır (her biri 3 float).

2. Daha sonra köşeleri tamsayı ızgara noktalarına (şu anda 8x8x8) dönüştürür ve bu ızgaradaki üçgen sınırlara dönüştürür

3. 3 noktayı sınırlara dönüştürmek için, her bir boyut arasında her bir boyutun min / maks değerini bulur

Kullandığım programlama dilinde bir minmax içsel eksik olduğu için, kendim bir tane yaptım, şöyle görünüyor:

procedure MinMax(a, b, c):
   local min, max

   if a > b:
      max = a
      min = b
   else:
      max = b
      min = a
   if c > max:
      max = c
   else:
      if c < min:
         min = c

   return (min, max)

Ortalama olarak, gerçek üçgen kenarlı kavşak testlerinden (yaklaşık 100 * 11-50 talimat) daha fazla zaman alan 2.5 * 3 * 3 = 22.5 karşılaştırmaları olmalıdır.

Aslında, cpu üzerinde gerekli kovaları önceden hesaplamanın (tek dişli, vektörizasyon yok), kova tanımıyla birlikte bir gpu görünümünde istiflenmesinin ve gpu'nun iş parçacığı başına ~ 4 ekstra okuma yapmasının denemeden 6 kat daha hızlı olduğunu buldum yerinde sınırları bulmak için. (dinamik kafeslerle uğraştığım için her yürütmeden önce yeniden hesaplandıklarını unutmayın)

Öyleyse karşılaştırma neden bir GPU'da bu kadar korkunç bir şekilde yavaş?

GPU'lar SIMD mimarileridir. SIMD mimarilerinde, işlediğiniz her eleman için her talimatın yürütülmesi gerekir. (Bu kuralın bir istisnası vardır, ancak nadiren yardımcı olur).

Bu nedenle, MinMaxrutininizde her çağrının üç şube talimatını da alması gerekmez (ortalama olarak yalnızca 2.5 değerlendirilse bile), aynı zamanda her atama ifadesi de bir döngü gerektirir (aslında "yürütme" olmasa bile) ).

Bu soruna bazen iş parçacığı sapması denir . Makinenizde 32 SIMD yürütme şeridi gibi bir şey varsa, yine de yalnızca tek bir getirme birimi olacaktır. (Burada "iş parçacığı" terimi temel olarak "SIMD yürütme şeridi" anlamına gelir.) Bu nedenle dahili olarak her SIMD yürütme şeridinde "etkin / devre dışı bırakıldım" biti var ve dallar aslında bu biti işliyor. (İstisna, her SIMD şeridinin devre dışı kaldığı noktada, getirme biriminin genellikle doğrudan "başka" maddesine atlamasıdır.)

Kodunuzda her SIMD yürütme şeridi şunları yapıyor:

compare (a > b)
assign (max = a if a>b)
assign (min = b if a>b)
assign (max = b if not(a>b))
assign (min = a if not(a>b))
compare (c > max)
assign (max = c if c>max)
compare (c < min if not(c>max))
assign (min = c if not(c>max) and c<min)

Bazı GPU'larda, GPU'nun kendisi yapması koşuluyla bu koşulların kestirime dönüştürülmesi daha yavaş olabilir. @ PaulA.Clayton tarafından işaret edildiği gibi, programlama dilinizde ve mimarinizde önceden belirlenmiş bir koşullu hareket işlemi varsa (özellikle formdan biri if (c) x = y else x = z) daha iyisini yapabilirsiniz. (Ama muhtemelen çok daha iyi değil).

Ayrıca, yerleştirme c < minkoşullu iç elseve c > maxgereksizdir. Kesinlikle hiçbir şeyden tasarruf etmiyor ve (GPU'nun otomatik olarak tahminlere dönüştürmesi gerektiği göz önüne alındığında) aslında iki farklı koşulda iç içe geçmesi acı verici olabilir.