Standart bir algoritma dersinde, hızlı bağlantı noktasının ortalama olarak ve en kötü durumda ise olduğu öğrenilir. Aynı zamanda, diğer sıralama algoritmaları incelenmiştir hangi olan (gibi en kötü durumda MergeSort ve HizliSiralama ve (gibi iyi durumda bile lineer zamanı) BubbleSort ) ancak belleğin bazı ek ihtiyaçları olan.O ( n 2 ) O ( n log n $O(n \log n)$$O(n^2)$$O(n \log n)$

Bazı çalışma sürelerinde hızlıca bir bakıştan sonra , quicksort'un diğerleri kadar verimli olmaması gerektiğini söylemek doğaldır .

Ayrıca, öğrencilerin temel programlama derslerinde genel olarak derslerin özyinelemenin gerçekten iyi olmadığını, çünkü çok fazla bellek kullanabileceğini vb. Öğrendiklerini göz önünde bulundurun. gerçekten iyi çünkü özyinelemeli bir algoritma.

Öyleyse neden quicksort pratikte diğer sıralama algoritmalarından daha iyi performans gösteriyor? Gerçek dünya verilerinin yapısıyla mı ilgili? Bilgisayarlarda belleğin çalışma şekli ile mi ilgili olmalı? Bazı hatıraların diğerlerinden çok daha hızlı olduğunu biliyorum, ancak bu karşı-sezgisel performansın gerçek nedeni olup olmadığını bilmiyorum (teorik tahminlerle karşılaştırıldığında).

Güncelleme 1: kanonik bir cevap, ortalama davanın 'da yer alan sabitlerin diğer algoritmalarında yer alan sabitlerden daha küçük olduğunu söylüyor . Bununla birlikte, sadece sezgisel fikirler yerine kesin hesaplamalar yaparak, bunun doğru bir gerekçesini henüz görmedim.O ( n log n $O(n\log n)$$O(n\log n)$

Her halükarda, bazı cevapların öne sürdüğü gibi, uygulamaların bilgisayarların iç yapısından yararlandığı bellek düzeyinde, örneğin önbellek RAM'in RAM'den daha hızlı olduğu gibi, gerçek fark oluşuyor gibi görünüyor. Tartışma çok ilginç, ama yine de cevabın bununla ilgisi olduğu anlaşıldığı için bellek yönetimi ile ilgili daha fazla ayrıntı görmek istiyorum .

2 güncelle: sıralama algoritmaları bir karşılaştırmasını sunan çeşitli web sayfaları vardır, (özellikle diğerlerinden daha meraklısı bazı sorting-algorithms.com ). Güzel bir görsel yardım sunmaktan başka, bu yaklaşım sorumu cevaplamıyor.

Kısa cevap

Önbellek verimliliği argümanı zaten ayrıntılı olarak açıklanmıştır. Ek olarak, Quicksort'un neden hızlı olduğu konusunda kendine özgü bir argüman var. İki “geçiş işaretçisi” gibi uygulandığında, örneğin burada , iç döngüler çok küçük bir gövdeye sahiptir. Bu en sık uygulanan kod olduğundan, bu karşılığını verir.

Uzun cevap

Her şeyden önce,

Ortalama Vaka yok!

En iyi ve en kötü durum çoğu zaman pratikte nadiren aşırılıklar olduğu için, ortalama olay analizi yapılır. Fakat herhangi bir ortalama durum analizi girdilerin bir miktar dağılımını varsaymaktadır ! Sıralama için, tipik seçim rastgele permütasyon modelidir (tam olarak Wikipedia'da varsayılmıştır).

Neden Not?$O$

Algoritma analizindeki sabitlerin atılması tek bir nedenden dolayı yapılır: Kesin çalışma süreleriyle ilgileniyorsam, ilgili tüm temel işlemlerin ( göreceli) maliyetlerine ihtiyacım var ( yine de önbellekleme konularını görmezden geliyorum, modern işlemcilerde boru hattı ...). Matematiksel analiz, her bir komutun ne sıklıkta uygulandığını sayabilir , ancak tek komutların çalışma süreleri işlemci ayrıntılarına bağlıdır, örneğin 32 bit tam sayı çarpma işleminin ekleme kadar uzun sürüyor.

İki çıkış yolu var:

1. Bazı makine modellerini düzelt.

   Bu, yazar tarafından icat edilen yapay “tipik” bir bilgisayar için Don Knuth'un “ Bilgisayar Programlama Sanatı” adlı kitap serisinde yapıldı . 3. ciltte , birçok sıralama algoritması için kesin ortalama durum sonuçları bulabilirsiniz , örn.

   • Hızlı bağlantı:$11.667(n+1)\ln(n)-1.74n-18.74$
   • Mergesort:$12.5 n \ln(n)$
   • Yığın: $16 n \ln(n) +0.01n$
   • Ekleme: ^{[ kaynak ]}$2.25n^2+7.75n-3ln(n)$
     

   Bu sonuçlar Quicksort'un en hızlı olduğunu göstermektedir. Ancak, yalnızca Knuth'un yapay makinesinde kanıtlandı, x86 PC'nizin söylenmesi için hiçbir şey ifade etmez. Ayrıca algoritmaların küçük girişler için farklı olduğunu unutmayın:
   
   ^{[ kaynak ]}

2. Soyut temel işlemleri analiz eder .

   Karşılaştırma tabanlı sıralama için, bu genellikle takas ve anahtar karşılaştırmalardır . Robert Sedgewick'in kitaplarında, örneğin “Algoritmalar” da , bu yaklaşım izlenmektedir. Orada bul

   • Quicksort: karşılaştırmaları ve ortalama olarak$2n\ln(n)$$\frac13n\ln(n)$
   • : karşılaştırmaları, ancak dizisine erişir (mergesort takas temelli değildir, bu yüzden bunu sayamayız).8.66 n ln ( n $1.44n\ln(n)$$8.66n\ln(n)$
   • Ekleme: karşılaştırmaları ve ortalama olarak .$\frac14n^2$$\frac14n^2$

   Gördüğünüz gibi, bu, kesin çalışma zamanı analizi olarak algoritmaların karşılaştırılmasına kolayca izin vermez, ancak sonuçlar makine detaylarından bağımsızdır.

Diğer girdi dağılımları

Yukarıda belirtildiği gibi, ortalama durumlar her zaman bazı girdi dağılımına göredir, bu nedenle rastgele permütasyonlar dışındakiler dikkate alınabilir. Örneğin, Quicksort için eşit elemanlarla araştırma yapıldı ve Java'daki standart sıralama işlevi üzerine güzel bir makale var.

Bu konuda yapılabilecek çok sayıda nokta var.

Quicksort genellikle hızlı

$O(n^2)$

$n-1$$O(n \log n)$

Quicksort genellikle çoğu türden daha hızlıdır

$O(n \log n)$$O(n^2)$$n$

$O(n \log n)$$O(\frac{n}{B} \log (\frac{n}{B}))$$B$

Bu önbellek etkinliğinin nedeni, girişi doğrusal olarak taraması ve girişi doğrusal olarak bölümlendirmesidir. Bu, önbelleği değiştirmeden önce önbelleğe yüklediğimiz her sayıyı okurken yaptığımız her önbellek yükünden en iyi şekilde yararlanabileceğimiz anlamına gelir. Özellikle, algoritma önbellek bilgisizdir, bu da her önbellek seviyesi için iyi önbellek performansı verir; bu da başka bir kazançtır.

Önbellek verimliliği, ye daha da geliştirilebilir$O(\frac{n}{B} \log_{\frac{M}{B}} (\frac{n}{B}))$$M$$k$

Quicksort genellikle Mergesort'tan daha hızlıdır

Bu karşılaştırma tamamen sabit faktörlerle ilgilidir (tipik durumu düşünürsek). Özellikle seçim, Quicksort için pivotun en düşük seçimi arasındadır ve Mergesort için tüm girişin kopyası (veya bu kopyalamayı önlemek için gereken algoritmanın karmaşıklığı) arasındadır. Birincisinin daha verimli olduğu ortaya çıktı: bunun arkasında hiçbir teori yok, daha hızlı oluyor.

$n$$O(\log n)$$O(n)$

Son olarak, Quicksort'un doğru sırada olan girişe biraz duyarlı olduğunu unutmayın; bu durumda bazı takasları atlayabilir. Mergesort'ta, Quicksort'u Mergesort'a kıyasla biraz daha hızlı hale getiren bir optimizasyon yoktur.

İhtiyaçlarınıza uygun sıralama kullanın

Sonuç olarak: sıralama algoritması her zaman en uygunudur. Hangisinin sizin gereksinimlerinize uygun olduğunu seçin. Çoğu durumda en hızlı olan bir algoritmaya ihtiyacınız varsa ve nadir durumlarda biraz yavaş kalmasına neden olabilir ve sabit bir sıralama yapmanız gerekmiyorsa, Quicksort kullanın. Aksi halde, gereksinimlerinize daha iyi uyan algoritmayı kullanın.

Üniversitemdeki programlama derslerinden birinde, öğrencilerden quicksort, mergesort, insert sort vs Python'un yerleşik list.sort ( Timsort olarak adlandırılan ) performansını karşılaştırmasını istedik . Yerleşik list. Bu nedenle, normal hızlı ticaret uygulamasının pratikte en iyisi olduğu sonucuna varmak erkendir. Ancak, quicksort uygulamasının çok daha iyi uygulandığından ya da bunun hibrit versiyonundan eminim.

Bu, David R. MacIver tarafından Timsort'u uyarlanabilir bir birleştirme biçimi olarak açıklayan güzel bir blog makalesidir .

QuickSort'un diğer sıralama algoritmalarına göre bu kadar hızlı olmasının ana nedenlerinden birinin önbellek dostu olması olduğunu düşünüyorum. QS bir dizinin bir parçasını işlediğinde, parçanın başındaki ve sonundaki öğelere erişir ve parçanın ortasına doğru hareket eder.

Böylece, başlattığınızda, dizideki ilk öğeye erişirsiniz ve önbelleğe bir bellek parçası ("konum") yüklenir. Ve ikinci elemana erişmeye çalıştığınızda, (muhtemelen) önbellekte zaten var, bu yüzden çok hızlı.

Yığın noktası gibi diğer algoritmalar bu şekilde çalışmaz, diziye çok atlarlar ve bu da onları yavaşlatır.

Diğerleri , Quicksort'un asimptotik ortalama çalışma zamanının (sabit olarak) diğer sıralama algoritmalarından (belirli ayarlarda) daha iyi olduğunu söylemiştir.

$\cal{O}(n \log n)$

Birçok Quicksort çeşidi bulunduğuna dikkat edin (bkz. Sedgewick'in tezi). Farklı girdi dağılımlarında farklı şekilde performans gösterirler (düzgün, neredeyse sıralanmış, neredeyse ters olarak sıralanmış, birçok yinelenen, ...) ve diğer algoritmalar bazıları için daha iyi olabilir.

$k \approx 10$

$O(n \lg n)$

ps: Kesin olmak, diğer algoritmalardan daha iyi olmak göreve bağlıdır. Bazı görevler için diğer sıralama algoritmalarını kullanmak daha iyi olabilir.

Ayrıca bakınız:

• Hızlı sıralama ile diğer sıralama algoritmalarının karşılaştırılması

• Yığın-sıralama ile diğer sıralama algoritmalarının karşılaştırılması

$\Theta(n^2)$$\Theta(n\log n)$

İkinci sebep ise in-placesıralama yapması ve sanal bellek ortamlarında çok iyi çalışması.

GÜNCELLEME:: (Janoma ve Svick'in yorumlarından sonra)

Bunu daha iyi göstermek için Merge Sort'u kullanarak bir örnek vermeme izin verin (çünkü Merge sort, hızlı sıralamadan sonra bir sonraki yaygın olarak kabul edilen sıralama algoritmasıdır, ve sanırım) ve size ekstra sabitlerin nereden geldiğini (bildiğim kadarıyla ve neden düşündüğümü söyleyeyim) Hızlı sıralama daha iyidir):

Aşağıdaki sırayı düşünün:

12,30,21,8,6,9,1,7. The merge sort algorithm works as follows:

(a) 12,30,21,8    6,9,1,7  //divide stage
(b) 12,30   21,8   6,9   1,7   //divide stage
(c) 12   30   21   8   6   9   1   7   //Final divide stage
(d) 12,30   8,21   6,9   1,7   //Merge Stage
(e) 8,12,21,30   .....     // Analyze this stage

Son aşamada nasıl göründüğüne tam olarak bakarsanız, ilk 12 8 ve 8 ile karşılaştırıldığında daha küçüktür, ilk önce o olur. Şimdi 12, TEKRAR 21 ve 12 ile devam eder ve böyle devam eder. Son birleştirme yani 4 öğeyi 4 öğeyle birlikte alırsanız, Hızlı Sıralamada OLMAYAN sabitler olarak birçok EKSTRA karşılaştırması yapılır. Hızlı sıralama tercih edilmesinin nedeni budur.

Gerçek dünya verileriyle çalışma deneyimim, hızlı erişimin kötü bir seçim olduğudur . Quicksort rastgele verilerle iyi çalışır, ancak gerçek dünya verileri çoğunlukla rastgele değildir.

2008'de bir quicksort kullanımıyla ilgili bir asılı yazılım hatasını izledim. Bir süre sonra, ekleme sıralama, hızlı sıralama, yığın sıralama ve birleştirme sıralaması gibi basit ifadeler yazdım ve bunları test ettim. Birleştirme sıralama, büyük veri kümeleri üzerinde çalışırken diğerlerinden daha iyi performans gösterdi.

O zamandan beri, birleştirme sıralama benim seçim algoritmasıdır. Bu zarif. Uygulaması basittir. Bu istikrarlı bir tür. Quicksort'un yaptığı gibi kuadratik davranışlara dejenere olmaz. Küçük dizileri sıralamak için ekleme düzenine geçiyorum.

Birçok durumda, belirli bir uygulamanın sadece hızlı destek olmadığını anlamak için hızlı destek için şaşırtıcı derecede iyi çalıştığını düşündüğümü kendi kendime öğrendim. Bazen uygulama quicksort ve başka bir algoritma arasında geçiş yapar ve bazen quicksort kullanmaz. Örnek olarak, GLibc'in qsort () işlevleri aslında birleştirme sıralamasını kullanır. Yalnızca çalışma alanı tahsis edilmezse, bir kod yorumunun "yavaş algoritma" olarak adlandırdığı yerinde hızlı bağlantı noktasına geri döner .

Düzenleme: Java, Python ve Perl gibi programlama dilleri aynı zamanda birleştirme sıralamasını veya daha kesin olarak Timsort gibi bir türev kullanır veya büyük kümeler için birleştirme sıralamasını ve küçük kümeler için ekleme düzenini kullanır. (Java ayrıca düz hızlı bağlantı noktasından daha hızlı olan çift eksenli hızlı bağlantı noktası kullanır.)

1 - Hızlı sıralama yerinde (sabit bir miktar dışında, ek bir hatıra gerektirmez.)

2 - Hızlı sıralama, diğer verimli sıralama algoritmalarına göre daha kolaydır.

3 - Hızlı sıralama, çalışma süresinde diğer verimli sıralama algoritmalarından daha küçük sabit faktörlere sahiptir.

Güncelleme: Birleştirme sıralaması için, birleştirmeden önce verileri depolamak için fazladan dizi (ler) gerektiren bazı "birleştirme" yapmanız gerekir; ama hızlı sıralamada, yapmazsın. Bu yüzden hızlı sıralama yerinde. Ayrıca birleştirme için yapılan ve birleştirme düzeninde sabit faktörleri artıran bazı ekstra karşılaştırmalar da vardır.

Hangi koşullar altında, belirli bir sıralama algoritması aslında en hızlı olanıdır?

$\Theta(\log(n)^2)$$\Theta(n \cdot \log(n)^2)$

$\Theta(n \cdot k)$$\Theta(n \cdot m)$$k=2^{\#number\_of\_Possible\_values}$$m = \#maximum\_length\_of\_keys$

3) Temel veri yapısı bağlantılı elemanlardan mı oluşuyor? Evet -> daima birleştirme sıralamasında kullanın. Bağlantılı veri yapıları için sabit boyutta veya uyarlamalı (aka doğal) aşağıdan yukarıya yerleştirme uygulaması, bağlantılı veri yapıları için bir çok farklı ariteyi birleştirir ve her adımda tüm verilerin kopyalanmasını gerektirmediklerinden ve hiçbir zaman tekrarlama gerektirmediklerinden, diğer genel karşılaştırma tabanlı türlerden daha hızlı, hızlı sıralamadan daha hızlı.

$\Theta(n)$

5) Temel verilerin boyutu küçük ila orta boyuta bağlanabilir mi? Örn: n <10.000 ... 100.000.000 (temel mimariye ve veri yapısına bağlı olarak) mı? Evet -> bitonik sıralama veya Dozer tek / çift birleştirme alanı kullanın. Goto 1)

$\Theta(n)$$\Theta(n^2)$$\Theta(n \cdot \log(n)^2)$Durumda en kötü çalışma süresi biliniyor, ya da belki tarak sıralama deneyin. Uygulamada kabuk sıralama veya tarak sıralama işlemlerinin oldukça iyi sonuç vereceğinden emin değilim.

$\Theta(\log(n))$$\Theta(n)$$\Theta(n)$$\Theta(\log(n))$$\Theta(n^2)$$\Theta(n)$$\Theta(n)$$\Theta(\log(n))$$\Theta(n \cdot \log(n))$

$\Theta(n \cdot \log(n))$

Quicksort için uygulama ipuçları:

$\Theta(n)$$\Theta(\log(n))$$\Theta(n^{\log_k(k-1)})$

2) Quicksort'un aşağıdan yukarıya, yinelemeli varyantları var, ancak AFAIK, aşağıdan yukarıya doğru olanlarla aynı asimptotik alan ve zaman sınırlarına sahipler, ek aşağı tarafların uygulanması zor (örneğin bir sıranın açıkça yönetilmesi gibi). Benim deneyimim, pratik amaçlarla, bunların asla göz önünde bulundurulmayacaklarıdır.

Mergesort için uygulama ipuçları:

1) bottum-up mergesort, yineleme çağrıları gerektirmediğinden yukarıdan aşağı mergesorttan her zaman daha hızlıdır.

2) çok saf mervesort, bir çift tampon kullanılarak hızlandırılabilir ve her adımdan sonra verileri geçici diziden geri kopyalamak yerine tamponu değiştirebilir.

3) Gerçek dünyadaki birçok veri için, adaptif mergesort, sabit boyutlu mergesorttan çok daha hızlıdır.

$\Theta(k)$$\Theta(\log(k))$$\Theta(1)$$\Theta(n)$

Yazdıklarımdan, aşağıdaki koşulların geçerli olduğu durumlar haricinde, quicksort'un genellikle en hızlı algoritma olmadığı açıktır:

1) "az" olası değerden daha fazlası var

2) temel veri yapısı bağlantılı değildir

3) istikrarlı bir sipariş gerekmez

4) veriler, bir bitonik sıralayıcının veya Batcher'in tek başına birleşmiş mergesort'un hafif alt optimal asimptotik çalışma zamanının başladığı kadar büyüktür.

5) veri neredeyse sıralanmamış ve daha önceden sınıflandırılmış daha büyük bölümlerden oluşmuyor

6) veri sırasına aynı anda birden fazla yerden erişebiliriz

$\Theta(\log(n))$$\Theta(n)$

ps: Birinin bana metnin biçimlendirilmesinde yardım etmesi gerekiyor.

Sıralama yöntemlerinin çoğu kısa adımlarla verileri hareket ettirmek zorundadır (örneğin, birleştirme sıralaması yerelde değişiklikler yapar, sonra bu küçük veri parçasını birleştirir, daha sonra daha büyük olanı birleştirir.). Sonuç olarak, veriler hedefinden uzaktaysa birçok veri hareketine ihtiyacınız vardır.

$a \le b$