Birkaç kez duydum ki, yeterince küçük n değerleri için O (n) O (1) gibi düşünülüp / tedavi edilebilir.

Örnek :

Bunu yapmak için motivasyon, O (1) 'in her zaman O (lg n)' den, her zaman O (n) 'den daha iyi olduğu yanlış fikrine dayanır. Bir işlemin asimptotik sırası, yalnızca gerçekçi koşullar altında sorunun boyutu gerçekten büyük olduğunda ortaya çıkar.N küçük kalırsa her sorun O (1) olur!

Yeterince küçük olan nedir? 10? 100? 1.000? Hangi noktada "artık buna özgür bir operasyon gibi davranamayız" diyorsunuz? Bir kural var mı?

Bu, alana veya duruma özgü olabilir gibi görünüyor, ancak bunun hakkında nasıl düşünüleceği hakkında genel bir kural var mı?

Tüm büyüklük düzenleri, birçoğu aslında sabit bir içerir . Maddelerin sayısı yeterince büyük olduğunda bu sabit önemsizdir. Soru, madde sayısının, bu sabitin baskın çıkması için yeterince küçük olup olmadığıdır.$C$

İşte düşünmek için görsel bir yol.

Hepsinin başlangıç ​​noktasını Y ekseni üzerinde belirleyen bir başlangıç ​​sabiti var. Her birinin aynı zamanda ne kadar hızlı artacaklarına egemen olan kritik bir sabiti vardır .$C$

• İçin , Cı süresini belirler.$O(1)$$C$
• gerçekten C × n'dir , burada C açıyı belirler.$O(n)$$C \times n$$C$
• gerçekten ( C × n ) 2'dir , burada C eğrinin keskinliğini belirler.$O(n^2)$$(C \times n)^2$$C$

Hangi algoritmayı kullanmanız gerektiğini belirlemek için çalışma zamanlarının kesiştiği noktayı tahmin etmeniz gerekir. Örneğin, bir yüksek başlangıç ​​zamanı veya yüksek C'ye sahip 1 ) çözümü,düşük başlangıç ​​zamanı veoldukça fazla sayıda öğededüşük C değerine sahipbir O ( n ) çözümünükaybedecektir.$O(1)$$C$$O(n)$$C$

İşte gerçek bir dünya örneği. Bir avluya bir demet tuğla taşımanız gerekir. Onları bir seferde birkaç elinizle hareket ettirebilir ya da tek bir yolculukta kaldırmak ve sürmek için devasa, yavaş bir beko elde edebilirsiniz. Üç tuğla varsa cevabınız nedir? Üç bin varsa cevabınız nedir?

İşte bir CS örneği. Her zaman sıralanmış bir listeye ihtiyacınız olduğunu varsayalım. O ( log) için kendini tutacak bir ağaç kullanabilirsiniz. Veya sıralanmamış bir liste kullanabilir ve her ekleme veya silme işleminden sonra O ( n log n ) 'de yeniden sıralayabilirsiniz. Ağaç işlemleri karmaşık olduğu için (sabitleri yüksektir) ve sıralama o kadar basit (düşük sabiti) ki, liste muhtemelen yüzlerce veya binlerce maddeden kazanacaktır.$O(\log{n})$$O(n \log{n})$

Bu tür bir şey göz küresi olabilir, ancak sonuçta kıyaslama ne yapacak. Ayrıca, genellikle kaç öğeye sahip olacağınıza göz küresi yapmanız ve daha fazla kullanım riskini azaltmanız gerekir. Ayrıca “performans öğelerinde hızlı bir şekilde düşecektir ” veya “maksimum bir X ayar büyüklüğü varsayıyoruz” gibi varsayımınızı belgelemek isteyeceksiniz .$X$$X$

Bu gereklilikler değişebileceğinden, bu tür kararları bir arayüzün arkasına koymak önemlidir. Yukarıdaki ağaç / liste örneğinde, ağacı veya listeyi göstermeyin. Bu sayede varsayımlarınız yanlış çıkarsa veya daha iyi bir algoritma bulursanız fikrinizi değiştirebilirsiniz. Hatta öğelerin sayısı arttıkça melez ve dinamik bir şekilde anahtar algoritmaları yapabilirsiniz.

Bu, daha önce bildirilen cevaplara büyük ölçüde destek veriyor, ancak farklı bir bakış açısı sunabilir.

Sorunun " n'nin yeterince küçük değerlerini" tartıştığını ortaya koyuyor . Big-O'nun tüm amacı, işlemenin işlenenlerin bir fonksiyonu olarak nasıl büyüdüğünü tanımlamaktır. Eğer işlenen veriler küçük kalırsa, Big-O'yu tartışmak önemsizdir, çünkü büyümeyle ilgilenmiyorsunuz (ki bu gerçekleşmiyor).

Başka bir deyişle, caddede çok kısa bir mesafeye gidiyorsanız, yürümek, bisiklet kullanmak veya araç sürmek aynı derecede hızlı olabilir. Arabanızın anahtarlarını bulmak biraz zaman alırsa ya da arabanızın gaz kullanması gerekiyorsa, yürümek daha da hızlı olabilir.

Küçük için nuygun olanı kullanın.

Eğer şehirlerarası seyahate çıkıyorsanız, sürüşünüzü, gaz kilometrenizi vb. Optimize etmenin yollarına bakmanız gerekir.

Alıntı oldukça belirsiz ve kesin değildir. Yorumlanabileceği en az üç ilgili yol vardır.

Bunun arkasındaki gerçek matematiksel nokta şudur, eğer sadece bir limite kadar olan boyut örnekleri ile ilgileniyorsanız, o zaman sadece çok sayıda muhtemel durum vardır. Örneğin, yüz köşesine kadar sadece çok sayıda grafik vardır. Yalnızca sınırlı sayıda örnek varsa, ilke olarak, sorunu tüm olası örneklere verilen tüm cevapların bir arama tablosunu oluşturarak çözebilirsiniz. Şimdi, cevabı ilk önce girişin çok büyük olmadığını kontrol ederek bulabilirsiniz (bu, sabit zaman alır: giriş k'dan uzunsa). $k$, geçersizdir) ve sonra cevap tablosundaki ifadeye bakın (sabit zaman alır: tabloda sabit sayıda giriş vardır). Ancak, tablonun gerçek boyutunun muhtemelen inanılmaz derecede büyük olduğuna dikkat edin. Yüz köşesinde sadece sınırlı sayıda grafik olduğunu söyledim ve bu doğru. Sadece sonlu sayılar gözlemlenebilir evrendeki atom sayısından daha büyük.

Biz bir algoritma çalışma süresi olduğunu söylediğimizde, daha pratik açıdan, yani bu kadar sadece araçlarının, asimptotik c , n 2  bir sabit için, adım  C . Olduğunu, bazı sabit var n 0 herkes için, böyle n ≥ n 0 , algoritma kabaca alır c n 2 adımlar. Ama belki n 0 = 100 , 000 , $\Theta(n^2)$ $cn^2$$C$$n_0$$n\geq n_0$$cn^2$$n_0=100,000,000$ve sadece bundan daha küçük boyuttaki örneklerle ilgileniyorsunuz. Asimptotik ikinci dereceden sınır, küçük örnekleriniz için bile geçerli olmayabilir. Şanslı olabilirsiniz ve küçük girişlerde daha hızlı olabilir (veya şanssız olabilir ve daha yavaş olabilirsiniz). Örneğin, küçük  , n 2 < 1000 n olduğundan, sabit sabitleri olan doğrusal bir algoritmadan ziyade iyi sabitleri olan ikinci dereceden bir algoritmayı çalıştırmayı tercih edersiniz. Bunun gerçek bir örneği, asimptotik olarak en verimli matris çarpım algoritmalarının ( O zamanında çalışan ( Coppersmith -Winograd varyantları ) ( n 2.3729 ) ) pratikte nadiren kullanılmasıdır çünkü Strassen $n$$n^2 < 1000n$$O(n^{2.3729})$ algoritma, matrisleriniz gerçekten büyük olmadığı sürece daha hızlıdır.$O(n^{2.8074})$

Eğer bir üçüncü nokta, yani  küçük, n, 2 ve hatta n, 3  küçüktür. Örneğin, birkaç bin veri öğesini sıralamanız gerekiyorsa ve bunları yalnızca bir kez sıralamanız gerekiyorsa, sıralama algoritmaları yeterlidir: a Θ ( n 2$n$$n^2$$n^3$$\Theta(n^2)$Algoritma hala, verilerinizi sıralamak için belki de sadece birkaç milyon talimata ihtiyaç duyacaktır; bu işlem, saniyede milyarlarca talimat gerçekleştirebilecek bir CPU'da fazla zaman değildir. Tamam, bellek erişimi de var, ancak yavaş bir algoritma bile bir saniyeden daha az sürecek, bu nedenle basit, yavaş bir algoritma kullanmak ve karmaşık, hızlı bir algoritma kullanmaktan ve yıldırım hızını bulmaktan daha doğru bir yöntem kullanmak daha iyi ama adamcağız ve aslında verileri doğru şekilde sıralamıyor.

Big-O notasyonu gerçekten sadece keyfi büyükler için davranış hakkında bir şeyler söylüyor. Örneğin, sabit bir c> 0 ve bir tamsayıdır olduğu anlamına gelir , n 0 , öyle ki f ( n ) < C , n 2 , her için n > n, 0 .$f (n) = O (n^2)$$n_0$$f (n) < c n^2$$n > n_0$

Birçok durumda, bir sabit c bulup söyleyebiliriz "Her n> 0, f (n) için yaklaşık ". Hangi bilgi olması faydalıdır. Ancak bazı durumlarda, bu doğru değil. F (n) = n 2 + 10 18 ise , bu tamamen yanıltıcıdır. Bu yüzden sadece bir şey O (n ^ 2) olduğu için beyninizi kapatabileceğiniz ve gerçek işlevi görmezden gelebileceğiniz anlamına gelmez.$c n^2$$n^2 + 10^{18}$

Öte yandan, n = 1, 2 ve 3 değerleriyle yalnızca bir kez karşılaşırsanız, pratikte f (n) 'nin n ≥ 4 için yaptıkları bir fark yaratmaz; n) = 0 (1), c = maks (f (1), f (2), f (3)). Ve bu yeterince küçük anlamına gelir: Eğer f (n) = O (1) olduğu iddiası, karşılaştığınız tek f (n) değerinin "yeterince küçük" olması durumunda sizi yanıltmazsa.

Büyümezse, O (1)

Yazarın ifadesi biraz aksiyomatiktir.

Büyüme düzenleri, arttırmak için yapmanız gereken iş miktarına ne olduğunu açıklar N. Bunun Narttığını bilmiyorsanız , probleminiz etkilidir O(1).

Unutma ki O(1)bu "hızlı" demek değil. Tamamlamak için her zaman 1 trilyon adım gerektiren bir algoritmadır O(1). 1-200 adım arasında herhangi bir yerde, ancak hiçbir zaman daha fazla olmayan bir algoritma O(1). [1]

Senin algoritması tam olarak alırsa N ^ 3adımları ve biliyorum o Ndaha 5'ten olamaz etkin yüzden, bu gün 125 adımlar asla O(1).

Ancak yine, O(1)mutlaka "yeterince hızlı" anlamına gelmez. Bu, bağlamınıza bağlı olan ayrı bir soru. Bir şeyi bitirmek bir hafta sürüyorsa, teknik olarak yapıp yapmamanız umrumda değil O(1).

[1] Örneğin, O(1)karma çarpışmalar, karma çarpışmalar, bir kovadaki birkaç maddeye bakmak zorunda kalabileceğiniz anlamına gelse de, bu kovada kaç tane madde olabileceğinin zor bir sınırı olduğu sürece.

Şimdi, bir karma tablosu kullanabilir ve O (1) aramaları yapabilirim (hashtable'ın özel uygulamasını bir kenara bırakırsak), ancak örneğin bir listem olsaydı, O (n) aramalarım olur. Bu aksiyom göz önüne alındığında, koleksiyonlar yeterince küçükse, bu ikisi aynıdır. Fakat bir noktada birbirlerinden ayrılırlar ... bu nokta nedir?

Pratik olarak, karma tabloyu oluşturmanın gelişmiş aramalardan elde ettiğiniz faydadan daha fazlasını aldığı nokta. Bu nasıl dayanan çok değişecektir sıklıkla size başka işlemler yaparken ne sıklıkta karşı araması, yapıyoruz. Bir kez yaparsanız, O (1) vs O (10) büyük bir şey değil. Saniyeyi saniyede binlerce kez yaparsanız, bu bile önemli (en azından doğrusal olarak artan oranda önemli olsa da).

Alıntı doğru olsa da (ancak belirsiz) bunun için de tehlikeler var. Ben, başvurunuzun herhangi bir aşamasında karmaşıklığa bakmalısınız.

Söylemesi çok kolay: hey sadece küçük bir listem var, eğer A öğesinin listede olup olmadığını kontrol etmek istersem, sadece listeyi değiştirmek ve öğeleri karşılaştırmak için basit bir döngü yazacağım.

Sonra dostum programlayıcınız listeyi kullanmaya ihtiyaç duyar, fonksiyonunuzu görür ve şöyle olur: hey Listede herhangi bir kopya istemiyorum, bu yüzden listeye eklenen her öğe için fonksiyonu kullanıyor.

(aklınızda olsun, hala küçük bir liste senaryosu.)

3 yıl sonra geldim ve patronum az önce büyük bir satış yaptı: yazılımımız büyük bir ulusal satıcı tarafından kullanılacak. Önce sadece küçük dükkanlara hizmet verdik. Ve şimdi patronum bana küfür ve bağırıyor, neden hep "iyi çalıştı" olan yazılımın artık bu kadar yavaş olduğunu düşünüyorum.

Anladığımız kadarıyla, bu liste bir müşteri listesiydi ve müşterilerimiz sadece 100 müşteriden hoşlanıyordu; Listeyi doldurma işlemi temelde bir O (1) işlemi idi, çünkü bir milisaniyeden daha az sürdü. Buna eklenecek 10.000 müşteri varken, fazla değil.

Orijinal kötü O (1) kararından yıllar sonra, şirket neredeyse büyük bir müşterisini kaybetti. Hepsi yıllar önce küçük bir tasarım / varsayım hatası nedeniyle.

Bunu yapmak için motivasyon, O (1) 'in her zaman O (lg n)' den, her zaman O (n) 'den daha iyi olduğu yanlış fikrine dayanır. Bir işlemin asimptotik sırası, yalnızca gerçekçi koşullar altında sorunun boyutu gerçekten büyük olduğunda ortaya çıkar.

Bu zamana sahip iki algoritmam varsa:

• log (n) +10000
• n + 1

Sonra kesiştikleri nokta var. Bundan ndaha küçükler için "doğrusal" algoritma daha hızlıdır ve bundan daha nbüyükler için "logaritmik" algoritması daha hızlıdır. Birçok insan logaritmik algoritmanın daha hızlı olduğunu varsaymakla hata yapar, fakat küçük niçin öyle değildir.

N küçük kalırsa her sorun O (1) olur!

Ben spekülasyon burada ne demek eğer olmasıdır nsınırlıdır, o zaman her sorun Ç (1) 'dir. Örneğin, tamsayıları sıralıyorsak, hızlı bağlantı noktasını kullanmayı seçebiliriz. O(n*log(n))Açıkçası. Fakat 2^64=1.8446744e+19tamsayıdan daha fazlası olamayacağına karar verirsek , o zaman şunu biliyoruz ki n*log(n)<= 1.8446744e+19*log(1.8446744e+19)<= 1.1805916e+21. Bu nedenle, algoritma her zaman 1.1805916e+21"zaman birimlerinden" daha az zaman alacaktır . Sabit bir zaman olduğundan, algoritmanın her zaman bu sabit zamanda yapılabileceğini söyleyebiliriz ->O(1) . (Bu zaman birimleri nanosaniye olsa bile, bunun toplam 37411 yıldan fazla olduğunu unutmayın). Ama yine de O(1).

Bu cevapların çoğunun temel bir kavramı eksik olduğundan şüpheleniyorum. O (1): O (n), f (1) ile aynı değildir: f (n), burada f, aynı işlevdir, çünkü O, tek bir işlevi temsil etmez. Schwern'in hoş grafiği bile geçerli değil çünkü tüm çizgiler için aynı Y eksenine sahip. Hepsinin aynı ekseni kullanması için, satırların fn1, fn2 ve fn3 olması gerekirdi; burada her biri performansı doğrudan diğerleriyle karşılaştırılabilecek bir işlevdi.

Birkaç kez duydum, yeterince küçük n değerleri için, O (n) 'nin sanki O (1) gibi düşünülebileceği / tedavi edilebildiğini duydum.

Eğer n = 1 ise bunlar tamamen aynı mıdır? Hayır. Değişken sayıda yinelemeye izin veren bir fonksiyonun, hiçbiri, büyük O gösterimi umrunda olmayan ve biz de yapmamamız gereken hiçbir ortak yanı yoktur.

Big-O notasyonu basitçe yinelemeli bir sürecimiz olduğunda ne olacağını ve performansın (zaman veya kaynaklar) 'n' arttıkça nasıl bozulacağını açıklamak için vardır.

Böylece asıl soruyu cevaplamak için ... Bu iddiada bulunanların Big-O gösterimini doğru anlamadıklarını söyleyeceğim, çünkü mantıksız bir karşılaştırma.

İşte benzer bir soru: Eğer bir karakter dizgisini geçersem ve genel olarak dizelerimin 10 karakterden az olacağını biliyorum, bunun O (1) 'e eşdeğer olduğunu söyleyebilir miyim, fakat dizelerim daha uzunsa O (n) olduğunu söyleyebilir miydi?

Hayır, çünkü 10 karakterlik bir dizge 1 karakterlik bir dizgenin 10 katı, 1000 karakterlik bir dizginin 100 katı daha azdır! O (n).

Alıntı yaptığınız metnin oldukça yanlış olduğuna inanıyorum ("daha iyi" kelimesini kullanmak, bağlamı sağlamadığınız sürece genellikle anlamsızdır: zaman, alan vb.) Yine de, en basit açıklamanın olacağına inanıyorum:

Yürütme zamanı bir girişin büyüklüğüyle büyürse, o zaman kesinlikle değil $O(1)$ ve bu açık olmalıdır. $O(1)$hızlı demek değil . Sadece (zaman karmaşıklığı açısından) yürütme zamanının sabit bir üst sınırı olduğu anlamına gelir .

Şimdi, göreceli olarak küçük bir 10 öğe kümesi alalım ve bunu sıralamak için birkaç algoritmaya sahip olalım (sadece bir örnek). Öğeleri sabit zamanda sıralayabilen bir algoritma da sağlayan bir yapı içinde tuttuğumuzu varsayalım. Diyelim ki sıralama algoritmalarımız aşağıdaki karmaşıklıklara sahip olabilir (big-O notasyonu ile):

1. $O(1)$
2. $O(n)$
3. $O(nlog(n))$
4. $O(n^2)$

Hangi algoritmayı seçerdiniz? Akla gelen ilk cevap "elbette kullanacağım" olabilir$O(1)$bir tane! ", ama bu kesinlikle doğru değil. Böyle düşünürken unuttuğun şey, büyük-O notasyonunun sabit faktörü gizlediğidir . Ve setinin oldukça küçük olduğunu biliyorsanız, o zaman bu sabit faktör çok daha önemli olabilir. asimptotik karmaşıklık.

Şimdi, yukarıda belirtilen sıralama algoritmalarının gerçek karmaşıklıklarını "açıklayalım" (burada "doğru", sabiti gizlememek anlamına gelir), bitirmek için gereken adımların sayılarıyla temsil edilir (ve tüm adımların aynı miktarda sürdüğünü varsayalım):

1. $200$ adımlar
2. $11n$ adımlar
3. $4nlog(n)$ adımlar (taban 2 ile giriş)
4. $1n^2$ adımlar

Eğer girişimiz 10 beden ise, bunlar yukarıda belirtilen her algoritma için tam olarak atılmış adımlardır:

1. $200$ adımlar
2. $11 \times 10 = 110$ adımlar
3. $4 \times 10 \times 3.32 \approx 134$ adımlar
4. $1 \times 100 = 100$ adımlar

Gördüğünüz gibi, bu durumda, asempatik karmaşıklığa sahip görünüşte en kötü algoritma $O(n^2)$ en hızlı olanı, algoritmaları yenen $O(1), O(n)$ ve $O(nlog(n))$asimptotik karmaşıklıklar. Big-O notasyonu tarafından saklanan sabit faktör burada önemlidir. Bence bu tedavi edebileceğimiz anlamına gelmiyor$O(n^2)$ daha iyi $O(1)$ (zaten ne anlama gelirdi?) Bu, yeterince küçük bir giriş için (örnekte gördüğünüz gibi) anlamına gelir. $O(n^2)$ hala daha hızlı olabilir $O(1)$Gizli sabit yüzünden. Eğer sabit, girişin boyutuna göre nispeten büyükse, asimptotik karmaşıklıktan daha önemli olabilir.