Algoritmik gelişmelerden donanıma hızlanma


14

Bir süre önce, son birkaç on yılda bilgisayar programlarında görülen hızlanmanın çoğunun daha hızlı donanımdan ziyade daha iyi algoritmalardan geldiğini iddia eden bir çalışma veya makale gördüğümü hatırlıyorum. Çalışmayı veya makaleyi bilen var mı?


8
Muhtemelen cs.stackexchange için daha iyi bir uyum.
Yuval Filmus

gerçekten son birkaç yıl wrt moores hukuk, saat hızları ve paralellik içinde büyük bir paradigma kayması vardır ve bu birçok makale / gazetelerde ele alınmıştır ....
vzn

Yanıtlar:


8

bu istemeden karmaşık bir sorudur. yazılım kazanımlarının donanım kazanımlarını geride bıraktığı fikri, gerçek bir govt raporuna dayanıyor, ancak (sorunuzun belirttiği gibi) yanlış anlaşılma veya yanlış yorumlanma nedeniyle muhtemelen küçük kentsel efsane durumuna yaklaşıyor. özet / ses ısırma başlıkları raporda belirtilen gerçek noktaya uymuyor.

bakınız [1] veya [2]

Bağımsız bir bilim ve teknoloji danışmanları grubunun geçtiğimiz Aralık ayında yayınlanan Beyaz Saray'a verdiği bir raporda, yazılım algoritmalarındaki iyileştirmelerden kaynaklanan bilgi işlem görevlerinde performans artışlarının genellikle daha hızlı işlemcilere atfedilebilen kazançların çok ötesinde olduğunu gösterdi.
...
Ancak Beyaz Saray danışma raporunda, karşılaştırmalı bir üretim planlama görevinde 15 yıllık bir süre boyunca kaydedilen ilerlemeyi de içeren araştırmalar belirtildi. Bu süre zarfında, hesaplamaların tamamlanma hızı 43 milyon faktör arttı. Alman bir bilim adamı ve matematikçi olan Martin Grotschel tarafından yapılan araştırmaya göre, toplamın yaklaşık 1000 faktörü daha yüksek işlemci hızlarına atfedilebilirdi. Yine de 43.000'lik bir faktör, yazılım algoritmalarının verimliliğindeki gelişmelere bağlıydı.

ancak yazılım ve donanım meselesi bu tek boyutlu sadeleştirmeden çok daha karmaşıktır ve Lohrs blogu daha doğrudur - yazılım ve donanım bir çeşit yin-yang simbiyotik füzyonu oluşturur ve her ikisi de çok önemli ölçüde ilerlemiştir, hatta şaşırtıcı bir şekilde onlarca yıl.

ihtar / ince baskı: Bazı durumlarda çok önemli olan yazılım algoritmalarında bireysel kazançlar elde edilemez ve tüm algoritmalar arasında genelleştirilir.

rapordaki asıl fiyat 71. sayfadadır:

Daha da dikkat çekici ve hatta daha az anlaşılan, birçok alanda, algoritmalardaki iyileştirmelerden kaynaklanan performans kazanımlarının, artan işlemci hızı nedeniyle dramatik performans kazanımlarını bile büyük ölçüde aştığıdır. Bugün konuşma tanıma, doğal dil çevirisi, satranç oynamak, lojistik planlama için kullandığımız algoritmalar son on yılda önemli ölçüde gelişti. Ancak gelişmeyi ölçmek zordur, çünkü yürütme zamanı kadar kalite alanındadır.

bu nedenle bu hükümet raporu oldukça araştırılmış ve cilalanmış, bazı alanlarda teorik yazılım ilerlemelerinden kaynaklanan büyük kazanımların temel iddiası doğrudur ve kısmen bu temelde (teorik / algoritmik) araştırmayı teşvik etmektedir.

ancak son yıllarda başka birçok yeni / yeni temel / büyük olay / eğilim / değişim ya da Intels Grove'un donanım ve yazılım tasarımında ortaya çıkan “bükülme noktaları” dediği şeyler vardır. diğer adıyla "gamechangers":

  • "Exascale" süper hesaplama, donanım ölçeklendirme kısıtlamaları nedeniyle "Petascale" kadar kolay elde edilemeyebilir
  • Önceki hız kazanımlarının ana tahriki olan saat hızları platolanmıştır (kısmen ısı / soğutma kısıtlamaları nedeniyle)
  • donanım, mobil, veri merkezleri / sanallaştırma / bulut vb. gibi daha az bilgi işlem gerektiren, daha enerji tasarruflu cihazlara doğru büyük bir değişim geçiriyor
  • yazılım ve donanımda paralelliğin iyileştirilmesi (örneğin "çok çekirdekli") performans iyileştirmeleri için daha kritik hale gelmektedir (teorinin algoritmaların nasıl paralelleştirileceği hakkında söyleyecek çok şeyi vardır)

[1] skeptic.se, algoritmalardaki ilerleme donanımdaki ilerlemeyi yendi mi?

[2] Yazılım ilerlemesi Lohr'un Moores yasası NYT blogunu yeniyor

[3] DİJİTAL GELECEK TASARIMI CUMHURBAŞKANI VE KONGRE RAPORU: ŞEBEKE VE BİLGİ TEKNOLOJİSİNDE FEDERAL DESTEKLİ ARAŞTIRMA VE GELİŞİM Aralık 2010


Zeyilname. Muhtemelen onlarca yıl boyunca uygulamaların verimliliğinde hiç ilerlememiş önemli algoritmaların bazı iyi (karşı) örnekleri vardır. fikir? bir aday alan, paralelleştirilemeyen matris algoritmaları veya doğal olarak paralelleştirilemez gibi görünen diğer algoritmalar olabilir ... ayrıca, bazı algoritmalar alt sınır karmaşıklığında teorik iyileştirmeler geçirmiştir, ancak algoritmalar aslında uygulanmaz veya tipik olarak uygulanabilir değildir. boyutlu girişler vs ... örneğin matris çarpımı?
vzn

1
Bu harika bir cevap - ayrıntılar, nüans ve bilgili tartışmalarla dolu!
Joshua Grochow
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.