C ++ vs HPC için Fortran

Hesaplamalı bilim doktora programımda neredeyse sadece C ++ ve Fortran'da çalışıyoruz. Bazı profesörler birbirlerini tercih ediyor gibi görünüyor. Hangisinin 'daha iyi' olduğunu ya da belirli bir durumda birinin diğerinden daha iyi olup olmadığını merak ediyorum.

Sık sık, seçim (1) çözmeye çalıştığınız soruna, (2) sahip olduğunuz becerilere ve (3) birlikte çalıştığınız insanlara (yalnız bir proje değilse) bağlıdır. Anı bırakacağım (3) çünkü herkesin bireysel durumuna bağlı.

Problem bağımlılığı: Fortran dizi işlemede öne çıkıyor. Eğer probleminiz basit veri yapıları ve özellikle dizilerle açıklanabilirse, Fortran iyi adapte edilmiştir. Fortran programcıları, açık olmayan durumlarda bile (örneğin grafikleri göstermek için) dizileri kullanır. C ++, karmaşık ve oldukça dinamik veri yapıları için daha uygundur.

Beceri bağımlılığı: İyi C ++ programları yazmak, iyi Fortran programları yazmaktan çok daha fazla programlama deneyimi gerektirir. Küçük bir programlama deneyimi ile başlarsanız ve işinizin bu yönünü öğrenmek için sadece çok zamanınız varsa, Fortran öğrenim yatırımını C ++ öğrenmekten daha iyi bir şekilde alırsınız. Elbette, probleminizin Fortran için uygun olduğunu varsayarak.

Ancak, programlamada Fortran ve C ++ 'dan daha fazlası var. Herkesin hesaplamalı bilime girmesini Python gibi dinamik bir üst düzey dille başlamanızı öneririm. Unutma, zamanının CPU zamanından daha değerli olduğunu unutma!

Hem C ++ hem de Fortran'ın yeterince iyi olduğunu ve iyi çalıştığını düşünüyorum.

Ancak, Fortran'ın sayısal bilimsel hesaplama için, diziler kullanılarak ifade edilebilecek ve diğer karmaşık veri yapılarına ihtiyaç duymayan algoritmalar için daha iyi olduğunu düşünüyorum , bu nedenle sonlu farklar / elemanlar, PDE çözücüler, elektronik yapı hesaplamaları gibi alanlarda. Fortran, alana özel bir dildir. Özellikle Fortran’da hızlı programlar yazmanın C ++ 'dan ziyade bir bilim insanı (bilgisayar uzmanı olması gerekmez) tarafından daha kolay olduğunu düşünüyorum .

C ++ genel amaçlı bir dildir, bu nedenle herhangi bir algoritmayı ifade edebilir ve HPC alanından muhtemelen bazı grafiklerden, mesh üreteçlerinden, sembolik manipülasyondan, diziler kullanılarak ifade edilemeyen algoritmalar için kesinlikle daha iyidir.

Ayrıca C ++ 'ta dizi algoritmaları yazmak da mümkündür, fakat benim deneyimlerime göre, çok daha fazla bilgisayar bilimi bilgisi ve genel olarak daha fazla çalışma gerektirir (örneğin, bir dizi manipülasyonu için sınıfları oluşturmak veya yeniden kullanmak ve bellek yönetimini elle ya da bazı (Trilinos'tan Teuchos gibi). Uzman olmayanlar oldukça iyi Fortran programları yazma eğilimindedir, ancak korkunç C ++ programları (kendi tecrübelerime dayanarak konuşurken).

Yasal Uyarı: Ben kişisel olarak Fortran'ı çok seviyorum ve sayısal hesaplama için C ++ 'ı tercih ediyorum. Günlük C ++ 'da 2 yıldan fazla programlama, modern Fortran'da (sonlu elemanlar alanında) neredeyse bir yıllık programlama yaptım. Python ve Cython'u da çok kullanıyorum.

Aynı zamanda iki kuruşumu da biraz geç atıyorum, ama sadece bu konuyu gördüm sadece, gelecek için umutsuzca yapılması gereken birkaç nokta olduğunu hissediyorum.

Aşağıda C ++ hakkında konuşmayacağımı ve C ++ hakkında konuşmayacağımı not edin. Neden? Aksi halde, tam teşekküllü ve dinamik olarak yazılmış nesne yönelimli bir dili Fortran kadar statik bir şeyle karşılaştırmak için elmalar ve portakallar var. Evet, en son Fortran standartlarının bazı modern uygulamaları bundan daha fazlasını yapabilir, ancak çok az insan aslında bunları kullanıyor ve bu yüzden Fortran'dan bahsederken basit, statik ve zorunlu bir dil düşünüyoruz. Orası C de, bu yüzden C'yi C ++ ile değiştireceğim.

Her şeyden önce, daha iyi derleyicilere sahip olan Fortran / C tartışmaları tartışmalıdır. Atanmış C / Fortran derleyicileri artık geçmişte kaldı. Hem gcc / gfortran hem de icc / ifc, aynı arka uca sadece farklı ön uçlar, yani programınız ön uç tarafından soyut bir tanımlamaya dönüştürülecek ve ardından arka uç tarafından optimize edilip birleştirilecektir. Anlamsal olarak, Fortran veya C de aynı kodu yazarsanız, derleyici her iki durumda da aynı hızda çalışacak olan aynı montajı üretecektir.

Bu şimdi ikinci noktama yol açıyor: neden hala farklılıklar görüyoruz? Sorun, çoğu kıyaslamanın Fortran programcıları tarafından C ya da tersi bir şey deneyen bir şekilde yapılmasıdır. Çoğu yazarın veya şairin ana dilinde nasıl yazmayı tercih ettiğini hiç farkettiniz mi? Kendinizi tamamen güvende hissetmediğiniz bir dilde veya evde şiir yazmak ister misiniz? Tabii ki hayır ... Kendimi C'nin "yerel" programlama dilim olduğunu düşünüyorum. Bununla birlikte, üç yılını sadece belirli bir akıcılık seviyesine ulaştığım Fortran kullanan bir grupta çalışarak da geçirdim. Ben, ancak, sonuç olarak ortaya çıkan kod olacak, C daha rahatım beri Fortran başıma bir şey yazmak ve asla daha iyi sen olarak belirlemeyi neyse.

Bu yüzden temel fark, programlayıcıda değil dildedir. Yani hiçbir fark yok mu? Pek iyi değil. İşte birkaç örnek:

• SIMD: İster SSE, SSE3 veya AltiVec, ister Fortran'da kullanmak istiyorsanız, derleyicinin tam olarak ne istediğinizi tahmin etmesi ve bunu yapması için dua etmesini umarsınız ve dua edersiniz. İyi şanslar. C'de genellikle her bir mimari için kendine özgü fonksiyonlar veya daha yakın zamanda, gcc cinsinden genel SIMD vektör tipleri bulunur . Fortran derleyicilerinin çoğu, döngüleri açmak için yalnızca SIMD komutlarını kullanır, ancak kısa veri vektörleri üzerinde açık olmayan bir şekilde çalışan bir çekirdeğiniz varsa, derleyici bunu muhtemelen görmez.

• Farklı donanım mimarileri: Tüm CUDA mimarisi, C'deki çekirdeklerin etrafına inşa edilmiştir. Evet, Portland Grubu artık CUDA özellikli bir fortran derleyicisine de sahip, ancak ticari ve en önemlisi, NVIDIA'dan değil. Aynı şey, bulabildiğim en iyi şeyin yalnızca birkaç temel çağrıyı destekleyen yeni bir proje olduğu OpenCL için de geçerli .

• Paralel programlama: Evet, hem MPI hem de OpenMP hem C hem de Fortran ile gayet iyi çalışır. Bununla birlikte, iş parçacığınızın gerçek kontrolünü istiyorsanız, yani tamamen dinamik bir paylaşılan hafıza hesabınız varsa, Fortran ile soğukta dışarıda olacaksınız. C de, sıcak ve bulanık olmasa da sizi fırtınaya sokacak standart pthreads'a sahipsiniz. Genel olarak, işletim sistemine erişime dayanan çoğu hesaplama, örneğin iş parçacığı, süreçler, dosya sistemi vb. C ile daha iyi servis edilir ve Oh, Fortran ile kendi ağınızı kurmaya çalışmayın.

• Kullanım kolaylığı: Fortran, Matlab'a C'den daha yakındır. Tüm farklı anahtar kelimeleri ve değişkenleri nasıl açıklayacağınızı öğrendikten sonra, kodun geri kalanı Matlab gibi görünür ve sınırlı programlama deneyimi olan kullanıcılar için daha erişilebilir hale gelir.

• Birlikte çalışabilirlik: C'de bir yapı oluşturduğunuzda, gerçek verilerin yerleşimi doğrudan ve belirleyicidir. Fortran'da, işaretçi dizileri veya yapılandırılmış veriler kullanırsanız, verinin gerçek düzeni derleyiciye bağlıdır, doğrudan ileri sarılmaz ve genellikle tamamen belgelenmemiş durumdadır. C'yi Fortran'dan veya tam tersi olarak çağırabilirsiniz, ancak statik bir diziden başka bir şeyi birinden diğerine ve geriye geçirmenin daha kolay olduğunu düşünmeyin.

Bunların hepsi biraz garip, düşük seviyeli şeyler, ama bu konuştuğumuz Yüksek Performanslı Bilgi İşlem. Temel donanım paradigmalarından en iyi şekilde nasıl yararlanacağınızla ilgilenmiyorsanız, yani paylaşılan / dağıtılmış hafıza, iş parçacıkları, SIMD vektörleştirmesi, SIMT kullanan GPU'lar ve benzerleri için en iyi algoritmaları uygulamak ve / veya geliştirmek, sadece bilgisayarda matematik yapıyorum.

Bu benim girdiğim her şeyden çok daha uzun bir süre önce ortaya çıktı, bu yüzden işte bir özet - bir tür ev mesajı al:

• En iyi kod yazacak sen dilde can sen daha iyi bilirsin.
• Aynı arka ucu kullanan iki derleyici tarafından üretilen kodun kalitesinde fark yoktur - bir kodu veya başka bir dilde kötü kod yazan biziz .
• Daha düşük seviye hissetmesine rağmen, Fortran oldukça üst seviye bir soyutlamadır ve doğrudan SIMD, iş parçacıkları, ağ, vb. Gibi donanım / işletim sistemi özelliklerine doğrudan erişmenize izin vermez.

Bilimsel yazılım hakkındaki 15 yıllık düşüncelerime göre: Eğer kodunuz Fortran'a yazdığınız için% 25 daha hızlı çalışıyorsa, ancak yazmanız 4 kat daha uzun sürer (STL yok, karmaşık veri yapılarını uygulamada zorluk çeker), sonra Fortran, sonra Ancak, gününüzün önemli bir bölümünü küçük parmakları kırarak ve hesaplarınızın bitmesini beklerken harcarsanız kazanırsınız. Neredeyse hepimiz için en değerli şeyin kendi zamanımız olduğuna bakılırsa, sonuç şudur: Kodunuzu en hızlı şekilde geliştirmenize, hata ayıklamanıza ve test etmenize izin veren dili kullanın; Fortran'da yazdın.

Benim yaklaşımım, C ++ 'ı her şey için, genellikle en iyi şekilde derleme yazılan hesaplama çekirdeği; Bu, geleneksel HPC yaklaşımının tüm performansını size kazandırır ancak örneğin SGEMM / DGEMM / CGEMM / ZGEMM gibi hesaplama çekirdeklerini tek bir rutine aşırı yükleyerek arabirimi basitleştirmenize olanak tanır, Gemm. Açıkça görülüyor ki, ham işaretçilerden kaçınarak ve opak sınıflara geçiş yapılarak soyutlama seviyesi çok daha yükseğe çıkarılabilir, ancak bu güzel bir ilk adımdır.

C ++ 'ın en büyük dezavantajını ezici bir şekilde derleme süresindeki artış olarak buluyorum, ancak deneyimlerime göre, geliştirme süresindeki tasarruf bunu telafi etmekten daha fazla. Diğer bir dezavantajı, satıcı C ++ derleyicilerinin, satıcı C ve Fortran derleyicilerinden daha fazla hataya sahip olma eğiliminde olmasıdır. Geçen yıl, C ++ derleyicilerinde neredeyse on hatayla karşılaştığımı düşünüyorum.

Bunların hepsiyle birlikte, düşük seviyeli dillerde (ve Fortran) yazılmış bilimsel paketlerin geri alınmasının, karmaşık veri yapıları için uygun arayüzleri ortaya çıkarmakta isteksiz olduğunu düşünüyorum: çoğu insan, Fortran BLAS arayüzünden memnun, sadece ihtiyaç duyduğu gibi matrisleri tanımlamak için işaretçiler ve öncü boyutlar, ancak çok az kişi, her zamanki 40 tamsayılı Fortran seyrek doğrudan çözücünün arabiriminin uygun olan herhangi bir şey olduğunu iddia eder (bkz. UHM, SuperLU, PETSc ve Trilinos).

Özet olarak, düşük seviyeli hesaplama çekirdeği için derleme, ancak özellikle önemsiz olmayan veri yapılarında çalışırken her şey için daha yüksek seviye dilleri kullanmayı savunuyorum.

$y := \alpha x + y$

Burada yeni olduğum için eski sorulara bakıyordum ve bunu buldum. Umarım eskilere cevap vermek tabu değildir!

Kimsenin bundan bahsetmediğinden, yapacağımı düşündüm. Fortran 2003 neredeyse en büyük derleyicilerden (intel, ibm, cray, NAG, PCG) neredeyse tamamen destekleniyor (en yakın zamanda) en yeni sürüm 4.7. Fortran 2003 (ve 2008), C ++ 'dan biraz daha ayrıntılı olsa da, nesne yönelimli bir dildir. Fortran hakkında güzel olduğunu düşündüğüm şeylerden biri, standart komitenin bilimsel bilgisayarını birincil izleyici kitlesi olarak görmesidir (bunu geçen gün bana işaret ettiği için Damian Rouson'a teşekkür ederim).

Bunların hepsini C ++ programcılarının Fortran programcıları olması için değil, Fortran halkının Fortran 90 / 95'te nesneye yönelik kavramları taklit etmenin veya C ++ 'a geçmenin yanı sıra daha fazla seçeneğe sahip olduklarını bilmelerini sağladım.

Ekleyeceğim bir uyarı, derleyicilerde uygulananların kanama kenarında olmanın bir maliyeti olduğu. Eğer şu an Fortran 2003'te büyük bir proje üstlenirseniz, hatalar arasında rastlayacaksınız ve derleyicinizi sürekli güncellemeniz gerekecek (özellikle de gcc kullanıyorsanız), bu durum son birkaç ay içinde önemli ölçüde iyileşmiş olsa da!

C ++ ile ilgili sorun, örneğin, STL'yi, istisnaları, sınıfları (sanal genel gider artı hizalama sorunları), operatör aşırı yüklemesini (yedekli yeni / silmeleri) veya şablonları (hiç bitmeyen derleme ve kriptik hataları) kullanarak, performansı kısma şansınız olabilir. iyi huylu görünüyorsun, ama saatlerini bu şekilde harcayabilirsin).

Bununla birlikte, daha çok genel kütüphanelere daha iyi erişir ve kodunuzun görünürlüğünü arttırırsınız (bu, alana şiddetle bağlıdır ve yine de saf C'ye sahipsiniz). Ayrıca, kodunu R, Lush, Matlab / Scilab veya hatta Python, Ruby veya Lua gibi bir betik dilinde silerek Fortran'ın esneklik eksikliğini telafi edebilirsiniz.

Üç gerçek:

• F77-tarzı n-boyutlu diziler C: CnD'yi kullanırken sorun değil (utanmaz bir fiş)

• F90'ın modül sistemi kötü tasarlanmış ve ortamlar oluşturmak için düşmanca. (Bir modülün adı, dosya adıyla eşleşmek zorunda değildir, örn.)

• Fortran refactoring'i iyi desteklemiyor. İşlevselliğin bir bitini işlevden çıkarmak, dört yere dokunmanızı gerektirir: Gerçek kod, değişken bildirimleri, bağımsız değişken bildirimleri ve bağımsız değişken listesi. C dokunulacak iki yerden geçiyor. Bu, verileri iyi yönetememenin etkisini artırır (aşağıda açıklanmaktadır): Küçük ölçekli modülerlik çok acı verici olduğu için hemen hemen herkes devasa alt programlar yazıyor.

Bir kişisel izlenim:

• Fortran veri yönetimi için iyi çalışmıyor. İşaretçiyi F77 veya F90'daki kullanıcı opak veri yapısına döndürmeyi deneyin. ( transfer(), işte geliyoruz)

Fortran dizi / matris hesaplamaları için optimize edilmiştir ve herhangi bir tür metin ayrıştırma için çalışmak için tam bir acıdır. C ve C ++, sayısal hesaplamada Fortran ile eşleşmeyebilir (yakındır), ancak metin işlemeyi ve verileri (örn. Özel veri yapıları) C / C ++ ile düzenlemeyi çok daha kolay buluyorum.

Diğerlerinin de belirttiği gibi, dinamik yorumlanmış dilleri saymayın (Python et al). Fortan'ın yüz erime hızını öne çıkaramayabilirler, ancak hesaplama probleminizi uygulama detaylarından daha fazla çözmeye odaklanmanıza izin verir. Genellikle Python'da bir çözüm uygulayabilirsiniz ve performans kabul edilemezse, bazı profiller oluşturabilir, sorunlu alanları tanımlayabilir ve bu kodu Cython kullanarak optimize edebilir veya tüm programı derlenmiş bir dilde yeniden uygulayabilirsiniz. Problem çözme mantığını bir kez çözdüğünüzde, geri kalan sadece uygulamadır ve hesaplama temellerini iyi bir şekilde anlayarak, herhangi bir programlama dilini temsil etmek için basit olmalıdır.

Şu anda ulusal laboratuarlardan birinde çalışıyorum. Etrafımdaki insanların çoğu makine mühendisi. HPC gruplarındaki bazı kişilerle sohbet ederken, çoğunlukla Linux ve çoğunlukla C ++ yapıyorlar. Şu anda bulunduğum grup çoğunlukla masaüstü uygulamalarını kullanıyor ve biz Windows kullanıyoruz ve azalan sırayla kullanıyoruz: C #, FORTRAN, Python, VBA ve VB (6, .NET değil). Kullandığımız simülasyon motorlarından bazıları FORTRAN'daki diğer ulusal laboratuarlarda yazılmıştır.

Eski bir iş parçacığını kaztığım için üzgünüm ama görünen o ki 2015 yılında bile Fortran çok kullanılıyor.

Sadece rastladım bu (alternatif bağlantı temelde ben kullanılan ana dilini bulmaya çalıştılar 2018 yılında araştırmacılara sunulacaktır 300 petaflop Zirve makinede çalıştırmak için DOE OCLF tesisi tarafından onaylanan 13 kodlarının bir listesi) listesinde kod için (hızlı bir google aramasına göre) ve işte bulduklarım:

XGC Fortran

SPECFEM Fortran

ACME Fortran (Bunch of climate codes)

DIRAC Fortran (Mostly)

FLASH Fortran

GTC Fortran

HACC C/C++

LS-DALTON Fortran (some C)

NAMD C/C++

NUCCOR Fortran

NWCHEM Fortran

QMCPACK C++

RAPTOR Fortran

Bu yüzden 13 koddan en az 10 tanesi (hızlı aramama dayanarak) Fortran'da yazılmış gibi görünüyor. 50 yıllık bir dil için fena değil.

NOT: Dil karşılaştırmalarının faydasız olduğunun farkındayım, ancak kötü ağızlı Fortran'a söylenen kişi sayısına bakıldığında (özellikle C ++ kullanıcıları), bunu söylemenin faydalı olacağını düşündüm.

Jack P.'nin söylemeye çalıştığı şey, karıştırıp eşleştirmeniz gerektiğidir. İyi bir yazılım parçası dikkatlice katmanlanmıştır. Farklı katmanlar, farklı dillerle daha doğal veya verimli bir şekilde eşlenebilir. Her katman için en uygun dili seçmelisiniz. Dillerin nasıl bir arada çalışabileceğini de anlamalısınız; bu, hangi katman için hangi dili seçtiğinizi etkileyebilir.

Daha iyi bir soru, mükemmel tasarlanmış yazılımların hangi örneklerin bulunduğu, katmanlı yazılımı nasıl tasarlayacağınızı öğrenmek için çalışmaya değer.