Test algoritmaları / rutinleri için iyi veri setleri / test problemleri nereden elde edilebilir?

41

Kullanmak üzere olduğunuz bir yazılım parçasının kalitesini (ister yazdığınız, isterse hazır paket olsun) hesaplamalı olarak değerlendirirken, standart veri setleri veya problemler üzerinde ne kadar iyi çalıştığını görmek iyi bir fikirdir. Hesaplama rutinlerini doğrulamak için bu testler nereden edinilebilir?

(Cevap başına bir web sitesi / kitap, lütfen.)

testing data-sets

— JM
kaynak

Bunu bir Topluluk Wiki yayını olarak tasarladım ve bu nedenle dönüşüm için işaretledim.

— JM

3

bu soru çok geniş değil, yani bu yazılımın çözmek için kullandığı sorunun algoritmasına / doğasına bağlı mı?

— Andre Holzner

Gerçekten bu sorunun topluluk wiki , @Andre (kaynakların "büyük bir listesi") olmasını istedim ; Dönüşüm için işaretlemiştim, ancak neden dönüştürülmediğini bilmiyorum.

— JM,

@JM Ben dönüştürdüm.

— David Ketcheson

15

Seyrek matrisler üzerinde bir analiz yapmakla ilgileniyorsanız, Davis'in University of Florida Sparse Matrix Collection ve Matrix Market'i de düşünürdüm .

— Aron Ahmadia
kaynak

1

Ayrıca Matrix Market math.nist.gov/MatrixMarket

— stali

13

Üretilen çözümlerin yöntemi, PDE'leri ve diğer çözücüleri test etmek için bir standarttır. Sembolik cebir sistemlerinin çoğu, kod üretme imkanlarına sahiptir, bu, üretilmiş çözümler oluşturmak için kullanışlıdır. SymPy ve Maple, bu amaç için diğerleri arasında ccode fonksiyonuna sahiptir.

— aterrel
kaynak

10

IVP'ler için bir test seti (ODE çözücülerinin İlk Değer Problemleri) şu anda CWI Amsterdam'dan devralan İtalya'daki Bari Üniversitesi'nden insanlar tarafından yapılmaktadır.

— Jitse Niesen
kaynak

1

IVP'ler için bazı ek test setleri bu cevapta JM'den Math.StackExchange: math.stackexchange.com/a/59398

— David Ketcheson

9

Grafik bölümleme algoritmalarını test etmek için, Walshaw'ın Grafik Bölümleme Arşivi bulunmaktadır .

— Aron Ahmadia
kaynak

8

Hesaplamalı elektromanyetizmada, bir dizi (sorundaki zorluklardan dolayı) ünlü (veya rezil) bir dizi test problemi vardır: Test Elektromanyetik Analiz Yöntemleri (TEAM) .

Bazıları, deneysel verilere göre doğru simülasyon sonuçlarını elde etmek için gerçekten son teknoloji sayısal tekniklere ihtiyaç duyuyor. Örneğin, iletken bobin sorunu .

Maxwell denklemleri için bir başka test problemleri kümesi, Dauge: Yüksek tekil çözümlerin yaklaşımı için Maxwell denklemleri için Benchmark hesaplamaları ile derlenmiştir . Ünlü (veya rezil) Fichera küpünün içindeki:

Fichera

$\phi\in H^{1+\epsilon}$ $\mathbf{E} = -\nabla \phi$

Δ u = 0, where u = r^{α} \sin (α θ) .

$\Delta u= 0,\quad \text{where }\;u = r^{\alpha}\sin(\alpha \theta).$

— Shuhao Cao
kaynak

7

Moleküler yapılarla ilgili kıyaslama algoritmalarıyla ilgileniyorsanız, pubchem veritabanı çoğunlukla organik moleküller içeren geniş bir koleksiyona sahiptir. Bu, farklı modeller / programlar ile elde edilen moleküler özelliklerin tahminlerini karşılaştırmak için faydalı olabilir. Site, önceden tanımlanmış bazı kriterleri (örneğin kimyasal bileşim) karşılayan büyük molekül gruplarını indirmek için çeşitli seçeneklere sahiptir.

— Toon Verstraelen
kaynak

7

Arnold Neumaier , sınırlandırılmamış ve sınırlandırılmamış optimizasyon için (doğrusal olmayan programlama) kararlı bir test problemi sürdürür . Bu koleksiyonda Moré, Garbow ve Hillstrom nedeniyle sınırsız optimizasyon için standart test problemleri yer almaktadır .

— JM
kaynak

7

Şirin web sitesi optimizasyonu ve lineer açarlarını bazı ek sorunları olan Arnold Neumaier web sitesinde belirtilen SEVİMLİ test seti günceller. Ek olarak, doğrusal cebirin ve optimizasyon çözücülerinin test edilmesi ve güncellenmesi için yazılım araçları sunar.

— Geoff Oxberry
kaynak

7

Athena, hiperbolik korunum yasalarını çözüyorsanız test eder.

— Andreas Klöckner
kaynak

6

Bina enerji simülasyon yazılımımızda hava durumu veri setlerini kullanıyoruz. ABD için, veri setleri önceki 20 yıl boyunca her saat başı (genellikle havaalanlarında) alınan hava gözlemlerinden oluşmaktadır.

Veri setleri indirilebilir .
Dosya formatını tanımlamak için el ile .

— Tangurena
kaynak

6

İstatistiksel algoritmaları test etmek için, DJ Hand, F. Daly, K. McConway, D. Lunn ve E. Ostrowski'nin Küçük Veri Kümeleri El Kitabı bulunmaktadır . Bu veri setlerinden bazıları buradan indirilebilir .

— JM
kaynak

4

Çok değişkenli istatistiksel analizleri ve makine öğrenme algoritmalarını test etmek için, http://www.ics.uci.edu/~mlearn/ adresinde UCI veri kümesi deposu vardır.

— Sam Roberts
kaynak

4

Hans Mittelman'ın web sitesi , mevcut yazılım seçeneklerinde sayısal optimizasyonda gezinmek için mükemmel bir kaynaktır. Optimizasyondaki test problemleri için kendi kıyas ölçütlerini ve diğer ölçütlere bağlantılar içerir .

— Aron Ahmadia
kaynak

3

Alan Genz, çok boyutlu entegrasyon rutinlerini test etme makalesinde bir testler fonksiyon paketi önermiştir . Bu makalenin çevrimiçi sürümünü bulamıyorum, ancak CUBA kütüphanesi ile ilgili makalelerde referansları bulabilirsiniz .

— DLS
kaynak

3

Roland Herzog tarafından burada TU-Chemnitz'de tutulan referans PDE kısıtlı optimizasyon problemlerinin bir derlemesi var .

— Andrew T. Barker
kaynak

2

İyi bir yazılım test edilmiş olmalı ve yazarların nasıl test ettiklerini ve test veri setlerini kendileri (örneğin, regresyon testleri şeklinde) sağladığını ve en azından test edildiği verilere bağlantılar sağladığını söylemelidir.

— Wolfgang Bangerth
kaynak

Duymak duymak; bkz Tekrarlanabilirlik ff. ve Tekrarlanabilir araştırma-ve-IPython-defterleri .

— denis

2

Test etmek için büyük grafikler veya ağ verileri arıyorsanız. Stanford Ağ Analizi Projesi (SNAP) tipik olarak bir anonim bitişiklik listesi şeklinde çok büyük grafik veri kümelerini sahiptir. Seçeneklerinden bazıları şunlardır:

Veri

Sosyal ağlar : Facebook, Gplus, Twitter, bitcoin, vb.
Alıntılama ağları : düğümler kağıtları temsil eder, kenarlar alıntıdır.
Web grafikleri : düğümler wedbpages, kenarlar köprülerdir.
Yol ağları : düğümler kavşakları temsil eder, kenarları kavşakları bağlayan yollardır.
İşaretli ağlar : pozitif ve negatif kenar ağırlıkları.
Geçici ağlar : kenarlarda zaman damgası var.
Çok, çok, diğerleri ...

Verilerin Özellikleri

Kenar sayısı: ~ 10 ile ~ 400 milyon arası
Düğüm sayısı: her yerde ~ 10 ila ~ 100 milyon
Kenar tipleri: yönlendirilmiş, yönlendirilmemiş, ağırlıklı, ağırlıksız, işaretli ve işaretsiz.
Ağ tipleri: yönlendirilmiş, yönlendirilmemiş, iki taraflı, çok noktalı, zamansal, etiketli.

Veri setlerinde bulunan gerçek gerçeği istatistikleri:

Düğüm sayısı
Kenar Sayısı
En zayıf zayıf bağlanmış bileşendeki Düğümlerin sayısı
En zayıf bağlanmış bileşendeki Kenar Sayısı
En güçlü şekilde bağlı bileşendeki Düğümlerin sayısı
Güçlü bir şekilde bağlanmış en büyük bileşendeki Kenar Sayısı
Ortalama kümeleme katsayısı
Üçgen sayısı
Kapalı üçgenlerin kesri
Çap (en kısa yol)
90-yüzdelik etkili çap

Araçlar

C ++ için SNAP Aracı : Büyük ağların analizi ve manipülasyonu için yüksek performanslı genel amaçlı bir araçtır.
Python için SNAP Aracı

— ryan
kaynak

@JM sorun değil! Bir süre önce bir sosyal ağ veri kümelerini bir proje için kullandım ve sonra bu yığın değişimine rastladım ve burada yardımcı olabileceğini düşündüm.

— ryan

-3

Veri kolaydır; Almak için API zor olabilir. Quandl'ı tavsiye ederim . Bu site bir, kolay, REST ful API üzerinden erişilebilen 10 milyondan fazla herkese açık veri setine sahiptir. Tüm veriler CSV veya JSON'da döndürülür. Veya, programlama sizin için uygun değilse, verileri Excel'e almanın kolay yolları vardır. R, Python ve Ruby programcıları yerli kütüphaneler ile tam evde olacaklar.

— Brian Risk
kaynak

1

Scicomp'a Hoşgeldiniz! Bunun sorununla ilgili bir veri olduğunu sanmıyorum; Algoritmaları test etmek için sadece bir veri setine değil, aynı zamanda sonuçlarınızı karşılaştırmak için (soruna / algoritmaya bağlı olarak) bilinen bir sonuca da ihtiyacınız vardır.

— Christian Clason

Teşekkürler, @ChristianClason. Ne demek istediğini anlıyorum. Örneğin, yazılım doğrusal regresyon için ise, yazar doğrusal regresyon paketinin doğru çalışıp çalışmadığını test etmek için veri setlerinin yanı sıra bir dizi inceltilmiş analiz sonucuyla ilgilenir.

— Brian Risk