Bir iş ortamında istatistiksel analiz için iyi uygulama

(Bunun kesin olarak istatistiklerle ilgili olmadığını fark etsem de, istatistiklerin bir iş ortamında yayılmasıyla ilgili olduğunu, bu yüzden hala CV'nin konu aralığında olduğunu varsaydım)

Kısa bir arka plan:

İş ortamımız (ve diğer ortamlardan şüpheliyim) istatistiksel analiz ve araştırma konusunda uzmanlaşmış bir destek işlevine sahiptir. İş Zekası ile yakından çalışıyoruz ve diğer bölümler tarafından iş parçaları üretmeleri için görevlendiriliyoruz. Gerçekte, veriler, analizler ve sonuçlar bize ait değildir: Komisyon üyesi tarafından çalışmaları için veri toplar, analizler yapar ve sonuçlar çıkarırız.

Yapmak istediğim şey:

Şu anda oldukça laissez-faire yaklaşımını uyguluyoruz. Destek fonksiyonundan bir kişi, iş devreye alındığında, veriler toplanır (veya varsa, İş Zekası tarafından çıkarılır), analiz edilir ve nihai sonuç kümesi komisere gönderilir. Bu, analizi okumak için komisyon üyesinin rolü olmadığına dayanarak gevşekçe gerekçelendirilmiştir; Komiserin incelemek istediği sorular / konular için doğru analizi sağladığımızdan emin olmak, bir destek işlevi olarak görevimizdir.

Yapma yaklaşımında biraz daha yapı çağırmak istiyorum

a) daha yüksek kalite analizimiz;

b) analizimiz kötü kararlara yol açabileceği zaman savunmasızlık sağlamak; ve yap

c) analizimiz daha şeffaf olduğundan verileri alan ve sonuç veren bir 'kara kutu' olarak görülmüyoruz.

İlk düşüncelerim:

1. Alınan yaklaşımı, yapılan varsayımları, bulunan meseleleri, var olan belirsizlikleri vb. Haklı çıkaran her türlü çalışma ile teknik bir belge hazırlayın. komisyon üyesi çıkarılan sonuçları kullanmanın sonuçları. Bu, riskin bir kısmını ait olması gerektiği gibi hissettiği yere aktarır: komiser ile.

2. Tüm analizleri Stata, SPSS veya R gibi bir paketle sınırlayın ve teknik belgenin yanında tam bir kod seti oluşturulmasını gerektirir. Hepimizin bazı analiz türleri için Microsoft Excel kullanma alışkanlığı var (kötü alışkanlık her şeyden çok). Ancak Excel, analizin kolay tekrarlanabilirliğini desteklemez. Bu, analizimiz sorgulandığında destek işlevini savunmaya yardımcı olur, yaklaşımımızda şeffaflık yaratır, ancak (3) rolünü çok daha kolay hale getirir:

3. Komisere gönderilmeden önce işi 'imzalı' olması gereken her iş parçasına bir inceleme görevlisi atayın. Karşı imzayla, analizin bütünlüğünü 2 kişiye dağıtır ve birlikte çalışmaya teşvik eder (2 kafa 1'den iyidir). Bu, analizin kalitesini artırmalı ve aynı zamanda bazı savunulabilirlik sağlamalıdır.

Bu tür bir iş ortamında uygulanabilecek başka iyi uygulama yönleri var mı?

İki kelimeyle tavsiyem ( TL; DR modu ): tekrarlanabilir araştırma .

Daha fazla ayrıntı için - büyük ölçüde kendimi tekrarlamamak - sizi StackExchange'in başka bir yerinde ilgili cevaplarıma yönlendireyim. Bu cevaplar konularla ilgili düşüncelerimi (ve bazı deneyimlerimi) temsil ediyor:

• veri temizleme: /datascience//a/722/2452
• tekrarlanabilir araştırma: /datascience//a/759/2452
• raporlar ve gösterge tabloları: /datascience//a/907/2452
• veri analizi iş akışları ve EDA: /datascience//a/1006/2452
• büyük veri ve R: /datascience//a/780/2452

Son not (açıkçası bulursanız özür dilerim): İş ortamınızın türünden (bu arada belirsizdir) bağımsız olarak, işlerin başından başlayıp bir veri analizi mimarisi oluşturmanızı öneririm ( tüm BT ile ilgili) iş süreçleri, kuruluş birimleri, kültür ve insanlar da dahil olmak üzere iş mimarisiyle uyumlu olmalıdır . Umarım bu yardımcı olur.

GÜNCELLEME: Yeni oluşturarak veya mevcut iyileştirilmesi ile ilgili olarak veri analizi mimarisi (aynı zamanda olarak anılacaktır veri mimarisi içinde, kurumsal mimari terminolojisi), ben bu iki set düşünülmektedir sunum slaytları yanı yararlı olabilir: bu ve bu .

Bankacılıkta modelleme, OCC 2011-12 gibi model risk yönetimi yönergelerine uygun olmalıdır . Bence bankacılıkta olmasanız bile ilginç bir belge.

MathWorks modelleme standartları hakkında bu makaleye sahiptir .

Modelleme, yazılımın şu ya da bu şekilde yazılmasını içerdiğinden , özellikle test ve birim test söz konusu olduğunda, yazılım geliştirme metodolojisinin öğelerini kullanıyorum . Ayrıca SVN gibi yazılım yapılandırma yönetimi araçlarını kullanıyorum . Modelleme ekiplerinin, sorun izleme sistemleri ve CMS gibi karmaşık yazılım projelerini yönetme konusunda programcılardan öğrenebilecekleri çok şey var .

En önemli şeylerden biri metodoloji ve süreç, model geliştirme yaşam döngüsüdür. Modellerin nasıl geliştirileceğine dair kılavuzlar oluşturun ve bunları test edin, standart araçları ve testleri vb. Listeleyin. Örneğin, bir veya iki uyum iyiliği testi seçin ve her yerde kullanın.

Her şeyin şablonlarını oluşturun: komut dosyalarının, beyaz kağıtların, sunumların vb. Modellenmesi. Örneğin, tüm belgeler için LaTeX'te şablonlara sahibim. Açıklayıcı istatistikler gibi standart bölümler ve bunlarda basıklık, ilk ve son gözlem tarihi gibi standart sütunlar var.

Laboratuvar günlüğünü al. Bu, zor bilim insanlarının doktora öğrenmesi gereken bir şeydir: tüm araştırmaların, fikirlerin ve özellikle kararların günlüğünü tutmak. GARCH yerine ARIMA kullanmaya karar verdiğinizde, laboratuvar günlüğüne kaydedin ve kararı neden verdiğinizi açıklayın. Yol boyunca insanlar kararların ardındaki mantığı unutmaya eğilimlidir, bu yüzden onları kaydetmek önemlidir. Ne yazık ki, sosyal bilimler kökenli insanlar laboratuvar günlükleri tutmak alışkanlığı yok, bu bir sorun.

İyi uygulamanın diğer bir yönü, ilk işletmeye alma aşamasında disiplindir. Bu, komisyon üyesi tarafından neyin gerekli olduğunu yazılı olarak kabul etmek (yanlış anlamaları ve müteakip anlaşmazlıkları önlemek için) ve işletmenin kimin işi komisyonlama yetkisine sahip olduğunu açıklamak (işlevin gerçek işletme ihtiyaçlarını ele almasını sağlamak için ilk adım) sadece parlak bir fikri olan herkesi şımartmak).

Devreye almadaki disiplin, yapılacak iş üzerinde mutabakat sağlanmadan önce yapıcı diyalogu da teşvik etmelidir. Bu görevlendirmeler neye ihtiyaç duydukları hakkında belirsiz bir fikre sahip olabilirler, ancak tam olarak formüle etmede zorluk yaşayabilirler veya kesin bir formülasyon sunarlarsa, iş ihtiyaçlarına en uygun şey olmayabilir (örneğin, aşağıdakilerin araştırılmasını isteyebilirler) satışlarda kısa vadeli düşüşün nedenleri, gerçekten ilgilendikleri şey satışları artıran uzun vadeli faktörlerdir). İstatistikçiler ve araştırmacılar, kesin soruları veya çalışma planlarını formüle etmekte iyi olabilirler, ancak iş için neyin yararlı olacağını daha az belirleyebilirler. Akademik araştırmalarda, araştırma soruları arasında ayrım yapan iyi uygulama ile bir paralellik öneriyorum.iyi tanımlanmış araştırma çalışmalarına yol açacak kadar spesifik olan ilgi ve araştırma hipotezleri ve hedeflerinin oldukça geniş konularının belirlenmesi. Bu nedenle, komisyon üyelerini araştırma sorularının eşdeğerini oluştururken, istatistikçileri ve araştırmacıları bu sorularla ilgili daha spesifik çalışma programlarını tanımlamalarına yardımcı olarak düşünmek faydalı olabilir.

Bence sorudaki cevabınızın bir parçası var - "iyi bir yapı" anahtardır.

Ben bir mühendisim ve benzer bir uygulamayı vurgulayan roller üzerinde çalışıyorum - sonuçları analiz etmek ve iyileştirmek için sorunlara tanıtıldınız ancak uygulayıcı rolünden ziyade bir danışma aşamasındasınız.

Gördüğüm en iyi yaklaşımlar, çalışmanın titizlikle yapıldığına dair doğru miktarda kanıt sağlamak için fazla kuralcı ya da gevşek olmayan yaklaşımlardır.

Altı Sigma (çalıştığım bazı yerlerde biraz kirli bir terim) ve diğer metodolojiler bir çözüme yaklaşmak, çözmek ve gömmek için bir çerçeve sağlar. Bir çerçeveye dayandıkları için denetlenebilirler. Anahtar, herkesin metodoloji konusunda eğitilmesini ve denetlenebilir iyi bir şablona sahip olmasını sağlamaktır.

Örneğin, muhtemelen çözümlerin standart olmasını istersiniz - bu, kullanılan program tarafından tanımlanmaz, daha sonra kullanılan analiz adımlarını daha sonraki bir tarihte denetleyip denetleyemeyeceğinizi ve görevin bir standarda tamamlandığından emin olup olamayacağınızı belirtir. Kilometre taşları sağlamak - örneğin denetleyebileceğiniz kontrol noktaları proje sonunda denetlemeye çalışmaktan daha kolay olacaktır.

Altı Sigma'ya dönersek, bazı yaklaşımlar Tanımlama aşamasında, Ölçme ve Analizden sonra ve son olarak sonuçta (İyileştirme ve Kontrolden sonra) denetleme olabilir.

Altı Sigma her durumda kesinlikle en iyisi değildir, ancak potansiyel bir başlangıç ​​noktası olarak önerebilirim.