Bir müşteri pornografi için iş makinelerini taramamızı istiyor. Mümkün mü?

Uzun zamandır hizmet veren bir müşteri, iş makinelerini pornografi taramasında kullanmamızı istedi. Hassas materyaller bulunursa sorumluluk konusunda endişe duyuyorlar. Başlıca kaygıları (açık nedenlerden dolayı) video, ses ve görüntü dosyalarıdır. Mümkünse, uygunsuz içerik için metin tabanlı belgeleri de taramak isterler. Açıkça hakaret içeren bariz bir şekilde yasadışı (ayrıntıları listelemek zorunda değilim) başlayarak, açıkça saldırgan olmaya doğru giden ve aynı zamanda bazı iç çamaşırı reklamları, şaka kartları içeren rahatsız edici şeyler de dahil olmak üzere işe yaramayacak içerik hiyerarşisine sahiptirler. popo çatlakları ve Howie Mandel ile ilgili herhangi bir şey.

Benim sorularım:

• Bu etik mi? Bence her çalışan yasal olarak iş makinelerinin şirkete ait olduğunu ve araştırmaya tabi olduğunu kabul ettiği için. Gösterimler işe getirilen kişisel makinelerde yapılmaz.
• Uygulanabilir mi? Çok fazla görüntü işleme / indeksleme yaptım ama bu yepyeni bir karmaşıklık dünyası gibi görünüyor.
• Pornoyu keşfetmek için başarılı tekniklere referans var mı?
• Bir şey keşfedildiğinde sonuçları arşivlemem uygun olur mu?

Bunu% 90 Headology ,% 10 yazılımla yapabilirsiniz.

İlk olarak, çalışanların bilgisayarlarını sessizce tarayın, her çalışan için bir dosya ve boyut veritabanı oluşturun.

Ardından, tüm PC'lerin sorgulanabilir içerik için taranacağı bir notu sızdırın. Örneğin, patronların pornoları tanımlayabilen Shazam benzeri bir programı var.

Sonra birkaç gün sonra, bilgisayarları tekrar dosya ve boyutlara göre tarayın. Silinen dosyalara bakın, bunlar film veya resim dosyaları mı? O zaman bunlar gözetmen gereken çalışanlar.

Bu çalışanların bilgisayarlarını görüntü ve filmler için düzenli olarak tarayın ve şüpheli içerik olup olmadığını elle kontrol edin.

Bu açık bir sinir ağı görevidir. Öncelikle, şirketinizdeki uzmanlar tarafından seçilen geniş bir eğitim seti imajına ihtiyacınız var.

Daha etkili bir çözüm, herhangi bir makinede SONRAKİ hafta / ay / ne olursa olsun makineyi kontrol edeceğinizi duyurmak, sonra da sadece diski kullanan basit bir uygulama yazmaktır. Makinelerin o zamana kadar temizleneceğini garanti ediyorum.

ps - 'ciddi' Birkaç nokta - aslında yok bir şey bulmak istiyorum.

Bir tarayıcı önbelleğinde birkaç resim bulursanız, belki de kötü bir bağlantıya veya tehlikeli bir pop-up'a çarptılar - whitehouse.com'a ateş eden öğretmenin hatırladın mı? Bunun için onları kovarsanız / disiplin altına alırsanız, işçilerden / sendikadan tepkiler olacaktır. Çalışanlarınız bir soruyu araştırmadan veya çevrimiçi bir fiyatı kontrol etmeden önce, her tıklamanın onay için yasal olarak sunulması durumunda şirketiniz nasıl çalışır?

Bir makinede porno yığını bulursanız, o çalışanın oraya koyduğunu nasıl kanıtlayacaksınız? Mahkemede ayağa kalkacak bir tür güvenlik ve denetim sisteminiz var mı? Bir sistem yöneticisinin oraya koyamayacağı ve kullanıcının dosyaları gibi görünmesini sağlayamadığı bir işletim sistemi kullanıyor musunuz (hatta biliyorsunuz)?

Ayrıca tecrübelerime göre porno depoları için en yaygın yerler CxO'ların ve kıdemli VP'lerin dizüstü bilgisayarlarındadır.

Sadece dosyaların vaktinden önce kaybolmasını sağlamak çok daha iyidir.

Bu kontrol yaklaşımı hem çalışanlar hem de BT çalışanları için kesinlikle acı verici. Çalışan makineye bir şey girdiğinde, onu tespit etmenin kesin bir yolu yoktur. İlk başta makineye girmesini durdurmanız gerekir.
Bunun için en iyi bilinen uygulama açıkça ziyaret edilebilecek siteler / etki alanı üzerinde kontrol. Bu liste ağda bir yerde mevcut olmalıdır. Bunun dışında çalışanın indirdiği görüntü sayısını, videoları ve nereden geldiğini de izleyebilirsiniz.
Dış sabit sürücüdeki gibi malzemenin ağdan başka birinden gelme olasılığı vardır. Ayda bir kez rasgele tarama yaparak video ve görüntülerin bazılarını rastgele seçip manuel olarak kontrol edebilirsiniz. Nasıl yapılabilir emin değilim. Ancak görüntülerin ve videoların kontrol edilmesinin otomatikleştirilmesi kesinlikle kapsam dışıdır ve kesinlikle hatalı olacaktır.
Aslında çalışanların kişisel eşyalarını yapmalarını kısıtlama fikrinden pek bahsetmiyorum. Bunun için çalışanlarınıza güvenmelisiniz. Çalışanlarınız ofiste yeterince meşgul olmalıdır, böylece bunun için zaman bulamazlar. Daha fazla endişe, çalışanın işini doğru yapmaması mı? Veya bazı çatlak veya saldırıya uğramış bir yazılım yükledi mi?

Piyasada, çeşitli biçimlerde "içerik filtrelemesi" gerçekleştiren birkaç ürün vardır. (Bazı belirgin terimlerdeki bir Google araması, bazı belirgin adayları atar.) Bu ürünlerden birini kullanmak, sıfırdan çok fazla tarama / filtreleme yazılımı oluşturmaktan daha iyi bir fikir olabilir. Diğer bir seçenek ise sadece sınırları izlemek; örneğin harici e-postaları ve web trafiğini izleyerek. Yine böyle şeyler yapan ürünler var.

Bir şirketin bilgisayarlarını "kötü şeyler" için taramasının etik olduğu konusunda hiçbir şüphe olmasa da, bu bir sorun olmadığı anlamına gelmez.

İlk konu:

• Neyin “neyin sakıncalı içerik” olmadığını ve neyin olmadığını belirlemek özneldir.
• Görüntüleri tespit etmek için kullanılan yazılım, “çıplak vücudun tasvirlerini” içeren videoların (AFAIK) güvenilmez olması muhtemeldir, bu da yanlış pozitifler ve yanlış negatiflerle sonuçlanır.

Yani ... bu, müşterinizin kuruluşundaki birisinin "isabetleri" incelemesi gerektiği anlamına gelir. Bu paraya mal olur.

İkinci sayı: Masum bir açıklama olabilir. Dosya kazayla indirilmiş olabilir veya haklı bir iş arkadaşı tarafından yerleştirilmiş olabilir. Masum bir açıklama varsa, müşterinin organizasyonunun ne yaptıklarını / söylediklerini dikkat etmesi gerekir. (Tamam, bu gerçekten senin sorunun değil , ama geri yıkamadan bazılarını koparabilirsin.)

Üçüncü sayı: Şirketin sakıncalı materyalleri izleme hakkına sahip olmamasına rağmen, birçok çalışan bu dengesizliği bulacak. Ve eğer fazla uzaklarsa, bu çalışanların moralini etkileyecektir. Bazı çalışanlar "yürüyecek". Diğerleri protesto eylemi yapabilir ... örneğin birçok yanlış pozitif oluşturmaya çalışarak. (Yine, senin sorunun değil , ama ...)

Dördüncü sayı: İnsanlar sakıncalı materyalleri şifreleyerek, taşınabilir veya çıkarılabilir medyaya vb. Koyarak gizleyebilirler. İnsanlar başkalarının sorumlu gibi görünmesini sağlamak için meta verileri taklit edebilir.

Yasal yönler hakkında, Fransa'da:

Patron bilgisayarlara ve internet bağlantısına sahip: Kendisini ne isterse yapabilir.

AMA, çalışanların mahremiyeti ihlal edilemez. Bilgisayardaki bir dizinin KİŞİSEL olarak etiketlenmesi durumunda, patronun taramasına izin verilmez.

Bunu atlamanın tek yolu, çalışanın yasa dışı materyal depoladığı kanıt unsurlarını almak ve mahkemeye başvurmak için bilgisayar taraması yapılmasını talep etmektir (Fransa’da pornografinin yasadışı olmadığını unutmayın.)

Çalışanlar iş makinelerinin şirkete ait olduğunu ve araştırmaya tabi olduğunu kabul ettiyse, evet, bu yasaldır. Kanıt için, dosyaların arşivlenmesi büyük olasılıkla gerekli olacaktır.

Malzemeyi nasıl bulacağınıza gelince. Yapabilirdin:

1. Birincisi ve en önemlisi, belirli bir sözcük grubunun (porno, lezbiyenler, vb.) Dosya adlarını tarayın.
2. Aynı sözcük kümesi için metin belgelerini tara
3. Görüntüler için, görüntünün ortalama rengini bulabilir ve bu renk en çok 'ten rengi' olarak adlandırılacak bir aralıkta olursa, görüntüyü işaretleyin (bu işaretli görüntüleri en çok kontrol eden bir kişi büyük olasılıkla gerekli olacaktır) ). Plajdan bir aile fotoğrafı olarak biten bir görüntü için birini rapor etmek istemem.

Dosyaları, bilgisayara girerken tararsanız (örneğin, program her iş makinesine yüklenmiş ve bayraklı vakaları merkezi bir veritabanına kaydeder), o zaman çok rahatsız edici olacağını düşünmüyorum (bariz olarak işveren açıkça çalışanları için vardır).

Video dosyaları ile% 100 emin değilim. Muhtemelen görüntü taramasına benzer bir yaklaşım (rastgele kareler seçin ve belirli bir 'ten rengi için tarama yapın).

Ses dosyalarının taranması, solucanların toplamı olan konuşma tanıma sürecine girecek gibi görünüyor. Bununla birlikte, dosya adının taranması kolay olur ve belgeler, görüntüler ve videoda olduğu gibi yapılabilir.

@Ryan'ın dediği gibi, görüntü analizi renk analizine odaklanabilir.

Fizibilite? Kızkardeşim, her yıl bir çeşit denetime maruz kaldıkları ve bir kez porno için olduğu bir yerde çalışıyor. O (jeofizikçi) birkaç yanlış pozitif (pembe kayalar) vardı.

Geleneksel sınıflandırma yöntemlerini kullanarak pornografinin tespitine ilişkin önemli ve yeni araştırmalar vardır. Örnekler burada ve burada bulunabilir .

• Bu etik mi?

Çalışanların uygulanması ve makul beklentilerine bağlıdır. Örneğin, yazılımınız ağa bağlı herhangi bir makineyi tararsa , o zaman yetkisiz makinelerin takılmasını engellemek için infra ihtiyacı olan ek bir gereklilik vardır.

• Uygulanabilir mi? Çok fazla görüntü işleme / indeksleme yaptım ama bu yepyeni bir karmaşıklık dünyası gibi görünüyor.

Her çalışanın uyuşturucu testi yapması mümkün mü? Belki öyle, ama buna değer veriyorum. Ben rastgele yapardım. Çalışanlara, makinelerinden herhangi bir zamanda uygunsuz içerik taraması yapılabileceğini bildirin.

• Pornoyu keşfetmek için başarılı tekniklere referans var mı?

Buna dokunmuyorum. Mizah anlayışımı kontrol altında tutabileceğimi sanmıyorum. Ancak metin ararken Scunthorpe Problemine dikkat edin .

• Bir şey keşfedildiğinde sonuçları arşivlemem uygun olur mu?

Bu beni en çok endişelendiriyor ve bir avukata sorardım. Yasadışı içerik bulursanız teknik olarak yasal olarak ifşa etmeniz gerekebileceğinden şüpheleniyorum. Bu, özellikle kullanıcı, kendi başına gerçek bir hataya maruz kalmadıysa, kötüdür. Müşteriniz bununla nasıl başa çıkılacağına dair gerçek yasal tavsiyeye ihtiyacınız olacak. İnsan Kaynakları ve ilgili avukatlar alın.

Tamamen teknik bir bakış açısından: Bu bir nesne kategorisi tanıma sorunu gibi geliyor. Daha önce hiç böyle bir şey yapmadım, fakat okuduğum kadarıyla en gelişmiş kategori tanıma sistemleri şu şekilde çalışıyor:

• Öncelikle çok sayıda ilgi çekici nokta ararsınız (örneğin bir Harris Corner Detector kullanarak, ölçek uzayındaki aşırı LoG / DoG filtreleri;
• Sonra her noktaya bir özellik dönüşümü uygularsınız (SIFT, SURF, GLOH veya diğerleri gibi)
• Bulduğunuz tüm özellikleri histogramda birleştirin (Özellikler Çantası)
• Çok sayıda eğitim görüntüsünü kullanarak nesne kategorileri arasındaki farkı öğrenmek için standart makine öğrenme algoritmalarını (destek vektör makineleri gibi) kullanın.

Herkesin bilgisayar işletim sistemi muhtemelen bir disk görüntüsünden kurulmuştur.

1. Disk görüntüsüyle başlayın ve muhtemelen taramanız gerekmeyen dosyaların bir listesini alın.
2. her PC'deki diğer tüm dosyaların bir listesini alın.
3. Gerçek dosyaları 10-20 rasgele makineden çıkarın ve test yatağı olarak kullanın
4. küfürlü ve sorgulanabilir bir sözcük (hotties, jugs, 'zar zor yasal', şaka, vb.) kelimeleri arayın.
5. Videoyu izleyin - herhangi birinin videosu olmalı mı?
6. Fotoğrafları görüntüle
7. Sorgulanabilir herhangi bir video veya görüntü dosyası diğer makineleri aramak için kullanılabilir

Herhangi biri çalışma bilgisayarına herhangi bir şey koymadan önce bir veya iki çalışanın yakalanması gerekir.

Bu hizmet için müstehcen bir miktar para alın. Zappos bunu çalışanlarına asla yapmaz.

Ağda bir etki alanı yöneticisi olduğunuzu varsayalım.

1. Her kullanıcının masaüstü makinesine C $.
2. Porno dosyaları kişisel özel paylaşımınıza kopyalayın.
3. Orijinal konumdan silin.
4. Patlamış mısır yapmak.
5. Tüm "delillerin" detaylı analizini tamamlayın.

Sadece yorum yapmak istedim, ama sadece 1 sorum var, bu yüzden yapamam.

Gravatar durumunda, internet önbellek konumlarındaki temiz siteler listesinden filtrelemek için bir işlev ekleyebilirsiniz. IE Gravatar ve diğer sitelerden yanlış pozitif istemiyorum. Masaüstü duvar kağıdı gibi şeyleri de filtreleyebilirsiniz. Masaüstünde porno gösteriyorlarsa, insanların denetiminizin dışında olduğunu fark edeceklerini düşünürsünüz.

Böyle şeyler asla güvenilir bir şekilde çalışmaz. Etki alanlarını, adlarında veya bazı listelere dahil edilmelerini engellemek için bir engelleme listesi kullanabilirsiniz (genel bir uygulama). Ancak bu listeler asla tamamlanmaz ve kriterlere göre ismin engellenmesi birçok yanlış pozitif sonuç verebilir.

Sitelerin metninde görünen kelimeleri engelleyebilirsiniz, ancak yine de bu hatalı pozitiflere yol açabilir (ve "yaramaz bitleri" tespit etmek için ağınızdan geçen her bir veri bitini ayrıştırmanız gerektiğinden çok yavaşlar).

cilt tonlarının belirli bir yüzdesinden fazlasını gösteren resimleri (ve onları içeren siteleri) engelleyebilirsiniz. Fakat yine de birçok yanlış pozitif sonuçlanıyor. Yara ve cilt koşullarını gösteren uzuv ve torso görüntüleriyle tıbbi bir ansiklopediyi engelleyen bir üniversite tıp bölümü bunun iyi bilinen bir örneğidir. Ve elbette, sadece belirli cilt tonlarını bloke ettiği için ırkçı olurdu. Kafkas teniyle eşleşen renkleri engellerseniz, her zaman örneğin siyah aktör kullanan porno var.

En iyisi sadece çalışanlarınıza güvenin ve bu güvenin koptuğu politikaları uygulayın.

Bilmiyorum, orta derecede bir cevap olmalı, bu kadar istilacı değil, asıl meseleyi SORUMLULUK çözdü.

Onlara çalışma bilgisayarlarında bulunan yasadışı işlerle ilgili herhangi bir yükümlülüğü serbest bırakan, işle ilgili olmayan bir feragatname imzalatmalarını isteyin.

1. Kullanıcıya bir URL'nin yetişkin kabul edildiğini söyle - bluecoat vekili bunu yapar.
2. Google’ın resim aramalarında yaptığı şeyi lisanslayın: http://code.google.com/apis/safebrowsing/ http://www.google.com/search?q=google+image+recognition+api
3. Bilgisayarı önceden kararlaştırılmış listede bulunmayan öğeler için tarayın.

Bir insanın zevkli bir fotoğrafı, bir mayo fotoğrafı, çıplak bir fotoğraf, pornografinin betimlemeleri arasındaki farkları belirleyen resim ve içerik analizi, bildiğim kadarıyla, sadece yazılımda yapılabilecek kadar karmaşık değildir.

Neyse ki, kitle kaynaklı kaynak kullanımı, burada bir yorumda @ ammoQ'nun önerdiği gibi yararlı olmalıdır. Ancak 4chan veya başka bir forum üyeleri büyük sayıda takdir ediyorum inanmıyorum olmayan yayınlanmadan vb düğmeler için jenerik bir web grafikleri, çerçeveler, reklamlar gibi -pornographic görüntüler.

Benim tavsiyem, Amazon Mekanik Türk gibi mevcut kitle kaynaklı çözümlere bakmak olacaktır . (Bununla birlikte, hizmet şartları pornografik içeriğin dahil edilmesini açıkça yasaklayabilir, bu nedenle başka bir çözüm bulmanız veya kendi çözümünüzü almanız gerekebilir.)

Crowdsourcing'i uygulanabilir kılmak için, yazılımınızın aşağıdakilerin bir kısmını veya tamamını yapması için hazırlanmalıdır:

• İçeriği, geldiği bilgisayarla ilişkilendiren bilgileri saklayın
• Tüm envanter boyunca tam kopyaları belirleyin ve bunları kaldırın (ancak kaynak bilgiler korunur)
• Gereksiz ayrıntıları koruyarak ve depolama alanı / bant genişliği boşa harcamadan görüntünün içeriğini tanımlamak için yeterli olan belki de 320x200 boyutundaki görüntüleri örneklendirin
• Video içeriğinin sabit görüntülerini belirli aralıklarla oluşturun ve aynı alt örnekleme kuralını uygulayın

Son olarak, orijinal görüntüyü ve video içeriğini temsil eden azaltılmış görüntülerin veritabanı, şirketinizin davranış kurallarına göre kullanıcılar (veya kaynaklara sahipseniz belirlenmiş bir ekip) tarafından kontrol edilir. Program veya arabirim bir kerede tek bir görüntü veya küçük resimlerden oluşan bir ekran gösterebilir - doğru bilgiyi elde etmek için en iyi hangisi olursa olsun.

Görüntülerin geldiği bilgisayarın kimliği, verileri değerlendiren kişiler için kesinlikle gizli ve bilinmeyen olmalıdır. Ek olarak, randomize edilmeli ve her görüntü yanlılığı gidermek için birden fazla kez kontrol edilmelidir.

Aynı teknik metin için de kullanılabilir, ancak önce içerik, kitle kaynak incelemesinden metnin büyük kısmını kaldıran anahtar kelime sıralaması ile puanlanabilir. Uzun bir belgeyi sınıflandırmak elbette bir resmi sınıflandırmaktan daha fazla zaman alacaktır.