MMO sohbeti için küfür filtresi

32

Smartfox Sunucusunu kullanarak bir MMO geliştiriyoruz. Hedef kitlesi 7-12 yaş arası çocuklar.

Bu MMO'da küresel bir sohbet seçeneği var.
Bir metin kutusundaki kullanıcı ne olursa olsun, isabet ettikten sonra kullanıcı avatarının yanında görüntülenir.

Kötü niyetli dil / küfürleri bu sohbetten filtrelemek istiyoruz.
Sohbeti yakalayıp metni okuyabiliriz. Sorun, küfürlerin listesini almaktır.

Bizim sorular

Kişi bütün küfürlerin ayrıntılı bir listesini nereden bulacak?
Bunları filtrelemek için benzer senaryoda hangi yöntem kullanılır?

mmo

— naveen
kaynak

17

Scunthorpe Probleminde iyi şanslar .

— Cyclops

7

@yetanothercoder, demek istediğim, filtrelemek zor bir problem . Mesela, cumartesi günü oyununuzda herhangi bir etkinlik olacak mı? Oyuncu edebilecek tip onların chatboxes içine "Cumartesi" (not orta dört harf) kelimesini? (Ve neden aşağı oy da bilmiyorum - bu kötü bir soru değil , ama basit bir cevap olmayabilir).

— Cyclops

6

Ve daha fazla dil devreye girdiğinde daha da karmaşıklaşıyor. Örneğin: Starcraft 2, "weniger" ı sohbete kaldırıyor, ki "az" kelimesi için sadece Almanca kelimedir ...

— bummzack

4

Gençken ve filtrelenmiş MMO'lar oynarken sıkça karşılaştığım bir diğer sorun ise İngilizce'ye dayanmalarıydı. Bu yüzden, Fransızca konuşsaydım, bazı iyi Fransızca kelimeler, İngilizce küfürler gibi göründüğü için sansürlenirdi ve her halükarda, hala istediğim her şeyi Fransızca'ya küfredebilirdim.

— Xeon06,

2

Gördüğüm kadarıyla, iyi bir filtre yapmak için en önemli şey, onu kapatma seçeneğine sahip olmak. Başka seçeneğiniz yoksa ve oyuncular sansürlenmekten başka seçeneğinin olmadığını biliyorlarsa, sansörü atlatırlar. Kapatmaları için kolaylaştıracak olursanız, şanslarını silmeyi bırakma ihtimalleri vardır ve sert bir dil yaşamak isteyenler, filtreyi atlatmaya çalışan insanlarla uğraşmak zorunda kalmayacaklardır.

— Michael Zehnich

46

Yapma.

Filtreler çalışmıyor. En azından, sadece filtreler çalışmıyor. Beyaz liste, kara liste önemli değil. Bunların hiçbiri çocukların birbirlerini taciz etmelerini engelleyemez. Bu işi yapmanın tek yolu sohbeti filtrelemek değil, cümleler için büyük yapı taşları oluşturmaktı. Örneğin, bir çocuk "İstermisiniz ..." i seçebilir ve "git ..." ve "ticaret ..." seçenekleri de kaldırılır. "Git ..." i seçmek oyunda yerlerin bir listesini getirir.

Disney, MMO "Toontown" için bu yönteme karar verdi ve 14 yaşındaki beyaz listedeki deneklerin "uzun boyunlu Zürafa'ları [kabarık beyaz tavşanlarına " sokmaya karar vermelerine karar verildi . Basitçe söylemek gerekirse, kötüye kullanımı engellemek için yeterli kelime kara listeye alamaz veya beyaz listeye giremezsiniz .

Her şeyin söylendiği gibi, eğer bir çocuğun MMO'sunu tasarlayacak olsaydım, aslında katı bir kara liste filtresi uygulardım, ama sadece ikinci bir savunma hattı olarak. İlk savunma hattınız her zaman moderatörler ve kötüye kullanım bildirme yeteneği olmalıdır. Kara listeye alınan kelimeleri ağırlıklandırırdım, her kullanıcı ne kadar saygısız olmaya çalıştıklarına dair gizli bir puan alır.

Muhtemelen, filtrenizi aşmayı deneyen ve atlayan her kullanıcı önce onu tetikler. Daha belirgin küfürler (belirsiz veya eski olanların aksine) veya daha fazla tekrarlanan küfür girişimleri, onları moderatörler için bir izleme listesine veya bir tür yasak listesine koyarlar . Bu sayede moderatörler, masum çocukların açıklamalarını okumakla zamanlarını boşa harcamak yerine başkalarını taciz etmeye çalışan kullanıcılar üzerinde odaklanabilir.

— dlras2
kaynak

6

Sadece Toontown bağlantısı için +1 - Özellikle oyuncuların gizli kodlarını değiştirmeleri için gizli kanalları kullanmalarını seviyorum , bu yüzden filtreyi atlayabilirler.

— Cyclops

1

Kazıp paylaşacağımı düşündüğüm çok ilginç bir kitaptı. Cevabımın geri kalanını okumazsanız, en azından bunu okuyun. = P

— dlras2

2

Blizzard'ın bu tekniği (genel sohbete gönderilen küfürlerin gizli puanları) World of Warcraft'ta kullandığına inanıyorum, en azından alışkın olduklarını biliyorum.

— Nate,

2

@Dan Kişisel deneyim sadece. Ben otomatik olarak yasaklandım. (Bu GM tarafından yasaklanmaktan farklı bir deneyimdi) Bazı duşlar sözel olarak loncama bazı piliçlere saldırıyordu ve ben onun üzerine gittim. Bir süre oyundan, sadece / General'den yasaklanmadım.

— Nate,

2

İlk kelime için +1 "Yapma" Sünnet olan şey budur ve neden büyük bir buharda yanan meecrob yığını oluşturmak için değerli programlama kaynaklarını boşa harcadığınızı hissedersiniz ! ;-D

— Richardson

10

Diyerek insanlara cevap olarak değil filtreyi sağlamak, bunu iddia ediyorum zorunda hedef kitlesi ebeveynlerine göre kendi popo kapsayacak etmekten başka bir nedenden dolayı, bir filtre sağlamaktadır. Sadece kullanıcı tarafından devre dışı bırakılabildiğinden emin olun. Bir küfür filtresi uygulayarak (kusurlu ve tamamen isteğe bağlı olsa da), genç izleyicilerinizin hassasiyetini korumak için sizden beklenen her şeyi yaptığınızı söyleyebilirsiniz.

Devre dışı bırakmayı mümkün kılarak, kullanıcıların akıllıca noktalama veya değiştirme kullanarak onu atlamaya çalışmalarını engellersiniz, çünkü bu tür bir dili tercih eden insanlar filtreyi kendi bilgisayarlarında derhal devre dışı bırakacak ve bir filtrenin bile var olduğunu unutmuş olacaklar. .

Bu anlayışla, uygulama hakkında çok fazla endişelenmeyin. Kusursuz olması gerekmez (ki iyidir, çünkü kusursuz olamaz ), fakat göreceli olarak eksiksiz ve mümkün olduğunca müdahaleci olmamalıdır. Yani, " clbuttic hata" yapmadığınızdan emin olmayacaksınız .

Uygulama son derece basit olabilir - bir kelime listesi alın ve listede bulunan sözcükleri yıldız işaretleriyle veya benzer bir şeyle değiştirin. Sadece tüm kelimeleri aramak için en iyisi.

Bir kelime listesine gelince, bu kolay: http://www.google.com/search?q=profanity+word+list

Unutmayın, her şey dahil olmak zorunda değildir, sadece çocukları korumak için sizin tarafınızdan gösterilen cesur bir çabanın temsilcisi olmak zorundadır.

— tylerl
kaynak

1

+1 benim de yaklaşımım olurdu, detaylı olarak belirli bir yaş değerlendirmesi için yapmanız gerekenleri araştırdıktan sonra.

— Oskar Duveborn,

5

Kara listeye 'cunt' ekleyebileceğiniz bir kara liste ve bir beyaz listeye izin veren bir çözüm ve örneğin beyaz listeye 'scunthorpe' eklemeyi denerdim.

Sana olabilir inanmıyorum hiç senin sözlükte en "popüler" kelimelerini almaya çalışacaktı böylece, hataya yer bırakmayan bir çözüm uygulamak ve listelere yeni kelimeler eklemek mümkün olduğunca kolay yapmak.

Bunun nedeni, dillerin, özellikle ingilizcenin, sürekli evrimleşmesi ve onlarca yıldır elverişsiz olan bir şeyin doğru bağlamda saldırgan olabileceğidir.

En çok kelimeyi mümkün kılmaya ve oradan gitmeye çalışın, insanlar şikayet edince hızlı tepki sürelerine sahip olun ve bunun genel bir endişe olduğunu gösterin ve herhangi bir sorun yaşayacağınızdan şüpheliyim.

ABD’de sansür kurallarının tam olarak ne olduğunu bilmek iyi bir fikir olacaktır: MBNL! (ben avukat olamam!)

— Jonathan Connell
kaynak

3

Gelişen dilin çözümü, önceliğe göre filtrelemektir .

— Cyclops

@ Cyclops Kazanın! xD

— Jonathan Connell,

4

Ben yorumladığı gibi, tüm rahatsız edici kelimeleri filtreleyerek gerçekten zor - ama sen arkanı dön ve kullanabilirsiniz beyaz liste içinde izin kelimelerin. Bir google araması yaparak, çocuk oyunlarının bir listeyle yazabileceklerini sınırlandırması oldukça yaygın görünüyor. Örneğin, Lego Universe bir beyaz liste kullanır.

Ayrıca bakınız: Oyun sohbeti için beyaz liste . Ve beyaz listenin atlanabileceğini unutmayın . Garantili bir çözüm yok.

Bunun küçük çocuklar için olduğunu ve yanlış yazımın bir sorun olabileceğini göz önünde bulundurarak - müşteri arayüzüne bağlı olarak, kelimeyi otomatik tamamlamayı düşünebilirsiniz . Oyuncular harfleri yazmaya başladığında, olası kelimelerin bir listesini sunun ve doğru olanı seçmelerini sağlayın.

— Kiklops
kaynak

İyi fikir, yazım yanlış yapan küçük çocuklar için bir oyunda bana garip gelse de. Ayrıca kişisel gelişimlerini beyaz listede bulunanların kapsamı dışında bırakabilir.

— Jonathan Connell,

@ 3ixix, problemleri olduğu konusunda hemfikirim, fakat mümkün olan her çözümü de. :) Yazım problemine bir düzeltme olur - bekle, yazıma eklemeliyim. :)

— Cyclops

+1: bu çok daha güvenli olacak, ancak @ 3nixios: geliştirmeyi engelleyeceğini veya çok büyük bir liste olacağını ve yürütme zamanının doğru arttığını söylediğini söyledi.

— naveen

@yetanothercoder, müşteri türüne bağlı olarak (html / javascript varsayıyorum), geçerli kelimelerin bir listesini önceden indirebilir ve müşteriden kontrol edebilirsiniz. Bu sunucuyu yavaşlatmaz (teorik olarak akıllı bir programcı tarafından atlanabilir). Evet, bu daha fazla iş - yine, kolay bir çözüm yok, üzgünüm. Hepsi ne kadar riskin kabul edilebilir olduğuna bağlıdır.

— Cyclops

1

@Cyclops Bir çocuk oyununda, sadece oyun oynayan çocukları düşünürseniz, bu kabul edilebilir bir çözüm olabilir. Maalesef müşteri tarafı kontrolü, bir 'kötü adamın' diğer oyunculara neyi sevdiğini kolayca söyleyebileceği anlamına gelirdi.

— Jonathan Connell,

4

Programcıların bir küfür filtresi oluşturmak için bir sistemi tanımlayan bir cevabı var . Aslında onu nasıl detaylı bir şekilde inşa ettiğini açıklamıyor, ancak uygulama için bir fikir edinmek için yeterli olmalı.

— thegrinner
kaynak

4

Bu, koddan ziyade insanlar ve sosyal tasarım tarafından en iyi çözülmüş bir problemdir.

Kapsamlı bir liste için en iyi kaynağınız oyunda mevcut olan ve sohbet akışını izleyen canlı bir insandır. İnsanları oyununuza koyun ve onların nihai filtreniz olmasına izin verin.

Lane Merrifield'in Club Penguin'in ardındaki fikir ve felsefelerini incelemek ve hizmet vermekle ilgili biraz zaman ayırın. İşte 2008'de Austin GDC'deki sunumundan iki yazı. Bunları gördüm ve insan problemlerini kodlarla değil insanlarla çözme tarzından çok etkilendiğini hatırladım.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

Özellikle oyununuz çocuklara yönelik olduğu için, düşünmeniz gereken filtrelerden ibaret değildir. Kötü güdülere sahip olabilecek ya da olmayabilecek çocuklar olarak poz veren insanlar için endişelenmeniz gerekir. Ebeveynlerin çocuklarının güvende olduğundan emin olmanız gerekir. Çocuklara bu konuda da güvende olduklarından emin olmanız gerekir.

İnsanlar için bir başka artı da bağlamı anlamalarıdır. Bazı annelerin "Annem göğüs kanseri var" demesini ve tekmelemelerini istemiyorsun.

— Tim Holt
kaynak

Potansiyel manipülatörleri yasaklayabilecek moderatörlerimiz olduğundan eminiz. küfür konusunda daha çok endişeliyim. kötü bağlamda kullanılan kelimelerin çoğunun tekrarlanacağı zaman moderatörler için sıkıcı bir görev olacaktır.

— naveen

Kesinlikle ortak şeyler dediğiniz şeyi saptamak için küfür filtrelerine sahip olabileceğinizi ve moderatörlere etiketleyebileceğinizi söyleyebilirim. "En iyi 100" kelimesinden oluşan bir kelime listesi bulmak o kadar da zor değil. Önce tüm boşlukları ve noktalama işaretlerini kaldırın, böylece insanlar algoritmayı C_H_E_A_T veya MANIPULATE yapmazlar. Sonuçta doğru olsa yapacak 'onun insanlar olsa.

— Tim Holt,

3

Soruna basit bir çözüm:

Girdiğiniz tüm boşlukları ve noktalama işaretlerini kaldırın.
Urban Dictionary içindeki her şeyi kara listeye alın .
Tüm ev telefonlarını kara listeye al
Bir örtmece olarak kullanılabilecek her şeyi kara listeye alın.
Kalan içeriği, niyeti ve tonunu anlamak için yazılımınızı yazın.
Oyunu atın ve 5. adımdan itibaren duygusal ve her şeyi bilen yaratımla pazara gidin.

— Colin Pickard
kaynak

6

homo telefonları lolololol

— Jonathan Connell 15

3

Bu, spam gönderenlerin captcha çözücüleri ve spam filtrelerinin sonucudur: Dünya'nın kontrolü için savaşan duyarlı AI: bir taraf Viagra'yı satmaya çalışırken, diğeri İnsanlığı korumaya çalışıyor. Çok Transformatörler. :-)

— Zan Lynx,

3

Çocuklar için bazı MMO'lar yalnızca sohbeti önceden tanımlanmış bir grup ifadeyle değiştirir ve serbest biçimli sohbete izin vermez. Belki de oyun buna uyması için tasarlanabilir.

— Oskar Duveborn
kaynak