Výskumníci vyvíjajú nový systém na zisťovanie zneužívania v online komunitách

Zistilo sa, že tento systém, prezentovaný v dokumente pred publikovanom na arXiv , prekonal existujúce prístupy na detekciu zneužitia a moderovanie obsahu generovaného používateľmi.

ball
 
„Stále rastúce online komunity ponúkajú možnosť šíriť nápady prostredníctvom internetu a zaručujú používateľom určitú anonymitu,“ povedali výskumníci spoločnosti TechXplore prostredníctvom e-mailu. "Tieto priestory však majú často užívateľov, ktorí zobrazujú urážlivé správanie. Pre lídrov komunít je dôležité zmierniť tieto škodlivé činy, pretože ich nedodržanie by mohlo otráviť komunitu, spustiť odchod používateľov a vystaviť administrátorov právnym problémom."
 
Moderovanie obsahu online generovaného používateľom je spravidla vykonávané manuálne ľuďmi; preto môže byť drahý a časovo náročný. S cieľom znížiť náklady sa výskumníci snažia vyvinúť plne automatizované nástroje na moderovanie obsahu, ktoré by mohli nahradiť alebo pomôcť ľudským moderátorom.
 
"V tejto práci formulujeme úlohu moderovania obsahu ako problém klasifikácie a aplikujeme našu metódu na korpus správ, ktoré si vymieňajú hráči MMORPG, masívne multiplayerová online hra na hranie hier," uviedli vedci.
 
Ako prvý krok výskumníci extrahovali konverzačné siete z prvotných chatových protokolov reprezentujúcich konverzácie, v ktorých bola odoslaná každá urážlivá správa, a charakterizovali ich pomocou topologických opatrení. Použili svoje výsledky ako funkcie, školenia klasifikátor odhaliť zneužívanie na online platformách.

ochrana
 
Pri extrakcii konverzačných sietí výskumníci nasledovali trojstupňovú metódu. Po prvé, identifikovali podmnožinu správ, ktoré by použili na extrahovanie siete. Potom vybrali podmnožinu používateľov, ktorí boli pravdepodobne príjemcami každej správy. Nakoniec pridali hrany a revidovali svoje váhy na základe týchto potenciálnych prijímačov správ.