Forskere har laget en modell for å forutsi hvilke sivile samtaler på Internett som kan ta en tur og spore.
Etter å ha analysert hundrevis av utvekslinger mellom Wikipedia-redaktører, utviklet forskerne et dataprogram som skanner for advarselsskilt i deltakerens språk ved starten av en samtale, for eksempel gjentatt, direkte spørsmål eller bruk av ordet "deg" sivile samtaler ville gå galt. (Edtor's note: For informasjon om online quiz, se slutten av denne artikkelen.) ("Gjett hvilken samtale vil gå galt" online quiz: http://awry.infosci.cornell.edu/)
Tidlige utvekslinger som inkluderte hilsener, uttrykk for takknemlighet, hekker som "det virker", og ordene "jeg" og "vi" var mer sannsynlige å forbli sivile, fant studien.
"Det er millioner av slike diskusjoner som foregår hver dag, og du kan ikke muligens overvåke dem alle. Et system basert på dette funnet kan hjelpe menneskelige moderatorer bedre å rette oppmerksomheten deres, sier Cristian Danescu-Niculescu-Mizil, assisterende professor i informasjonsvitenskap ved Cornell University og medforfatter av avisen.
"Vi som mennesker har en intuisjon om en samtale er i ferd med å gå galt, men det er ofte bare en mistanke. Vi kan ikke gjøre det 100 prosent av tiden. Vi lurer på om vi kan bygge systemer for å kopiere eller til og med gå utover denne intuisjonen, sier Danescu-Niculescu-Mizil.
Datamodellen, som også vurderte Googles perspektiv, et maskinlæringsverktøy for å vurdere "toksisitet", var riktig rundt 65 prosent av tiden. Mennesker gjettet riktig 72 prosent av tiden.
Folk kan teste sin egen evne til å gjette hvilke samtaler som vil spore på en online quiz.
Studien analyserte 1,270 samtaler som begynte sivile, men degenerert i personlige angrep, slettet fra 50 millioner samtaler på tvers av 16 millioner Wikipedia "talk" sider, hvor redaktører diskuterer artikler eller andre problemer. De undersøkte utveksling i par, sammenlignet hver samtale som endte dårlig med en som lyktes på samme emne, slik at resultatene ikke ble skjevet av sensitive emner som politikk.
Forskerne håper denne modellen kan brukes til å redde risikosamtaler og forbedre nettdialogen, i stedet for å forby bestemte brukere eller censurere bestemte emner. Noen elektroniske plakater, som ikke-engelsktalende engelsktalende, kan ikke skjønne at de kan oppfattes som aggressive, og nudger fra et slikt system kan hjelpe dem til å tilpasse seg selv.
"Hvis jeg har verktøy som finner personlige angrep, er det allerede for sent, fordi angrepet allerede har skjedd, og folk har allerede sett det," sier medforfatter Jonathan P. Chang, PhD-student ved Cornell. "Men hvis du forstår denne samtalen går i dårlig retning og gjør noe så kan det gjøre stedet litt mer innbydende."
Papiret, samskrevet med flere samarbeidspartnere ved Jigsaw og Wikimedia Foundation, vil være en del av Association for Computational Linguistics 'årlige møte (juli 2018) i Melbourne, Australia.
*****
Gjett hvilken samtale som vil gå galt!
Online Quiz Instruksjoner:
I denne oppgaven vil du bli vist 15 par samtaler. For hver samtale kommer du bare til å se de to første kommentarene i samtalen. Din jobb er å gjette, basert på disse samtaleforetakene, hvilken samtale er mer sannsynlig til slutt føre til et personlig angrep fra en av de to første brukerne.
Etter at du har svart på hvert spørsmål, får du øyeblikkelig tilbakemelding om svaret ditt var riktig (angitt med grønt) eller feil (angitt med rødt).
Flere detaljer:
Når du gjør gjetningen, bør du bruke følgende definisjon av et personlig angrep som referanse:
A personlig angrep er en kommentar som er uhøflig, fornærmende eller respektløs mot en person / gruppe eller mot den personen / gruppens handlinger og / eller arbeid.
Husk at du ikke ser etter personlige angrep i kommentarene som er vist. Snarere bør du bruke din intuisjon av sosial dynamikk til å bestemme hvilken utveksling som er mer sannsynlig å lede en av deltakerne til etter hvert legge inn et personlig angrep (som du ikke er vist).
Til tider kan det virke som om ingen anførselstegn sannsynligvis vil føre til et angrep, eller at begge virker like sannsynlig. Vær imidlertid oppmerksom på at kildesamtaler allerede har blitt annotert av mennesker, og det fører faktisk til et personlig angrep. Gjør ditt beste for å "gjenopprette" de eksisterende etikettene!
Dette er ikke en enkel oppgave, og det kan ta et par minutter å svare på hvert spørsmål. Siden dette er en vanskelig oppgave, er de tre første spørsmålene "oppvarming" spørsmål som ikke vil påvirke poengsummen din; de er der for å hjelpe deg med å "kalibrere" din følelse av hvilke faktorer som sannsynligvis vil signalere fremtidige angrep. Men husk, Din oppgave er å gjenopprette så mange etiketter som mulig.
På grunn av oppgavens art kan noen av disse kommentarene inneholde støtende innhold. Vi beklager det.
kilde: Cornell University
Relaterte bøker
at InnerSelf Market og Amazon
