Private selskaper poliserer online hat uten uavhengig tilsyn eller regulering, som har alvorlige implikasjoner og utgjør risiko for grunnleggende menneskerettigheter og friheter. (Shutterstock)

Torch-lit marsjen av væpnede hvite supremacists nylig i Charlottesville, Va., Fortsetter å generere debatt om hvordan hatgrupper bør reguleres. I takt med økende press fra offentligheten etter marsjet, sprang Internett-firmaer seg for å fjerne fra deres plattformer nettsteder som antyder voldelig hate-tale.

Gå pappa avsluttet domenetjenester til neo-nazistiske nettsiden The Daily Stormer, som det gjorde Google. Cloudflare, et selskap som beskytter nettsteder mot nettbaserte angrep, også utestengt Hate nettsiden fra plattformen. Russland bestilte området stengt fra å være vert i landet.

Min forskning og min bok Chokepoints: Global Private Regulation på Internett demonstrere at mange internettbedrifter allerede fjerner innhold og forbyr brukere "frivillig" - det vil si i fravær av lovgivning eller rettslige prosesser. Store mellommenn, inkludert Google, PayPal, GoDaddy, Twitter og Facebook, politiserer frivillig plattformene deres for innhold av seksuelt misbruk av barn, ekstremisme og ulovlig handel med forfalskede varer.

Mange forstår forståelig nok disse anstrengelsene for å stampe ut hatespredning og annet innvendig innhold. Imidlertid øker internettbedriftens innsats som de facto regulatorene av tale alvorlige spørsmål: Hvordan skal innhold på Internett reguleres? Av hvem?

Jeg støtter ikke hvite supremacists, og jeg argumenterer ikke for noen politisering av slik tale. Snarere sier jeg at vi må vurdere seriøst hvordan du regulerer innhold på nettet, da det neste tilfellet kanskje ikke er så klart kuttet.

Det er betydelige problemer med å stole på kraftige selskaper å polere Internett fordi deres håndhevelsespraksis er urolig ugjennomtrengelig og tilbøyelig til vilkårlig tolkning.

Forstyrrende precedent

Cloudflares CEO Matthew Prince har i en motvirksom kontrast til jubelen av internettbedrifter tilbudt et nyansert forsiktighetsperspektiv, og advarsel om at tilbakekalling av tjenester fra hategrupper som følge av offentlig press setter en forferdelig fortilfelle i politiets online tale .

I en blogginnlegg Forklarer Cloudflare sine handlinger mot Daily Stormer, hevdet prins at selskapet anser fornuftig prosess et "viktigere prinsipp" enn ytringsfrihet. Forsinket prosess, sa han, at "du burde være i stand til å kjenne regler som et system vil følge hvis du deltar i systemet." Denne setningen tar tilstrekkelig fange de inneboende problemene med mellommenn som jobber som de facto regulatorer av innhold og onlineadferd.

Tidligere i år, Shopify-ansatte og hundrevis av tusenvis av mennesker oppfordret og begjært nettbutikkplattformen for å stoppe vert for Breitbart Medias internettbutikk. Gjenopprettede styreleder Stephen Bannon samtaler Breitbart "plattformen for alt-høyre." Den såkalte "alt-rett" - et begrep populært av Richard Bertrand Spencer - dekker en blanding av hvite supremacist, separatistiske, neo-nazistiske, fascistiske, rasistiske, antisemitiske, islamofobiske og populistiske konservative ideologier.

Shopify administrerende direktør Tobias Lütke sa at han var å forsvare ytringsfrihet som Ottawa-selskapet fortsatte å være vert for Breitbart's nettbutikk truet av ansatte avgår. Etter offentlig press og en greskroppskampanje kalt #DeleteShopify førte til granskning som avslørte mer tvilsom virksomhet, Shopify var tvang å vedta en "Godtagbar brukspolicy."

De kontrasterende eksemplene på The Daily Stormer og dets sletting av internettbedrifter, og Shopifys stødige støtte til Breitbart, viser ekstremer av et dilemma som bare lover å intensivere.

Vilkårlig politikk, regulering

Internett-mellommenn har potensial til å være kraftige regulatorer på et bredt spekter av problemer fordi de kan handle raskt og uten rettsordre. Viktig er at de har breddegrad for å censurere innhold eller forbud mot brukere i henhold til deres serviceavtaler.

PayPal forbeholder seg retten til å si opp sine tjenester til brukere "av hvilken som helst grunn og til enhver tid, "Språk som er ekkoet i de fleste mellommennes tjenesteavtaler. Kapasiteten for vilkårlig regulering blir dermed bakt i mellommennes interne regler.

Prinsen varslet at Cloudflares handling mot Daily Stormer setter en presedens for mellommenn til politietale uten rettsordre som krever at de skal gjøre det.

Disse mellommennene opptrer ofte på vegne av regjeringer som foretrekker at selskaper skal være offentlige (men stort sett ukontrollerbare) ansikt på internettregulering. Men disse firmaene er generelt dårlig rustet til å skille mellom lovlighet fra ulovlighet, forårsaker feilaktige takedowns og feilaktig rettet mot lovlig oppførsel.

Like problematisk: Intermediaries håndhevelsesprosesser er ofte ugjennomsiktige fordi deres innholdsforvaltere vilkårlig tolke sine komplekse, raskt skiftende interne regler. Disse problemene blir forsterket av mellommennes økende bruk av automatiserte verktøy for å identifisere og fjerne problematisk innhold på sine plattformer.

Det er også bekymringen for såkalt oppdragskryp når regler som først ble vedtatt mot overgrep eller terrorisme - bemerkelsesverdige katalysatorer for håndhevelseshandlinger - brukes senere til andre tydelig mindre skadelige problemer, som for eksempel uautorisert nedlasting av opphavsrettslig beskyttet innhold.

Dystopisk fremtid er her

Regulatory efforts utvider vanligvis fra censurering voldelig hate speech til annen tale som kan betraktes som kontroversiell av noen, som for eksempel Black Life Matter. Også, regjeringer over hele verden presser regelmessig mellommenn til censor og spor kritikere og politiske motstandere.

Når store mellommenn blir go-to-regulatorer som er ansvarlige for politiet innhold på vegne av regjeringer eller som svar på profilerte protester, øker deres allerede betydelige kraft. USA-baserte internettbedrifter dominerer allerede mange bransjer, blant annet søk, annonsering, domeneregistrering, betaling og sosiale medier. Cloudflare's Prince med rette advarte at avhengig av "få gigantiske nettverk", vil et "lite antall selskaper i stor grad bestemme hva som kan og ikke kan være online."

Denne dystopiske fremtiden er allerede her.

Takket være Daily Stormer gjør verden sikkert et bedre sted. Men vil vi virkelig at selskaper som Facebook og Twitter skal bestemme - uavhengig, vilkårlig og hemmelig - hvilket innhold vi kan få tilgang til og dele?

Gitt disse tilsynelatende vanskelige problemene, hva kan vi gjøre? Først bør vi unngå å styre på grunnlag av protester eller medietrykk. I stedet, Vi trenger et klart sett med regler for å gjøre det mulig for mellommenn å svare konsekvent, transparent og med respekt for forfatning, som Prince anbefalte.

Regjeringene bør avklare arten av og, viktigere, begrensningene av mellomledernes regulatoriske ansvar. Til slutt må vi slutte å styre som svar på spesielle kriser - såkalte "falske nyheter", terrorisme og hatgrupper - og i stedet tenke kritisk på hvordan vi kan og bør styre internett.

Om forfatteren

Natasha Tusikov, assisterende professor, kriminologi, samfunnsvitenskapelig institutt, York University, Canada

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Relaterte bøker

at InnerSelf Market og Amazon