Hvordan Big Tech designer sine egne etikkregler for å unngå gransking og ansvarlighet

Hvordan Big Tech designer sine egne etikkregler for å unngå gransking og ansvarlighet

Datateknikk er nå en årsak.

"Digital etikk og personvern" skutt inn i forskning og rådgivende selskap Gartner topp ti strategiske teknologitrender for 2019. Før det hevet det knapt en omtale.

I det siste året regjeringer, selskaper og politikk og teknologi tenktanker har publisert datateknikk guider. En hel gruppe koder av ekspertdatatetikere har blitt magisk materialisert.

Hvorfor denne plutselige interessen for datatetikk? Hva er datatetikk? Hvilke interesser er retningslinjene designet for å tjene?

For å forstå hva som skjer, er det nødvendig å ta et skritt tilbake og se på hvordan informasjonslandskapet har utviklet seg.

Bildet som oppstår er av en industri som er immun mot de lovgivningsmessige begrensningene som gjelder for alle andre.

Skinnet har gått

I løpet av de siste årene har informasjonsbransjen mistet sin glans.


Få det siste fra InnerSelf


De Snowden åpenbaringerden Cambridge Analytica-skandalen, sosialmedieres mulighet for hatmeldingerden våpen av informasjon og dens rolle i å underminere demokratiske institusjoner har alle bidratt.

Forretningsmodellen som tjener penger til personlig informasjon for å selge reklame, ses nå som et frivillig kjøp - kanskje er offeret ikke verdt det. Fra 2017 til 2018 var det en 6% drop i Facebook-brukere i USA i det lukrative 12-34 år gamle markedet.

Disse bekymringene har ført til krav til regulering. Men disse har kjempet for å få trekk mot det rådende regelmessige ortodoksiet for teknologisektoren. Dette dateres tilbake til Al Gores fem prinsipper for å aktivere det som så kalt kalles "global informasjon superhighway."

Prinsipp tre var at reguleringspolitikken ville "skape et fleksibelt regelverk som kan holde tritt med raske teknologiske og markedsendringer". Dette var kode for ingen regulering, eller selvregulering. I Australia var det kjent som "Light touch" regulering.

Storteknologi handlet med lovlig straffrihet, som i stor grad befriet fra den livlige bekymringen for den "gamle" økonomien som forbrukerbeskyttelse eller produktansvar eller konkurranselovgivning, eller spesielt informasjonssikkerhet.

Sirkler nærmere

Europa har aldri helt vedtatt denne laissez-faire-tilnærmingen. Informasjons personvern har alltid vært høyt på sin agenda, som kulminerer i 2018 generelle databeskyttelsesforskriften (GDPR). Dette gir personer i EU de mest omfattende personvernrettighetene i verden. Rettighetene har ekstraterritorial rekkevidde, involverer tilsyn med tilsyn og ansetter sivile bøter med øyevannende styrke. Andre jurisdiksjoner begynner å følge med.

Samtidig begynner regulatorer fra andre fagområder å sirkle. Anti-trust regulatorer ser igjen på informasjon monopol og big tech bruk av markedsmakt for å begrense konkurransen.

I Australia har ACCC kalt for a ny tilsynsmyndighet å overvåke og undersøke effekten av algoritmer på rangering av nyheter og journalistisk innhold.

Det britiske utvalgte komiteen for kommunikasjonsrapport om regulering i en digital verden har anbefalt en ny digital myndighet å overvåke den "fragmenterte" reguleringen av det digitale miljøet rundt ti reguleringsprinsipper, og merker at "[e] elfregulering av nettplattformer tydeligvis feiler". Menneskerettighetsregulatorer undersøker rollen som algoritmer i å skape og forankre diskriminering.

Data betyr penger

Big tech ønsker ikke å bli regulert. Det vil ikke ha sin ubegrensede evne til å høste personlig informasjon for å være begrenset eller for beskyttelse av GDPR-typen til å bli den globale normen. Personlig informasjon er råvaren til algoritmen som gjør det mulig å tjene penger på vår oppmerksomhet.

For en bransje som er stolt av å være "forstyrrende", er storteknologens største angst å hindre strammende regelverk for å unngå å bli forstyrret. Datatetikk er et av de midler den har utviklet for å bekjempe regulering. Det gjør det ved å benytte de dydene som er forbundet med etikk, men ved å tømme dem om innhold eller konsekvens.

Ta Googles prinsipper for AI. (AI er kunstig intelligens). Disse er:

  • være sosialt fordelaktig
  • unngå å skape eller forsterke urettferdig bias
  • bygges og testes for sikkerhet
  • være ansvarlig overfor folk
  • inkludere integritetsdesign prinsipper
  • opprettholde høye standarder for vitenskapelig ekspertise
  • bli gjort tilgjengelig for bruk som samsvarer med disse prinsippene.

Disse "prinsippene" er påfallende lik de følelsesglade homiliene som er publisert på Instagram som oppfordrer oss til å "være gode til hverandre" eller ikke å "la solen gå ned på vår vrede", og er omtrent like nyttige.

økonomi Virkelig? Skjermbilde fanget mars 28 2019

Sett på prøve

La oss teste en av Googles prinsipper, "være ansvarlig overfor folk".

Det er flere lag av tvetydighet her. Betyr det at Googles AI-algoritmer burde være ansvarlige for «folk» generelt, Googles "folk" eller andres "folk" som en uavhengig regulator?

Hvis sistnevnte, vil Google levere algoritmen for analyse, rette eventuelle feil og betale erstatning for skade forårsaket?

Hvis Googles AI-algoritmer feilaktig konkluderer med at jeg er en terrorist og deretter sender denne informasjonen til nasjonale sikkerhetsbyråer som bruker informasjonen til å arrestere meg, holde meg inkommunaut og forhøre meg, vil Google være ansvarlig for sin uaktsomhet eller for å bidra til min falske fengsel? Hvordan vil det være ansvarlig? Hvis jeg er misfornøyd med Googles versjon av ansvarlighet, hvem appellerer jeg til rettferdighet?

Nyttig etik innebærer ansvar

Etikk er opptatt av de moralske prinsippene som påvirker hvordan enkeltpersoner tar beslutninger og hvordan de leder sine liv.

Etikk er studert og debattert for aeons. Innen vestlige tradisjoner spores etikk tilbake til Sokrates. De inkluderer filosofiske stillinger som deontologiske (pliktbaserte) etikk, konsekvensisme, utilitarisme og eksistensialisme, for å nevne noen få. Ikke overraskende produserer ingen av disse de samme svarene på spørsmål om hva en person må gjøre under noen spesielle forhold.

"Anvendt etik" tar sikte på å bringe prinsippene for etikk til å bære på situasjoner i virkeligheten. Det er mange eksempler.

Offentlig sektor etikk er regulert av loven. Det er konsekvenser for de som bryter dem, herunder disiplinære tiltak, oppsigelse av arbeid og noen ganger straffbare straffer. For å bli advokat måtte jeg fremlegge bevis for at jeg er en "passende og skikkelig person". For å fortsette å øve, er jeg pålagt å overholde detaljerte krav som er angitt i Australian Solicitors Conduct Rules. Hvis jeg bryter dem, er det konsekvenser.

Funksjonene i anvendt etik er at de er spesifikke, det er tilbakemeldingsløkker, veiledning er tilgjengelig, de er innebygd i organisatorisk og profesjonell kultur, det er riktig tilsyn, det er konsekvenser når de brytes, og det er uavhengige håndhevingsmekanismer og virkelige virkemidler . De er en del av et regulatorisk apparat og ikke bare "føles gode" uttalelser.

Feelgood, datanetiske prinsipper på høyt nivå er ikke egnet for å regulere big tech. Anvendt etikk kan ha en rolle å spille, men fordi de er yrke eller disiplinsspesifikke, kan de ikke stole på å gjøre alt, eller til og med det meste av den tunge løftingen.

Skader knyttet til storteknologi kan kun behandles ved riktig regulering.Den Conversation

Om forfatteren

David Watts, professor i informasjon lov og politikk, La Trobe University

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Relaterte bøker:

{amazonWS: searchindex = Bøker; søkeord = digitale monopoler; maxresultater = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

følg InnerSelf på

facebook-ikonettwitter-iconrss-ikonet

Få den siste via e-post

{Emailcloak = off}