Joris van Hoboken en Natali Helberger over de algoritmen die onze levens vormgeven

17 jun 2014 /

Natali-JorisOp de LSE Media Policy Blog verscheen recent een blogpost waarin enkele prangende vragen worden gesteld over de rol die algoritmen spelen in onze dagelijkse gemedieerde levens. Joris van Hoboken en Natali Helberger menen dat verantwoordelijkheid en aansprakelijkheid één van de grootste issues zijn wat betreft deze algoritmen.

De nood aan een maatschappelijk debat over de groeiende invloed van algoritmes wordt steeds belangrijker, zo stellen de auteurs. Populaire online mediadiensten rekenen in toegenomen mate op slimme algoritmes die op basis van grote datasets over gebruikers en hun voorkeuren bepalen wat internetgebruikers al dan niet te zien krijgen. Googleresultaten, Facebook-tijdlijnen en Twitter feeds zijn bijgevolg filters geworden van de online publieke informatieomgeving.

Met de hulp van algoritmische informatieverwerkingssystemen vormen deze online platformen het beeld dat gebruikers hebben over het publieke leven en andere sociale zaken. Ze doen dit in concurrentie met online nieuwssites, welke ook algoritmes hanteren om inhouden te selecteren en te prioriteren voor een vooraf bepaald publiekssegment. Het is duidelijk dat de groei van de algoritmische besluitvorming de publieke informatieomgeving drastisch heeft veranderd. Algoritmes hebben heel wat voordelen, zowel voor adverteerders als voor gebruikers, maar ze zijn ook het onderwerp van debat en onderzoek binnen de wetenschappelijke velden van het mediarecht en –beleid.

Wie is aansprakelijk voor wat automatisch is?

Een thema dat het onderwerp van debat blijft, is dat van de aansprakelijkheid van de platformen die aan de hand van algoritmische processen onze digitale horizon bepalen. In welke mate zijn zij verantwoordelijk voor wat hun algoritmische praktijken produceren wanneer het gaat om inhouden die illegaal, schadelijk, of een inbreuk zijn op de privacy of goede reputatie van iemand?

De kwestie rond Google Spain is één van de meest recente voorbeelden van dit aansprakelijkheidsprobleem. In deze zaak besloot het Europese Hof van Justitie dat iedereen die een schadelijke invloed op zijn persoon heeft ondervonden door zoekresultaten het recht heeft een aanvraag in te dienen om resultaten die incorrect, verouderd, of om een andere reden niet in naleving zijn met de Europese databeschermingswetten, te laten verwijderen. Dit – inmiddels druk besproken – arrest lijkt te breken met een lange traditie om veilige havens te voorzien voor internet intermediairs, in het belang van de vrije omloop van informatie en de legale zekerheid. De interpretatie en implementatie van het arrest is momenteel in volle gang. Men stelt zich in het bijzonder de vraag hoe men kan verzekeren dat deze nieuwe verplichtingen geen beknotting van de vrijheid van expressie op het web tot resultaat zullen hebben.

Wie draagt de verantwoordelijkheid voor de algoritmische uitkomsten?

Maar aan de hand van welke framewerken kunnen verantwoordelijkheid en ethische standaarden voor algoritmes tot stand gebracht worden? Data en de controle over machtige algoritmen is veelal in handen van slechts enkele winstgeoriënteerde bedrijven. Deze concentratie doet kritische vragen rijzen over toegang tot cultuur en diversiteit. Wat zijn de mogelijk schadelijke effecten van een gebrek aan concurrentie en de impact ervan op het diverse publieke debat? Wanneer we naar de heersende business modellen en monetisatiestrategieën kijken, is de bescherming van de redactionele integriteit, in het licht van de beïnvloeding door reclame, reclamenetwerken en media analyses, bovendien een belangrijk topic.

Wat betekent het als algoritmes vooral gestuurd worden door winstoptimalisatie in plaats van de optimalisatie van meer sociaal wenselijke uitkomsten? Welke normatieve framewerken moeten we gebruiken om algoritmische besluitvorming te evalueren?

Het vertrouwen van de gebruiker in deze algoritmische processen brengt ten slotte de privacy en intellectuele vrijheid van de mediagebruikers op het toneel, evenals de gevaren van discriminerende toegang tot mediacontent. Zal het zelfs nog maar mogelijk blijven om in de context van mediagebruik op een betekenisvolle manier over privacy te spreken? Wat kan en zou het mediabeleid van de overheid moeten bijdragen om de segmentatie van de publieke sfeer en de inherente, maar niet altijd expliciete, vooroordelen van reclame en targeting strategieën te counteren? De komst van algoritmische media doet een heel pak fundamentele vragen rijzen met betrekking tot informatierecht en de regulering van de online omgeving en op deze normatieve en praktische vragen is er dan weer geen automatisch Google-antwoord.

Dit artikel is een vrije vertaling van de blogpost ‘The Math behind Your “Wall”: Who’s Governing the Algorithms that Shape our Lives?’ door Joris van Hoboken en Natali Helberger op de LSE Media Policy Blog. Deze bijdrage werd geschreven naar aanleiding van de Information Influx conferentie, die plaatsvindt van 2 tot 4 juli in Amsterdam. Beide auteurs zullen op deze conferentie spreken in een sessie over dit onderwerp.