Eigen toezichtraad tikte Facebook in eerste jaar vaak op de vingers
In zeventig procent van de zaken die Facebooks eigen toezichtraad in het eerste jaar behandelde, zat het online netwerkplatform fout. De raad keek in totaal naar twintig zaken en oordeelde dus vaak dat Facebook en Instagram onterecht kozen voor het verwijderen van onder meer berichten en reacties.
Dat blijkt uit een analyse van de NOS op basis van de tot nu toe gepubliceerde besluiten. De raad, die officieel de Oversight Board heet, is ingesteld om de meest ingewikkelde zaken te bespreken als de beroepsmogelijkheden binnen Facebooks moederbedrijf Meta op zijn. Vandaag is het precies een jaar geleden dat de toezichtraad voor het eerst uitspraken publiceerde.
De grootste zaak die werd behandeld, ging over Trump. Daarnaast strekte het werk van de raad zich uit van een zaak over kritiek op het Franse coronabeleid, een videofragment met zwarte pieten uit Nederland tot een bericht dat opnieuw werd gedeeld door een nieuwsorganisatie in Colombia.
Een fractie van alle zaken
Het werk van de toezichtraad is relevant, omdat het een uniek perspectief heeft op het moderatiebeleid en hierop invloed kan uitoefenen. Tot nu toe zijn er al honderdduizenden beroepszaken ingediend. Dat kan worden gezien als een belangrijke achilleshiel: de raad moet héél selectief zijn. Aan de hand van de nu beschikbare data gaat het om 0,002 procent van alle zaken. Tegelijkertijd is dit juist ook de opzet; alleen kijken naar zaken met een potentiële precedentwerking en een grote impact.
De toezichtraad was een idee van topman Mark Zuckerberg. Hij bepaalde dat een panel van deskundigen zou beslissen over de hete hangijzers in plaats van hijzelf.
Het initiatief kreeg ook kritiek: het werd gezien als rugdekking voor Zuckerberg; het bedrijf zou hiermee regulering kunnen ontwijken. Meta's verweer hierop is dat Zuckerberg zelf ook regulering wil. Ook werden vraagtekens gezet bij de onafhankelijkheid van de raad. De leden van de raad krijgen een vergoeding voor hun werk.
Een zaak die in het eerste jaar veel aandacht kreeg, was de keuze om oud-president Trump voor onbepaalde tijd te schorsen van Facebook. Een besluit dat als een boemerang ook Facebook zelf trof: de toezichtraad vond dat Facebook de eigen verantwoordelijkheid ontweek.
Een overzicht van wat het eerste jaar van de Oversight Board opleverde:
Facebook heeft zogeheten community richtlijnen - het equivalent van de Nederlandse wetgeving - die leidend moeten zijn bij de vraag of iets wel of niet door de beugel kan. En juist die 'wetten' en de toepassing ervan worden stevig bekritiseerd. Veel voorkomende kritiek betreft onduidelijkheden in de richtlijnen en gebrek aan transparantie in uitleg aan gebruikers over de moderatiekeuzes.
Borstkankercampagne niet herkend
Een ander probleem is het feit dat het bedrijf gebruikmaakt van geautomatiseerde systemen om content te weren. Dat is ook nodig: Facebook en Instagram zijn té groot om alleen aan menselijke moderatoren over te laten. Maar het geautomatiseerde systeem laat steken vallen: zo werd een campagne om aandacht te vragen voor borstkanker, met foto's waarop een tepel te zien was, niet herkend en vervolgens geweerd.
Het werk van de toezichtraad brengt ook een ander knelpunt aan de oppervlakte. Waar de raad genoeg tijd en geld heeft om zaken te bestuderen, hebben de duizenden moderatoren die élke dag dit werk doen, die tijd vaak niet. Zij maken keuzes onder hoge druk en bekritiseerde werkomstandigheden.
"Facebook zet de Oversight Board neer als een soort pseudorechtbank. Maar hun reikwijdte is extreem gelimiteerd", zegt UvA-onderzoeker Naomi Appelman. Ze noemt het werk van de raad een totaal ander verhaal dan de praktijk van de handhaving. "Daar gaat een enorm systeem achter schuil, wat op veel punten compleet gebroken is."
"Uiteindelijk heb je verschillende ingrediënten nodig om dit probleem aan te pakken", zegt Pietro Ortolani, hoogleraar Digitale Conflictoplossing (Radboud Universiteit). "Maar daarmee kun je het gewoon niet helemaal oplossen - je maakt het hoogstens meer beheersbaar."
Volgende stap: metaverse?
Daarbij komt nog dat Meta, net als veel andere partijen in Silicon Valley, alweer inzet op een nieuw platform: de metaverse. Het is een concept van hoe de volgende versie van het internet eruit zou kunnen zien. Maar nu al klinken er waarschuwingen: de metaverse modereren zal een nog véél grotere uitdaging zijn.
