Nieuwe regels staan ​​beledigingen toe op Facebook en metaplatforms

Meta is nu door zijn gebruikers nieuwe vrijheid te geven om een ​​breed scala aan denigrerende opmerkingen over rassen, nationaliteiten, etnische groepen, seksuele geaardheden en genderidentiteiten te plaatsen, blijkt uit trainingsmateriaal verkregen door The Intercept.

Voorbeelden van nieuw toegestane spraak op Facebook en Instagram die in het trainingsmateriaal worden benadrukt, zijn onder meer:

“Immigranten zijn smerige, smerige stukken stront.”

“Homo’s zijn freaks.”

“Kijk eens naar die tranny (onder foto van 17-jarig meisje).”

De veranderingen maken deel uit van een bredere beleidswijziging, waaronder de opschorting van het factcheckingprogramma van het bedrijf. Het doel, zei Meta dinsdag, is om “meer spraak mogelijk te maken door de beperkingen op te heffen.”

Meta’s nieuw benoemde mondiale beleidschef Joel Kaplan beschreef de inspanning in een verklaring als een middel om “complexe systemen te repareren om inhoud op onze platforms te beheren, die voor ons steeds ingewikkelder worden om af te dwingen.”

Terwijl Mark Zuckerberg, CEO van Kaplan en Meta, de veranderingen hebben voorgesteld als een manier om gebruikers vrijer te laten deelnemen aan ideologische afwijkende meningen en politieke debatten, illustreren de voorheen ongerapporteerde beleidsmaterialen die door The Intercept zijn beoordeeld de mate waarin puur beledigende en ontmenselijkende retoriek nu wordt geaccepteerd. .

Het document biedt degenen die aan Meta-gebruikersinhoud werken een overzicht van de wijzigingen in het beleid inzake haatzaaien en begeleidt hen bij het toepassen van de nieuwe regels. De belangrijkste veranderingen gaan gepaard met een selectie van ‘relevante voorbeelden’: hypothetische berichten gemarkeerd met ‘Toestaan’ of ‘Verwijderen’.

Toen hem werd gevraagd naar de nieuwe beleidswijzigingen, verwees Meta-woordvoerder Corey Chambliss The Intercept naar opmerkingen uit Kaplan’s blogpost waarin de verschuiving werd aangekondigd: “We zijn bezig met het wegwerken van een aantal beperkingen op onderwerpen als immigratie, genderidentiteit en gender die het onderwerp zijn van frequent politiek discours en debat. Het is niet juist dat dingen op tv of in het Congres kunnen worden gezegd, maar niet op onze platforms.”

Kate Klonick, een expert op het gebied van inhoudsmoderatie die met The Intercept sprak, betwist Meta’s opvatting dat de nieuwe regels minder gepolitiseerd zijn, gezien de speelruimte die ze bieden om conservatieve boemans aan te vallen.

“Het trekken van lijnen rond contentmoderatie was altijd een politieke onderneming”, zegt Klonick, universitair hoofddocent rechten aan de St. John’s University en wetenschapper op het gebied van contentmoderatiebeleid. “Om te doen alsof deze nieuwe regels ‘neutraler’ zijn dan de oude regels is een farce en een leugen.”

Ze beschouwt de door Kaplan aangekondigde verschuivingen – voormalig plaatsvervangend stafchef van het Witte Huis onder George W. Bush en Zuckerbergs oude contactpersoon voor Amerikaans rechts – als “de openlijke politieke verovering van Facebook, vooral omdat de veranderingen toegeven aan een bepaalde partij. ”

Meta’s openbare gemeenschap Op de Standards-pagina staat dat het bedrijf, zelfs onder de nieuwe versoepelde regels, nog steeds “vluchtelingen, migranten, immigranten en asielzoekers beschermt tegen de zwaarste aanvallen” en “directe aanvallen” tegen mensen verbiedt op basis van “ras, etniciteit, nationale afkomst”. , handicap, religieuze overtuiging, kaste, seksuele geaardheid, seks, genderidentiteit en ernstige ziekten.” Maar de leerzame voorbeelden in het interne materiaal laten een grote verscheidenheid aan opmerkingen zien waarin mensen worden gekleineerd op basis van deze eigenschappen die zijn gemarkeerd met ‘Toestaan’.

Soms lijken de gegeven voorbeelden ingewikkeld of tegenstrijdig. Op één pagina wordt opgemerkt dat “generalisaties” over welke groep dan ook verboden blijven als ze een vergelijking maken met dieren of ziekteverwekkers – zoals “Alle Syrische vluchtelingen zijn knaagdieren.” Maar vergelijkingen met ‘vuiligheid of uitwerpselen’ worden nu gedegradeerd van haatzaaiende uitlatingen naar een minder ernstige vorm van ‘belediging’, die alleen in strijd is met de bedrijfsregels als deze gericht is tegen een beschermde groep. Volgens voorbeelden van Meta stelt deze verandering gebruikers nu in staat om immigranten in grote lijnen te ontmenselijken met uitspraken als “Immigranten zijn groezelige, smerige stukken stront”, ondanks taal elders in het document waarin wordt beweerd dat “vergelijkingen met onmenselijkheid” verboden blijven.

Het beleid van het bedrijf rond op misselijkheid gebaseerde haat volgt een bijzonder dunne lijn: “Migranten zijn niet beter dan overgeven” is volgens de materialen toegestaan, terwijl “Moslims zorgen ervoor dat ik moet overgeven” moet worden verwijderd omdat het een groep claimt. veroorzaakt ziekte.”

Hoewel algemene vergelijkingen met dieren nog steeds in strijd zijn met de regels, zijn er nu veel andere vormen van brede, hatelijke stereotypering toegestaan. “ALLE gedragsverklaringen (gekwalificeerd en niet-gekwalificeerd)” zijn nu ook niet langer in strijd met de regels van Meta, zo luidt het document, waardoor verregaande generalisaties mogelijk zijn die hele rassen of etnische groepen in verband brengen met criminaliteit of terrorisme. Het document geeft als voorbeelden van acceptabele raciale generalisaties: ‘Deze verdomde immigranten zijn niet te vertrouwen, het zijn allemaal criminelen.’ ‘Ik wed dat Jorge degene is die vandaag mijn rugzak heeft gestolen na de baantraining. Immigranten zijn allemaal dieven”, en “Japanners zijn allemaal Yakuza.” Het merkt echter op dat de verklaring “Zwarte mensen zijn allemaal drugsdealers” onder de nieuwe regels verboden blijft.

Andere delen van het materiaal geven voorbeelden van verboden ‘beledigingen over seksuele immoraliteit’, zoals ‘Joodse vrouwen zijn sletterig’. Maar het document biedt ook volop voorbeelden van nieuw toegestane beledigingen gericht op specifieke genderidentiteiten of seksuele geaardheden, waaronder “Homoseksuele mensen zijn zondaars” en “Transgenders zijn immoreel.” Een bericht waarin staat “Lesbiennes zijn zo dom” zou verboden blijven als “mentale belediging”, hoewel “Transgenders zijn geestelijk ziek” als toegestaan ​​wordt gemarkeerd.

Generalisaties over superioriteit en inferioriteit zijn eveneens ingewikkeld, hoewel aanvallen op immigranten vaak slagen. Voorbeelden van verboden inhoud zijn: “Christelijke mannen zijn totaal nutteloos”, “Ben ik het? Of zijn alle autistische vrouwen lelijk?” en “Spaanse mensen zijn net zo vies als de grond waarop we lopen.” Ondertussen: “Mexicaanse immigranten zijn afval!” wordt nu aanvaardbaar geacht.

Over het geheel genomen zijn de beperkingen op aanspraken op etnische of religieuze suprematie aanzienlijk versoepeld. Het document legt uit dat Meta nu “uitspraken van superioriteit toestaat, zolang de uitspraken niet verwijzen naar de minderwaardigheid van een ander [protected characteristic] groep (a) op basis van inherente intellectuele capaciteiten en (b) zonder ondersteuning.” Toegestane uitspraken onder deze regel zijn onder meer: ​​”Latino’s zijn de beste!” en “Zwarte mensen zijn superieur aan alle anderen.” Ook nu zijn vergelijkende beweringen aanvaardbaar, zoals ‘Zwarte mensen zijn gewelddadiger dan blanken’, ‘Mexicanen zijn luier dan Aziaten’ en ‘Joden zijn ronduit hebzuchtiger dan christenen.’ Off-limits, alleen omdat het betrekking heeft op intellectuele capaciteiten, is het voorbeeld ‘Blanke mensen zijn intelligenter dan zwarte mensen.’

Maar algemene uitspraken over intellect lijken toegestaan ​​als ze worden gedeeld met vermeend bewijsmateriaal. Bijvoorbeeld: “Ik heb net een statistisch onderzoek gelezen over Joodse mensen die slimmer zijn dan christenen. Voor zover ik kan zien, is het waar!” Het is onduidelijk of iemand een link moet leggen naar een dergelijk onderzoek, of alleen maar het bestaan ​​ervan moet beweren.

Ook de regels rond expliciete haatuitingen zijn aanzienlijk versoepeld. ‘Uitspraken van minachting, afkeer en afwijzing, zoals ‘ik haat’, ‘ik geef er niet om’ en ‘ik hou niet van’. worden nu als niet-schendend beschouwd en zijn toegestaan”, legt het document uit. Als acceptabele voorbeelden zijn berichten opgenomen waarin staat: “Ik geef niet om blanke mensen” en “Ik ben een trotse racist.”

De nieuwe regels verbieden ook het ‘targetten van vloeken’ op een beschermde groep, wat ‘het gebruik van het woord ‘fuck’ en zijn varianten omvat.’ Als voorbeeld wordt een bericht genoemd waarin staat: “Ugh, die verdomde Joden zijn weer bezig” in strijd met de regels, simpelweg omdat het obsceniteit bevat (de nieuwe regels staan ​​het gebruik van “bitch” of klootzak toe”).

Nog een beleidswijziging: “Het verwijzen naar het doelwit als genitaliën of anus wordt nu als niet-schendend beschouwd en is toegestaan.” Als voorbeeld van wat nu is toegestaan, biedt Facebook aan: “Italianen zijn klootzakken.”

Hoewel veel van de voorbeelden en het onderliggende beleid warrig lijken, toont het document duidelijkheid over het toestaan ​​van kleinerende opmerkingen over transgenders, inclusief kinderen. Opmerkend dat “’Tranny’ niet langer een beledigende smet is en nu niet in overtreding is”, bieden de materialen drie voorbeelden van spraak die niet langer mogen worden verwijderd: “Trannies zijn een probleem”, “Kijk eens naar die tranny (onder foto van 17-jarig meisje),” en “Haal deze trannies van mijn school (onder foto van middelbare scholieren).”

Na de publicatie van dit artikel liet Meta-woordvoerder Andy Stone aan The Intercept weten dat het bedrijf een fout had gemaakt in een van de voorbeelden in haar informatiemateriaal. Stone zei dat Meta inhoud wilde illustreren die niet zou zijn toegestaan ​​als het voorbeeld ‘Kijk eens naar die tranny (onder foto van 17-jarig meisje)’ bevatte.

Volgens Jillian York, directeur voor internationale vrijheid van meningsuiting bij de Electronic Frontier Foundation, zijn de beschermingsmaatregelen tegen haatzaaiende uitspraken van Meta historisch gezien goed bedoeld, maar in de praktijk zeer gebrekkig. “Hoewel dit vaak heeft geresulteerd in overmatige gematigdheid die ik en vele anderen hebben bekritiseerd, tonen deze voorbeelden aan dat Meta’s beleidsveranderingen politiek van aard zijn en niet bedoeld om simpelweg meer vrijheid van meningsuiting toe te staan”, aldus York.

Meta heeft internationale kritiek gekregen vanwege haar aanpak van haatzaaiende uitlatingen, met name vanwege de rol die haatzaaiende uitlatingen en ander ontmenselijkend taalgebruik op Facebook hebben gespeeld bij het aanzetten tot genocide in Myanmar. Na kritiek op de slechte behandeling van Myanmar, waar de Verenigde Naties ontdekten dat Facebook een “bepalende rol” had gespeeld in de slachting van meer dan 650.000 Rohingya-moslims, prees het bedrijf jarenlang zijn investeringen in het voorkomen van de verspreiding van soortgelijke retoriek in de toekomst.

“De reden dat veel van deze lijnen werden getrokken waar ze lagen, is omdat haatzaaiende uitlatingen vaak geen uitlatingen blijven, maar veranderen in gedrag in de praktijk”, zegt Klonick, een wetenschapper op het gebied van inhoudsmoderatie.

Het is een uitgangspunt dat Meta tot deze week beweerde te delen. “Wij hebben de verantwoordelijkheid om misbruik op Facebook te bestrijden. Dit geldt vooral in landen als Myanmar, waar veel mensen voor het eerst internet gebruiken en sociale media kunnen worden gebruikt om haat te verspreiden en spanningen ter plaatse aan te wakkeren”, schreef productmanager Sara Su van het bedrijf in een blogpost uit 2018. “Hoewel we onze aanpak van vals nieuws aanpassen gezien de veranderende omstandigheden, zijn onze regels inzake haatzaaiende uitlatingen hetzelfde gebleven: het is niet toegestaan.”

Update: 9 januari 2025, 21:11 ET
Dit artikel is bijgewerkt met commentaar van Meta-woordvoerder Andy Stone, waarin hij opmerkte dat een fout in de interne materialen van het bedrijf een bericht over transjongeren ten onrechte als toegestaan ​​classificeerde.