Afgelopen najaar hebben tweeënveertig Amerikaanse staten plus het District of Columbia Meta, het moederbedrijf van Facebook en Instagram, aangeklaagd wegens het doelbewust ontwerpen van zijn populaire apps om de gebruikerstijd te maximaliseren en tegelijkertijd de schade voor gebruikers, vooral jongeren, te verbergen om hen het platform te laten gebruiken. . De staten beweren ook dat het bedrijf op de hoogte is van een groot aantal minderjarige gebruikers en hun gebruik van het platform stilzwijgend heeft geaccepteerd.
Deze actie staat los van de andere rechtszaak die tegen Meta is aangespannen door de Federal Trade Commission en zesenveertig staten, wegens het monopoliseren van sociale media via de overnames van WhatsApp en Instagram, die momenteel wacht op een proefdatum. De straffen in deze nieuwe zaak over schade aan jongeren bedragen waarschijnlijk honderden miljoenen dollars, mogelijk meer, bovenop de schade aan de toch al gehavende reputatie van het bedrijf.
De staten willen ook rechterlijke bevelen om Meta te dwingen af te zien van enkele van haar meer beruchte praktijken. Techgiganten hebben de neiging om de overhand te hebben in juridische omgevingen, maar het aantal zaken en de verharding van de houding van beide partijen ten opzichte van de sociale-mediagigant suggereren dat het tij langzaam zou kunnen keren.
Als iemand die uitgebreid heeft gelezen en geschreven over de juridische uitdagingen voor Big Tech, zijn bij deze rechtszaken enkele van de meest verwerpelijk belastende documenten betrokken die ik in het openbaar heb zien verschijnen. Vooral de recente, niet-geredigeerde documenten staan vol met verbluffend gênante gesprekken tussen de hoogste leidinggevenden van Meta, waarbij CEO Mark Zuckerberg zelf bijzonder slecht ruikt.
De psychologische nadelen van zwaar gebruik van sociale media die door de staten worden genoemd, zijn onder meer slapeloosheid, angst en interferentie met het dagelijks leven. Het intensieve gebruik van meldingen en het ‘oneindige scrollen’ van de app-feeds creëren wat de staten ‘psychologisch manipulatieve productfuncties’ noemen.
De staten beweren dat Meta gebruikers op oneerlijke wijze in de val heeft gelokt en hen aan het platform heeft ‘verslaafd’. Die bewering is op het eerste gezicht enigszins onduidelijk: gebruiken we niet allemaal sociale media meer dan we waarschijnlijk zouden moeten doen, en is dat echt de schuld van Meta? Maar er bestaat in de wet een gevestigde opvatting dat jongeren bepaalde kwetsbaarheden met zich meebrengen en dat jongere mensen niet als volledig autonome besluitvormers mogen worden behandeld. Dit begrip wordt weerspiegeld in wettelijke vereisten, variërend van minimumleeftijdsbeperkingen voor het kopen van tabak tot wetten inzake meerderjarigheid.
Het Amerikaanse bedrijfsleven heeft inmiddels een lange staat van dienst in het misbruiken van deze kwetsbaarheden, die de overheid heeft geprobeerd te verhelpen met maatregelen als reclameverboden voor sigaretten. Maar ontwerpers van sociale media zijn berucht vanwege het ontwerpen van platforms met algoritmen die snel de interesses van een gebruiker leren kennen en hem een eindeloze stroom van die inhoud voeden, met alle gevolgen van dien.
Misschien wel het meest belastend in dit opzicht is een interne Meta-presentatie uit 2020 over productontwerp, waarin wordt gezegd dat het bedrijf moet profiteren van de al lang erkende psychologische zwakheden van jonge gebruikers. De presentatie merkte op dat ze “voorbestemd zijn voor impulsen, groepsdruk en potentieel schadelijk risicovol gedrag” en stelde dat ze, in plaats van haar platforms zo te ontwerpen dat ze geen schade toebrengen aan minderjarigen, misbruik zou moeten maken van hun kwetsbaarheden.
“Tieners zijn onverzadigbaar als het gaat om ‘feel good’ dopamine-effecten”, luidt de presentatie. Verder wordt opgemerkt dat het oude Facebook-platform zelf al is ontworpen om regelmatig de ‘dopamine-hit’ van sociale bevrediging te bieden, waardoor een blijvende gewoonte wordt opgebouwd.
Maar het is onduidelijk of de juridische claim van de staten inzake gebruikersschade in de rechtbank zal prevaleren, aangezien gebruikers technisch gesproken geïnformeerde toestemming geven wanneer ze accounts aanmaken, en er weinig juridisch precedent bestaat voor het houden van bedrijven die verantwoordelijk zijn voor overmatig gebruik van hun producten door consumenten.
Het sterkere deel van de zaak is waarschijnlijk de bewering dat metaplatforms vol zitten met minderjarige gebruikers. Ondanks dat het bedrijf op de hoogte is gebracht van meer dan een miljoen accounts die zijn opgezet door gebruikers onder de dertien, heeft het bedrijf slechts een fractie daarvan uitgeschakeld, en de staten noemen het gebruik van Instagram door minderjarigen “een publiek geheim” binnen het bedrijf. Het platform bleef ook persoonlijke gegevens verzamelen over minderjarige gebruikers, zoals geslacht en geboortedata, die waarschijnlijk in strijd zijn met de Children’s Online Privacy Protection Act (COPPA). Die wet vereist dat bedrijven toestemming van hun ouders krijgen voordat ze gegevens over minderjarigen verzamelen.
Interne documenten in de niet-verzegelde klacht zijn vrij openhartig, waaronder een bedrijfsdiagram dat laat zien hoe Meta dagelijks het aandeel gebruikers onder de dertien op Instagram monitorde. De bedrijfsdocumenten beschrijven een algoritme-schatting van maximaal vier miljoen accounts voor minderjarigen en bevatten interne diagrammen die een sterk gebruik door elf- en twaalfjarigen laten zien. Meta maakt gebruik van zwakke maatregelen voor leeftijdsverificatie, waarbij alleen de leeftijdsverklaring van de gebruiker vereist is, en heeft slechts een klein aantal medewerkers in dienst die zich bezighouden met gerapporteerd gebruik door minderjarigen. Instagram heeft een achterstand van miljoenen gerapporteerde minderjarige accounts die moeten worden beoordeeld.
Niets helpt de zaak is recente berichtgeving, geleid door de Wall Street Journal, op de videofunctie van Instagram, Reels, die is ontworpen om de gebruikersinteractie te maximaliseren, net als de rest van de online platforms. Beginnend met de simpele observatie dat veel accounts van jonge vrouwelijke influencers, zoals gymnasten of productrecensenten, grote aantallen volwassen mannen onder hun volgers hebben, logboek heeft dummy-accounts gemaakt om dezelfde jonge vrouwen te volgen.
De dummy-accounts werden vervolgens door het algoritme aangemoedigd om andere volwassen gebruikers te volgen die uitgebreid posten over seks met volwassenen en jongeren, en vertoonden vervolgens video na video van seks met volwassenen, jongeren die zich bezighielden met flirterige activiteiten en advertenties voor nationale merken. De verslaggevers van de krant concludeerden dat “hoewel gymnastiek misschien een onschadelijk onderwerp lijkt, uit Meta’s gedragsonderzoek is gebleken dat sommige Instagram-gebruikers die jonge meisjes volgen, zich willen bezighouden met video’s waarin kinderen seksualiseren, en dergelijke inhoud vervolgens op hen richten.”
Het radioactieve karakter van het seksualiseren van jongeren is zodanig dat dit specifieke onderwerp waarschijnlijk door het bedrijf zal worden aangepakt, vooral als dit leidt tot aansprakelijkheid onder COPPA. Het lijkt erop dat de marktkrachten dit gedrag waarschijnlijk niet zullen kunnen stoppen logboek lees bedrijfsdocumenten waaruit blijkt dat “het veiligheidspersoneel van het bedrijf in grote lijnen wordt uitgesloten van het aanbrengen van wijzigingen aan het platform die het aantal dagelijkse actieve gebruikers met enig meetbaar bedrag zouden kunnen verminderen.”
Een ander interessant kenmerk van de klacht van de staten betreft de besluitvorming met betrekking tot deze problemen, met name het misbruik van meldingen om gebruikers aan hun apparaten en platforms vast te houden. De eigen Chief Marketing Officer van het bedrijf steunde een voorstel om te bezuinigen op het intensieve gebruik van meldingen door het platform en schreef in een e-mailthread: “Fundamenteel geloof ik dat we als bedrijf misbruik hebben gemaakt van het meldingenkanaal.”
De productchef was het daarmee eens, maar werd door Zuckerberg zelf overstemd. Een andere directeur zei later dat de bedrijfsmaatstaf voor dagelijks gebruik “op dit moment een grotere zorg voor Mark is dan de gebruikerservaring.”
Deze heerszuchtige houding komt voort uit de nog steeds gigantische omvang van het platform en het schijnbare vermogen om straffen zonder veel consequenties op te vangen. We hoeven alleen maar te denken aan het beruchte Cambridge Analytica-schandaal rond het opzuigen van persoonlijke gegevens in 2018-2019, toen de FTC Facebook schuldig bevond aan het overtreden van de privacybeschermingsvoorwaarden van het toestemmingsdecreet uit 2011 en het bedrijf een gigantische boete van meerdere miljarden dollars oplegde. Zoals destijds werd gemeld, bedroeg de boete alleen al dat jaar slechts 9 procent van de omzet van Facebook.
Ook al vecht het bedrijf tegen meerdere juridische uitdagingen onder het gewicht van belastende documenten, schuwt het bedrijf politieke controverses niet bepaald. Meta blokkeert momenteel nieuws in Canada uit protest tegen de Online News Act, die sociale-mediabedrijven verplicht om nieuwsorganisaties te betalen voor nieuws dat op hun platforms wordt gedeeld. Na vier maanden is het Canadese gebruik van het platform nauwelijks afgenomen, maar wetgevers en toezichthouders zijn steeds meer geïrriteerd over het bedrijf. In de Verenigde Staten heeft het bedrijf onlangs aangekondigd dat het politieke advertenties zal toestaan om de integriteit van de presidentsverkiezingen van 2020 in twijfel te trekken, maar niet de komende race van 2024.
Na jaren van afnemende groei en winst, deels doordat het bedrijf een oceaan aan geld heeft uitgegeven om zijn Metaverse-flop te ontwikkelen, staat het bedrijf weer in het groen. Zowel de omzet als de winst zijn de afgelopen kwartalen met dubbele cijfers gestegen, nadat Zuckerberg ruim 21.000 werknemers had ontslagen.
Maar zelfs de genegenheid van investeerders en Wall Street is misschien niet genoeg voor een bedrijf met zoveel belastende opmerkingen in het openbaar. Openbare rechtszaken tegen de grote platforms lopen meestal op niets uit of leveren slechts bescheiden grote economische boetes op, zoals boetes van miljarden dollars. Of Meta deze reeks van overwinningen kan voortzetten, hangt af van de hoeveelheid beschamende vuile wasdistrictrechters van bedrijven die bereid zijn te blijven negeren.
Bron: jacobin.com
