Musk op een symposium over antisemitisme in Krakau, Polen, 22 januari 2024Beata Zawrzel/AP
Elon Musk heeft zei dat hij wil dat X, voorheen bekend als Twitter, het “openbare plein” van het internet wordt, een essentiële plek voor discours en democratie. Maar er is een groot probleem: desinformatie tiert welig op X in de aanloop naar de verkiezingen in november, inclusief content gericht op de Democratische presidentskandidaat Kamala Harris. Moeder Jones meldde zondag dat die content deepfakes bevat die Musk zelf deelde en die gedeeld werden door een account dat Donald Trumps feed van Truth Social opnieuw post. Musk, die sinds najaar 2022 eigenaar is van X, heeft Trump gesteund als president.
Vooraanstaande verkiezingsfunctionarissen maken zich zorgen over mogelijke schade door X. Maandag stuurden vijf ministers van Buitenlandse Zaken, afkomstig uit Minnesota, Pennsylvania, Michigan, Washington en New Mexico, een brief naar Musk waarin ze eisten dat hij “onmiddellijk veranderingen doorvoerde” in Grok, de door AI aangestuurde zoekassistent die beschikbaar is voor premiumabonnees op X, nadat deze gebruikers had geïnformeerd dat Harris haar kandidatuur te laat had aangekondigd om op stembiljetten in negen staten te verschijnen. Dat is niet waar.
Ongeveer 24 uur na Moeder Jones vroeg eerst bij de Trump-campagne en X naar de deepfake, X noemde het “gemanipuleerde media”, maar liet het online staan.
In de brief staat dat de valse informatie “herhaaldelijk in meerdere berichten werd gedeeld, waarmee miljoenen mensen werden bereikt”, en voortdurend werd verspreid door Grok totdat het uiteindelijk werd gecorrigeerd, 10 dagen nadat Biden zich uit de race had teruggetrokken en Harris’ kandidatuur had gesteund. Minister van Buitenlandse Zaken van Minnesota Steve Simon, die het initiatief voor het schrijven van brieven leidde, vertelde de Washington Post: “Dit is een geval waarin de eigenaar van het openbare plein (het socialemediabedrijf zelf) degene is die de slechte informatie heeft geïntroduceerd en verspreid, en vervolgens het corrigeren van zijn eigen fout heeft uitgesteld nadat hij erachter kwam dat de informatie onjuist was.”
Simon en de andere ondertekenaars vertegenwoordigen vijf van de negen staten die het onderwerp waren van de desinformatie. De andere staten zijn Indiana, Alabama, Ohio en Texas. (Een woordvoerder van Simon zei dat zijn kantoor heeft aangeboden dat alle negen staten aan de brief zouden deelnemen.) Vier van de ondertekenaars van de brief zijn Democratische ministers van Buitenlandse Zaken, afgezien van Al Schmidt uit Pennsylvania, een Republikein.
De brief vraagt Musk om het voorbeeld van OpenAI te volgen door Grok-gebruikers door te verwijzen naar CanIVote.org, een onafhankelijke website gericht op kiezersregistratie, wanneer gebruikers vragen stellen over verkiezingen. Maar dat lijkt onwaarschijnlijk, aangezien Musk eerder de ChatGPT van OpenAI beschreef als “diep geworteld” in wat hij het “woke mind virus” noemt. En toen X Grok afgelopen november lanceerde, beschreef het bedrijf het als ontworpen om “pittige vragen te beantwoorden die door de meeste andere AI-systemen worden afgewezen.”
Woordvoerders van X en de Harris-campagne reageerden niet op verzoeken om commentaar van Moeder Jones over de brief aan Musk.
De afgelopen dagen circuleerden er twee nepvideo’s van Harris op X, dankzij Trump en Musk. Zoals ik zondag al aangaf, zijn die video’s tientallen miljoenen keren bekeken, ondanks dat ze in strijd lijken te zijn met X’ eigen servicevoorwaarden, die het delen van “synthetische, gemanipuleerde of uit de context gehaalde media die mensen kunnen misleiden of verwarren en tot schade kunnen leiden” verbieden.
De eerste, een gemanipuleerde video die bekendstaat als een “deepfake”, werd op 26 juli door Musk zelf gedeeld. en bevatte nep-audio waarop Harris zichzelf “de ultieme diversiteitshuur” noemde en president Biden degradeerde. De post staat nog steeds op Musks account, waar hij de video “geweldig” noemt, naast een lachende emoji, en heeft meer dan 134 miljoen keer bekeken.
De tweede deepfake bevat een gemanipuleerde video van Harris die is afgeleid van opmerkingen die ze maakte na de vrijlating op vrijdag van Amerikanen die ten onrechte door Rusland waren gevangengezet. Trump deelde de nepvideo op Truth Social op zaterdag; deze werd al snel opnieuw gedeeld op X door een account dat Trumps Truth Social-content letterlijk post. De video was dinsdag meer dan 764.000 keer bekeken op X.
Het is onduidelijk wie de nepvideo op Truth Social heeft gemanipuleerd en als eerste heeft gepost. In antwoord op specifieke vragen van Moeder Jones Zondag antwoordde Trump-woordvoerder Steven Cheung over de deepfake: “Je telefoon of computer moet wel verneukt zijn, want de audio/video komen overeen.”
Maar maandagmiddag, ongeveer 24 uur later, Moeder Jones vroeg eerst bij de Trump-campagne en X naar de deepfake—X noemde het “gemanipuleerde media” en liet het online staan. (Het beleid van het platform zegt dat het zulke labels toevoegt wanneer het geen content verwijdert, een stap die het alleen neemt in gevallen van “zeer ernstige schendingen”.)
Cheung reageerde niet op een vervolgvraag over het label ‘gemanipuleerde media’.
Zoals ik ook op zondag meldde, zijn de gemanipuleerde video’s en de valse verkiezingsclaims van Grok niet de eerste desinformatie die Harris op X richt. Het is onwaarschijnlijk dat ze de laatste zullen zijn, gezien Musks volledige steun voor Trump en zijn neiging tot provocatie. Dinsdag verklaarde Musk de “oorlog” aan adverteerders die volgens X het platform illegaal boycotten vanwege politiek.
Bron: www.motherjones.com
