Het is gemeengoed geworden in politieke campagnes in de Verenigde Staten: advertenties die overweldigende claims van dystopie maken als de tegenkandidaat wint. Gemanipuleerde, onderbelichte beelden en uitgekiende krantenkoppen zorgen samen voor een crescendo van onheil.
Maar in de nasleep van de aankondiging van dinsdag dat de Democratische president Joe Biden zich kandidaat stelt voor herverkiezing, viel een officiële video van de Republikeinse Partij om één specifieke reden op: deze werd volledig gegenereerd met behulp van afbeeldingen van kunstmatige intelligentie (AI).
De omarming van de “transformatieve technologie van onze tijd” door het Republikeinse Nationale Comité is niet verwonderlijk gezien de snelle vooruitgang en beschikbaarheid van AI-producten, zei Darrell West, een senior fellow bij het Center for Technology Innovation van het Brookings Institution.
Het gebruik van AI door de Republikeinse Partij is een vroeg teken van wat waarschijnlijk gaat komen, vertelde hij aan Al Jazeera.
“Drie jaar geleden werd AI niet echt gebruikt in verkiezingscampagnes. Maar de technologieën ontwikkelden zich zeer snel. En nu is de technologie direct beschikbaar, ‘zei hij. “Je hoeft geen softwareontwerper of videobewerkingsexpert te zijn om heel realistisch ogende video’s te maken.”
“Het is onbekend terrein”, voegde hij eraan toe. “We zijn verder gegaan dan het photoshoppen van kleine delen van een afbeelding, maar we hebben in feite een geheel nieuwe afbeelding uit het niets gegenereerd. Dat geeft mensen de vrijheid om allerlei soorten video’s te maken en nieuwe realiteiten te projecteren die misschien niet echt bestaan.”
En zo begint het – #generatiefai gebruikt om desinformatie en deepfake verkiezingscampagnevideo’s te maken.
Het Republikeinse Nationale Comité heeft zojuist een advertentie tegen Biden uitgebracht met behulp van door AI gemaakte beelden. Voor de pandemie hield ik een lezing over de gevaren van deepfakes in… pic.twitter.com/7bw2yCn24Z
— Theo (@tprstly) 26 april 2023
‘Een door AI gegenereerde look’
Het Republikeinse Nationale Comité van zijn kant was transparant over het gebruik van AI, een overkoepelende term voor systemen die menselijke cognitieve vaardigheden, zoals leren, redeneren en creativiteit, willen nabootsen en overtreffen.
In haar YouTube-beschrijving noemde de politieke groep de video “een door AI gegenereerde blik op de mogelijke toekomst van het land als Joe Biden in 2024 wordt herkozen”.
De video zelf bevatte ook een tekst met de tekst “volledig gebouwd met AI-beelden”. Realistisch ogende beelden gespeeld terwijl een nep-nieuwslezer de overwinning van Biden in 2024 aankondigde, gevolgd door een litanie van hypothetische rampen: China valt Taiwan binnen, financiële markten crashen, de zuidelijke grens wordt overschreden en ambtenaren sluiten San Francisco, “onder verwijzing naar de escalerende misdaad en fentanylcrisis” .
In veel opzichten wijkt de video niet veel af van de beelden en retoriek die gebruikelijk zijn in Amerikaanse campagnes.
Zoals de Washington Post in 2020 opmerkte: “het delen van vervalste beelden van een electorale rivaal is een versleten strategie van de moderne politiek”. De krant meldde dat er tijdens de ambtsperiode van voormalig president Donald Trump een “snelle versnelling” was van nepbeelden, “mogelijk omdat Trump een van hun meest populaire distributeurs is gebleken”.
Ondertussen hebben Amerikaanse rechtbanken herhaaldelijk een ruime interpretatie van het recht om valse of misleidende campagneverklaringen af te leggen, gehandhaafd. Onlangs oordeelde een hof van beroep in februari dat een wet in North Carolina die onwaarheden in campagnes verbiedt, “waarschijnlijk ongrondwettelijk” is.
Zei West, de technologie-innovatiemedewerker bij het Brookings Institution: “Rechtbanken hebben regelmatig geoordeeld dat campagnetoespraak beschermde meningsuiting is. Kandidaten kunnen zelfs willens en wetens valse dingen zeggen en ze nog steeds mogen zeggen.”
Tom Wheeler, de voorzitter van de Federal Communications Commission onder voormalig president Barack Obama, verwoordde het vorig jaar anders in een interview met NPR: “Helaas mag je liegen.”
Snelheid en verfijning
AI heeft echter het potentieel om die reeds bestaande campagnepraktijken een boost te geven, zei West, eraan toevoegend dat er “vrijwel geen controles zijn op het gebruik van deze technologie in een campagneomgeving”.
“Er is geen wettelijke verplichting om te erkennen dat je een door AI gegenereerde afbeelding gebruikt”, zei hij. “In dit geval heeft de RNC het vrijwillig onthuld … maar in de toekomst zullen er veel organisaties zijn die het zullen gebruiken zonder de kiezers te informeren.”
Zogenaamde deepfakes – video of audio die ten onrechte een persoon afbeelden die dingen zegt of doet – hebben aanleiding gegeven tot bijzondere bezorgdheid, ook al blijven ze tot nu toe aan de politieke marge.
Californië en Texas hebben vóór de algemene verkiezingen van 2020 wetten aangenomen, waarbij de eerstgenoemde verkeerd voorgestelde kandidaten toestond om deepfake-makers aan te klagen, en de laatste strafrechtelijke sancties oplegde voor deepfakes.
De federale inspanningen om de kwestie wettelijk vast te leggen hebben echter weinig vooruitgang opgeleverd, met vragen over de afdwingbaarheid en terugdringing van digitale rechtengroepen, die beweerden dat grote technologieplatforms toezicht zouden moeten houden.
‘Wilde Westen’-momentje
Ondertussen kunnen degenen die campagnes willen beïnvloeden “vrijwel onmiddellijk reageren” op de laatste gebeurtenissen, zei West.
“Kortom, je vraagt de AI om beelden te genereren. Je hebt ze binnen enkele seconden. Dus we gaan snel reagerende advertenties hebben: er gebeurt iets en vijf minuten later kan er een advertentie zijn.
“Het wordt een zeer snelle campagne met veel claims en tegenclaims die van minuut tot minuut plaatsvinden”, zei hij.
Democraten hebben naar verluidt ook aspecten van AI omarmd bij het voeren van campagnes, waarbij ze de technologie hebben getest om eerste concepten van enkele fondsenwervende berichten te schrijven, meldde de New York Times in maart.
Onder verwijzing naar drie mensen met kennis van de inspanning, meldde de krant dat berichten gegenereerd door AI en bewerkt door mensen bij het Democratic National Committee “even goed of beter presteerden dan teksten die volledig door mensen waren opgesteld, wat betreft het genereren van betrokkenheid en donaties”.
Het vermogen om snel specifieke kiezerssegmenten te bereiken – en mogelijk verkeerd te informeren – is vooral belangrijk in de presidentiële peilingen van 2024, die waarschijnlijk zullen neerkomen op “een of twee procent van de kiezers”, aldus West.
“Het is een Wild West-moment waar het voor kiezers onmogelijk zal zijn om echt van nep te onderscheiden”, zei hij.
“Van alle kanten komen er dingen op hen af en er bestaat het risico van wijdverbreide verwarring”, zei hij. “En dat kan tot slechte beslissingen leiden.”
Bron: www.aljazeera.com
