Bengaluru, India – Begin maart werd een realistisch, door AI gegenereerd beeld van de Indiase premier Narendra Modi, gestileerd als Bhishma Pitamah uit het oude hindoeïstische epos Mahabharata, als politieke advertentie op Instagram gepromoot.
Met lang golvend grijs haar, een zonvormige vlek op zijn voorhoofd en een kogelvrij vest, beeldde de afbeelding uit wat Modi-fans zien als zijn rol in de wereld van vandaag: een reïncarnatie van opperbevelhebber Bhishma die vocht tegen buitenlandse dreigingen.
Deze Instagram-afbeelding, gemaakt door de rechtse pagina Hokage Modi Sama en voor het eerst gepost in 2023, werd in maart twee dagen lang gepromoot als politieke advertentie en leverde meer dan 35.000 impressies op.
Uit een Al Jazeera-overzicht van Meta Ad Library-gegevens van politieke advertenties in India van de afgelopen drie maanden bleek dat Hokage Modi Sama tussen 27 februari en 21 maart bijna 50 door AI gegenereerde afbeeldingen van Modi promootte, waardoor het de grootste adverteerder werd van Door AI gegenereerde Modi-afbeeldingen op Instagram.
De Meta Ad Library is een openbaar archief dat een verzameling politieke advertenties host die op zijn platforms worden weergegeven, waaronder Instagram en Facebook.
Het gemeenschappelijke thema in alle afbeeldingen die door het handvat werden gedeeld, was de valorisatie van Modi als hindoeïstische leider. Populaire AI-afbeeldingen, gestimuleerd door gesponsorde berichten op Hokage Modi Sama, tonen Modi als een reïncarnatie van Bhishma, een zoon van God die een pak draagt, die het hindoeïstische erfgoed omarmt en de koning van de hindoe-Rashtra op zijn troon heeft gezeten, wat miljoenen likes en views heeft opgeleverd. (Hindu Rashtra is de controversiële ideologie van een Hindoe-meerderheidsheerschappij in India, een stap verwijderd van het seculiere grondbeginsel.)
“Door deze beelden lijkt de poging te zijn om Modi een gelijktijdige wijze-achtige en krijger-achtige kwaliteit te geven, die beide de uitstraling creëren van een politieke leider die onvermoeibaar, onverslaanbaar, onberispelijk is en dus onze onbetwiste loyaliteit waardig is. ”, vertelde Amogh Dar Sharma, een docent aan de Universiteit van Oxford die politieke communicatie bestudeert, aan Al Jazeera.
Maar de berichten van de meest productieve online adverteerder van Modi’s AI-afbeeldingen laten ook de uitdagingen zien bij het afdwingen van AI-gerelateerde regels op sociale media, te midden van de angst dat gemanipuleerde afbeeldingen worden gebruikt voor propaganda onder kiezers die misschien niet volledig begrijpen in hoeverre foto’s en afbeeldingen worden gewijzigd. memes hadden kunnen passeren.
Meta is zich bewust van dergelijk gebruik en heeft vóór het cruciale verkiezingsjaar 2024 aangekondigd dat vanaf januari politieke advertenties op Instagram en Facebook die met behulp van kunstmatige intelligentie (AI) zijn gemaakt, het gebruik openbaar zullen moeten maken, anders riskeren ze verboden te worden.
In de 30 dagen voorafgaand aan 29 maart heeft Hokage Modi Sama 537.799 Indiase roepies ($6.500) uitgegeven om 363 stukken politieke inhoud te promoten, waaronder afbeeldingen en video’s op zijn Instagram-pagina, volgens gegevens van de Meta Ad Library. Uit onze analyse blijkt dat bijna 14 procent van alle gesponsorde advertenties, bestaande uit 50 afbeeldingen, door AI werd gegenereerd.
Alle Hokage Modi Sama AI-advertenties waren gesponsorde berichten op Instagram en de openbaarmaking van het gebruik van AI gebeurde via hashtags zoals #aiartwork, #midjourneyart, #midjourneyai en anderen. Midjourney, waar de hashtags naar lijken te verwijzen, is een populair generatief kunstmatige-intelligentieprogramma.
Maar Meta vertelde Al Jazeera dat hashtags geen acceptabele openbaarmaking zijn voor een advertentie die digitaal is gemaakt of gewijzigd. In gevallen waarin adverteerders moeten onthullen dat hun inhoud digitaal is gemaakt of gewijzigd, voegt Meta een label toe met de tekst ‘Digitaal gemaakt’ naast de disclaimer ‘Betaald door’, ook in de Advertentiebibliotheek. Dergelijke labels zijn momenteel niet aanwezig in Hokage Modi Sama AI-advertenties.
Meta gaf geen antwoord op de specifieke vraag van Al Jazeera of de fotorealistische afbeeldingen van Modi in strijd waren met het beleid van het afbeelden van een echte persoon die iets doet wat hij niet deed, of van het weergeven van een realistisch ogende gebeurtenis die niet heeft plaatsgevonden.
In plaats daarvan wees Meta de verslaggever van Al Jazeera op een blogpost uit maart 2024 over AI-openbaarmakingsvereisten voor adverteerders en hoe het bedrijf zich voorbereidt op de Indiase verkiezingen.
Prateek Waghre, de uitvoerend directeur van de in India gevestigde Internet Freedom Foundation (IFF), vertelde Al Jazeera dat, aangezien deze specifieke advertenties zijn getagd als #aiart, het nodig is dat makers van inhoud de poging erkennen om AI-beelden op een of andere manier te stimuleren. van openbaarmaking om te voldoen aan het onlangs bijgewerkte beleid van Meta dat openbaarmaking van AI vereist.
AI gebruikte vroeger ‘strategische verhalen’
Indiase verkiezingscampagnes zijn een voertuig geweest voor een langzame verspreiding van door AI gegenereerde beelden en video’s, onder meer door AI-opstandingen van dode politieke leiders, en het gebruik ervan als campagnekunst in officiële partijverslagen, zoals Al Jazeera eerder meldde. Ondanks de dreiging van door AI gegenereerde verkeerde verkiezingsinformatie, worden deepfakes niet uitsluitend gebruikt om kiezers te misleiden. In plaats daarvan wordt generatieve AI gecoöpteerd om een verhaal op te bouwen.
“Hoewel desinformatie absoluut een serieus probleem is dat onze aandacht vereist, leidt het ook de aandacht af van de meer subliminale manieren waarop AI-gegenereerde inhoud kan helpen strategische verhalen van politieke partijen te pushen”, vertelde Sharma van de Universiteit van Oxford aan Al Jazeera, na beoordeling van de AI. beeldadvertenties.
“Het is niet simpelweg zo dat AI kiezers ‘misleidt’ om iets te geloven dat overduidelijk onwaar is; in plaats daarvan maakt AI het mogelijk om inhoud te produceren die creatiever is en die kan putten uit meer innovatieve culturele referenties – dit levert politieke propaganda op die leuker is en daarom beter deelbaar, wat een wijdverbreide verspreiding mogelijk maakt”, voegde hij eraan toe.
De populairste AI-afbeelding die door de Hokage Modi Sama-pagina is geplaatst, is bijvoorbeeld ‘Onze Saffron Superhero’. Het toont Modi die een saffraankleurige kurta-pyjama draagt, met een vloeiende cape die onder de “Om”-vlag loopt, een spiritueel Hindoe-symbool. Het AI-beeld heeft bijna twee miljoen likes met opmerkingen als: “Wie wil dat India een hindoe-natie wordt?” in het commentaargedeelte op Instagram. De meeste afbeeldingen herschrijven de Indiase premier als een “redder”, “in saffraan geklede bewaker van de toekomst van India”, “symbool van de hindoe-renaissance” en meer.
Sharma wees erop dat het mythologiseren van politieke leiders of het opnemen ervan in hindoeïstische heldendichten niet nieuw is, maar dat AI het wel mogelijk maakt dit met grotere finesse uit te voeren.
“Deze door AI gegenereerde beelden van Narendra Modi lijken de nieuwste versie te zijn van een langlopende strategie van de BJP om een cultus te creëren over [Modi] als een wijze en scherpzinnige leider”, zei Sharma.
Hoewel de Instagram- en Facebook-pagina’s van Hokage Modi Sama geen expliciete disclaimers hebben over een directe band met Modi’s Bharatiya Janata Party (BJP), heeft de pagina een geschiedenis van het publiceren van pro-Hindutva- en pro-BJP-inhoud. Voorheen had de pagina grip gekregen na het delen van een afbeelding van Elon Musk, de eigenaar van sociale-mediaplatform X, als een hindoe-monnik, met het onderschrift ‘Onze mede-bhakt Elon’, waarmee wordt bedoeld dat Musk een hindoe-nationalist is.
Meerdere pogingen om contact op te nemen met de beheerder van Hokage Modi Sama waren niet succesvol. In de anime Naruto is “Hokage” een prestigieuze titel die aan een dorpsleider wordt toegekend, terwijl Sama een respectvolle manier is om “meneer” te zeggen in het Japans, dus de pagina betekent grofweg “Leider Modi Heer”. De Instagram-handle met 130.000 volgers verkoopt inmiddels merchandise zoals T-shirts, koffiemokken en agenda’s gebaseerd op het saffraan-superheld AI-imago.
Wereldwijd worden AI-beelden gebruikt in politieke campagnes. In maart gebruikten aanhangers van de campagne van de Amerikaanse presidentskandidaat Donald Trump valse AI-beelden waarop hij poseerde met zwarte kiezers voor “strategische outreach” naar de zwarte gemeenschap. In Argentinië gebruikten twee presidentskandidaten door AI gegenereerde beelden om hun populariteit te vergroten en tegenstanders aan te vallen. En in Indonesië gebruikte de nieuwgekozen president Prabowo Subianto, de ooit gevreesde militaire dictator, AI-beelden om zichzelf op zijn campagnespoor om te vormen tot een ‘knuffelige opa’.
In India meldde factcheck-outlet BOOM Live, in de aanloop naar de staatsverkiezingen in Telangana in december 2023, dat AI-beelden de regionale politieke leider K Chandrashekar Rao ten onrechte afbeeldden bij de lancering van een gratis maaltijdenprogramma voor studenten, waar hij nooit aan deelnam. .
Uit een Al Jazeera-recensie van de Meta Ad Library uit december 2023 bleek dat de pagina Mana Telangana meerdere nep-AI-afbeeldingen deelde op Instagram en Facebook van de Indiase oppositieleider Rahul Gandhi van de Congress Party die poseerde met kinderen en boeren. Boeren vormen een invloedrijk stemblok in India en hebben herhaaldelijk geprotesteerd tegen Modi’s marktvriendelijke landbouwwetten.
Gandhi’s nepbeeld met boeren ging vergezeld van het onderschrift: “Rahul Gandhi leeft mee met boeren en belooft onwrikbare steun en een engagement om hun zorgen individueel aan te pakken.” Het gesponsorde bericht bevatte de hashtags #aigenerated en #aiimages, wat aangeeft dat ze door AI waren gegenereerd, en had naar schatting 7.000 vertoningen.
West versus Mondiaal Zuid
Er is ook een verschil in de manier waarop platforms in het Westen en het Zuiden de trend van AI-beelden in de aanloop naar de verkiezingen aanpakken.
Om bijvoorbeeld het mogelijke misbruik van AI-beelden in de aanloop naar de Amerikaanse presidentsverkiezingen in november te beperken, verbood de populaire AI-beeldgenerator Midjourney in maart de creatie van nep-beelden van president Joe Biden en Donald Trump.
Maar dergelijke stappen zijn er in India niet geweest, wat aanleiding geeft tot “zorg over de rechtvaardige handhaving van beleid door technologieplatforms in verschillende regio’s”, vertelde Baybars Orsek, de directeur van Logically Facts, aan Al Jazeera. Logisch gezien maakt Facts deel uit van Meta’s factcheckprogramma van derden en van de alliantie voor de bestrijding van desinformatie in India.
Pogingen van Al Jazeera om tijdens Midjourney AI-beelden te genereren van Modi en Gandhi die elkaar de hand schudden, waren succesvol, terwijl de prompt om een beeld te genereren van Modi en Trump die elkaar de hand schudden resulteerde in een melding “Banned Prompt Detected”.
“Dit besluit brengt de verschillen aan het licht in de manier waarop een dergelijk gematigd beleid wereldwijd wordt toegepast, vooral in de context van het Mondiale Zuiden, inclusief landen als India, dat op weg is naar de belangrijkste verkiezingen van het jaar”, aldus Orsek.
Al Jazeera heeft Midjourney een e-mail gestuurd over de ongelijkheid in gematigdheid en heeft nog geen reactie ontvangen.
Het is vergelijkbaar met hoe het beleid van sociale mediabedrijven zoals Facebook en Twitter om hun platforms veilig te houden, zich naar het Westen richt en vaak de perspectieven vanuit het Mondiale Zuiden verwaarloost, voegde Waghre van het IFF toe.
Bron: www.aljazeera.com
