De Verenigde Staten Het geheime Special Operations Command is op zoek naar bedrijven die kunnen helpen bij het creëren van deepfake-internetgebruikers die zo overtuigend zijn dat noch mensen, noch computers in staat zullen zijn te detecteren dat ze nep zijn, volgens een aanbestedingsdocument dat is beoordeeld door The Intercept.
Het plan dat vermeld staat in een nieuwe verlanglijst van 76 pagina’s van het Joint Special Operations Command (JSOC) van het Ministerie van Defensie, schetst de geavanceerde technologieën die gewenst zijn voor de meest elitaire, clandestiene militaire inspanningen van het land. “Special Operations Forces (SOF) zijn geïnteresseerd in technologieën die overtuigende online persona’s kunnen genereren voor gebruik op sociale mediaplatforms, sociale netwerksites en andere online inhoud”, aldus de inzending.
Het document specificeert dat JSOC de mogelijkheid wil hebben om online gebruikersprofielen te creëren die “een uniek individu lijken te zijn dat herkenbaar is als mens, maar niet bestaat in de echte wereld”, waarbij elk profiel “meerdere uitdrukkingen” en “Government Identification-kwaliteitsfoto’s” bevat. ”
Naast stilstaande beelden van nagemaakte mensen merkt het document op dat “de oplossing gezichts- en achtergrondafbeeldingen, gezichts- en achtergrondvideo en audiolagen moet omvatten”, en JSOC hoopt “selfievideo” van deze verzonnen mensen te kunnen genereren. Deze video’s zullen meer dan alleen nepmensen bevatten: elke deepfake-selfie zal worden geleverd met een bijpassende nagemaakte achtergrond, “om een virtuele omgeving te creëren die niet detecteerbaar is door algoritmen van sociale media.”
Vorig jaar toonde het Special Operations Command (SOCOM) interesse in video-‘deepfakes’, een algemene term voor gesynthetiseerde audiovisuele gegevens die bedoeld zijn om niet te onderscheiden te zijn van een echte opname. Dergelijke beelden worden gegenereerd met behulp van een verscheidenheid aan machinale leertechnieken, waarbij doorgaans gebruik wordt gemaakt van software die is ‘getraind’ om menselijke kenmerken te herkennen en na te bootsen door een enorme database van gezichten en lichamen te analyseren. De SOCOM-verlanglijst van dit jaar specificeert een interesse in software vergelijkbaar met StyleGAN, een programma dat in 2019 door Nvidia werd uitgebracht en dat de wereldwijd populaire website ‘This Person Does Not Exist’ aandreef. Binnen een jaar na de lancering van StyleGAN zei Facebook dat het een netwerk van accounts had verwijderd die de technologie gebruikten om valse profielfoto’s te maken. Sindsdien zijn onderzoekers uit de academische wereld en de particuliere sector verwikkeld in een race tussen nieuwe manieren om niet-detecteerbare deepfakes te creëren, en nieuwe manieren om deze te detecteren. Veel overheidsdiensten hebben nu zogenaamde liveness-detectie nodig om deepfaked-identiteitsfoto’s te dwarsbomen, waarbij menselijke aanvragers worden gevraagd een selfie-video te uploaden om aan te tonen dat ze een echt persoon zijn – een obstakel dat SOCOM mogelijk graag wil dwarsbomen.
De lijst merkt op dat speciale operatietroepen “deze mogelijkheid zullen gebruiken om informatie te verzamelen van openbare online forums”, zonder verdere uitleg over hoe deze kunstmatige internetgebruikers zullen worden gebruikt. De onthulling komt een jaar nadat SOCOM vorig jaar op de verlanglijst had onthuld dat het hoopte binnenkort deepfake-video’s te gaan gebruiken voor online propaganda en informatieoorlogscampagnes.
Deze meer gedetailleerde lijst met aanbestedingen laat zien dat de Verenigde Staten precies dezelfde technologieën en technieken nastreven die zij veroordelen in de handen van geopolitieke vijanden. Nationale veiligheidsfunctionarissen hebben het door de staat gesteunde gebruik van deepfakes al lang omschreven als een urgente bedreiging – dat wil zeggen, als ze door een ander land worden gedaan.
Afgelopen september waarschuwde een gezamenlijke verklaring van de NSA, FBI en CISA dat “synthetische media, zoals deepfakes, een groeiende uitdaging vormen voor alle gebruikers van moderne technologie en communicatie.” Het beschreef de mondiale proliferatie van deepfake-technologie als een “toprisico” voor 2023. In een achtergrondbriefing aan verslaggevers dit jaar waarschuwden Amerikaanse inlichtingenfunctionarissen dat het vermogen van buitenlandse tegenstanders om “door AI gegenereerde inhoud” te verspreiden zonder opgemerkt te worden – precies het vermogen waar het Pentagon nu naar op zoek is – vertegenwoordigt een ‘kwaadaardige invloedversneller’ van landen als Rusland, China en Iran. Eerder dit jaar zocht de Defensie-innovatie-eenheid van het Pentagon met alarm de hulp van de particuliere sector bij het bestrijden van deepfakes: “Deze technologie wordt steeds gebruikelijker en geloofwaardiger en vormt een aanzienlijke bedreiging voor het ministerie van Defensie, vooral omdat Amerikaanse tegenstanders deepfakes gebruiken voor bedrog, fraude, desinformatie en andere kwaadaardige activiteiten.” Een artikel uit april van het Strategic Studies Institute van het Amerikaanse leger was eveneens bezorgd: “Experts verwachten dat het kwaadaardige gebruik van AI, inclusief het maken van deepfake-video’s om desinformatie te zaaien om samenlevingen te polariseren en de grieven te verdiepen, de komende tien jaar zal toenemen.”
“Er zijn geen legitieme gebruiksscenario’s behalve bedrog.”
Het offensieve gebruik van deze technologie door de VS zou uiteraard de verspreiding ervan stimuleren en deze technologie normaliseren als instrument voor alle regeringen. “Wat opvalt aan deze technologie is dat deze puur misleidend is”, zegt Heidy Khlaaf, hoofd AI-wetenschapper bij het AI Now Institute. “Er zijn geen legitieme gebruiksscenario’s behalve bedrog, en het is zorgwekkend om te zien hoe het Amerikaanse leger overgaat tot het gebruik van een technologie waarvoor ze zelf hebben gewaarschuwd. Dit zal andere legers of tegenstanders alleen maar aanmoedigen om hetzelfde te doen, wat zal leiden tot een samenleving waarin het steeds moeilijker wordt om de waarheid uit fictie te halen en de geopolitieke sfeer te vertroebelen.”
Zowel Rusland als China zijn betrapt op het gebruik van deepfaked video’s en gebruikersavatars in hun online propaganda-inspanningen, wat het ministerie van Buitenlandse Zaken ertoe aanzette in januari een internationaal “kader ter bestrijding van manipulatie van buitenlandse informatie” aan te kondigen. “Manipulatie en inmenging in buitenlandse informatie vormen een bedreiging voor de nationale veiligheid, zowel voor de Verenigde Staten als voor hun bondgenoten en partners”, aldus een persbericht van het ministerie van Buitenlandse Zaken. “Autoritaire regeringen gebruiken informatiemanipulatie om de structuur van vrije en democratische samenlevingen te vernietigen.”
De interesse van SOCOM in deepfakes maakt deel uit van een fundamentele spanning binnen de Amerikaanse regering, zegt Daniel Byman, hoogleraar veiligheidsstudies aan de Georgetown University en lid van de International Security Advisory Board van het ministerie van Buitenlandse Zaken. “Een groot deel van de Amerikaanse regering heeft er groot belang bij dat het publiek gelooft dat de regering consequent waarheidsgetrouwe (naar beste weten) informatie naar buiten brengt en niet opzettelijk mensen misleidt”, legde hij uit, terwijl andere takken van bedrog de taak hebben. “Er bestaat dus een legitieme zorg dat de VS als hypocriet zullen worden gezien”, voegde Byman eraan toe. “Ik maak me ook zorgen over de impact op het binnenlandse vertrouwen in de overheid – zullen delen van het Amerikaanse volk in het algemeen achterdochtiger worden tegenover informatie van de overheid?”
Bron: theintercept.com
