Pentagon heeft OpenAI-tools gekocht voor militaire operaties in heel Afrika

Minder dan een jaar nadat OpenAI stilletjes te kennen gaf zaken te willen doen met het Pentagon, blijkt uit een aanbestedingsdocument verkregen door The Intercept dat US Africa Command, oftewel AFRICOM, gelooft dat toegang tot de technologie van OpenAI “essentieel” is voor zijn missie.

Het document van 30 september zet AFRICOM’s grondgedachte uiteen om cloud computing-diensten rechtstreeks van Microsoft te kopen als onderdeel van het $9 miljard kostende Joint Warfighting Cloud Capability-contract, in plaats van een andere aanbieder op de open markt te zoeken. “De USAFRICOM opereert in een dynamische en evoluerende omgeving waar IT een cruciale rol speelt bij het bereiken van missiedoelstellingen”, luidt het document, inclusief “zijn essentiële missie ter ondersteuning van onze Afrikaanse missiepartners. [and] Gezamenlijke oefeningen van USAFRICOM.”

Het document, met het label Controlled Unclassified Information, is gemarkeerd als FEDCON, wat aangeeft dat het niet bedoeld is om verspreid te worden buiten de overheid of aannemers. Hieruit blijkt dat het verzoek van AFRICOM is goedgekeurd door het Defense Information Systems Agency. Terwijl de prijs van de aankoop wordt geredigeerd, vermeldt het goedkeuringsdocument dat de waarde ervan minder dan $ 15 miljoen bedraagt.

Net als de rest van het ministerie van Defensie heeft AFRICOM – dat toezicht houdt op de operaties van het Pentagon in heel Afrika, inclusief de lokale militaire samenwerking met Amerikaanse bondgenoten daar – een toenemende belangstelling voor cloud computing. Het ministerie van Defensie koopt al cloud computing-toegang van Microsoft via het Joint Warfighting Cloud Capability-project. Dit nieuwe document weerspiegelt de wens van AFRICOM om de administratieve rompslomp te omzeilen en onmiddellijk Microsoft Azure-clouddiensten aan te schaffen, inclusief OpenAI-software, zonder rekening te houden met andere leveranciers. AFRICOM stelt dat “het vermogen om geavanceerde AI/ML-workloads te ondersteunen cruciaal is. Dit omvat diensten voor zoeken, natuurlijke taalverwerking, [machine learning]en uniforme analyses voor gegevensverwerking.” En volgens AFRICOM is het Azure-cloudplatform van Microsoft, dat een reeks tools van OpenAI omvat, de enige cloudprovider die aan zijn behoeften kan voldoen.

Microsoft begon in juni 2023 met de verkoop van het grote taalmodel GPT-4 van OpenAI aan defensieklanten. Eerder dit jaar, na de onthulling dat OpenAI van gedachten was veranderd over militair werk, kondigde het bedrijf in januari een samenwerking op het gebied van cyberbeveiliging aan met DARPA en zei dat zijn tools gebruikt voor een niet-gespecificeerd initiatief voor zelfmoordpreventie door veteranen. In april presenteerde Microsoft het Pentagon over het gebruik van DALL-E, OpenAI’s tool voor het genereren van afbeeldingen, voor commando- en besturingssoftware. Maar het AFRICOM-document markeert de eerste bevestigde aankoop van OpenAI-producten door een Amerikaans strijderscommando wiens missie het is om te doden.

De bedrijfsmissie van OpenAI blijft “ervoor zorgen dat kunstmatige algemene intelligentie de hele mensheid ten goede komt.”

Het document stelt dat “OpenAI-tools” tot de “unieke functies” behoren die door Microsoft worden aangeboden “die essentieel zijn om ervoor te zorgen dat de geleverde clouddiensten aansluiten bij de missie en operationele behoeften van USAFRICOM. … Zonder toegang tot de geïntegreerde reeks AI-tools en -diensten van Microsoft zou USAFRICOM voor aanzienlijke uitdagingen komen te staan ​​bij het analyseren en verkrijgen van bruikbare inzichten uit enorme hoeveelheden gegevens. … Dit zou kunnen leiden tot vertragingen in de besluitvorming, een aangetast situationeel bewustzijn en een verminderde wendbaarheid bij het reageren op dynamische en evoluerende bedreigingen op het Afrikaanse continent. Defensie- en inlichtingendiensten over de hele wereld hebben grote belangstelling getoond voor het gebruik van grote taalmodellen om grote hoeveelheden inlichtingen te doorzoeken, of om snel audiogegevens van ondervragingen te transcriberen en analyseren.

Microsoft investeerde vorig jaar $10 miljard in OpenAI en oefent nu veel invloed uit op het bedrijf, naast het doorverkopen van zijn technologie. In februari klaagden The Intercept en andere digitale nieuwsmedia Microsoft en OpenAI aan wegens het zonder toestemming of krediet gebruiken van hun journalistiek.

Een woordvoerder van OpenAI zei tegen The Intercept: “OpenAI heeft geen partnerschap met US Africa Command” en verwees vragen door naar Microsoft. Microsoft reageerde niet onmiddellijk op een verzoek om commentaar. Een woordvoerder van AFRICOM ook niet.

“Het is buitengewoon alarmerend dat ze expliciet zijn in het gebruik van OpenAI-tools voor ‘unified analytics for data processing’ om aan te sluiten bij de missiedoelstellingen van USAFRICOM”, zegt Heidy Khlaaf, hoofd AI-wetenschapper bij het AI Now Institute, die eerder veiligheidsevaluaties heeft uitgevoerd voor OpenAI. “Vooral door te stellen dat ze geloven dat deze tools de efficiëntie, nauwkeurigheid en schaalbaarheid verbeteren, terwijl in feite is aangetoond dat deze tools zeer onnauwkeurig zijn en consistent resultaten opleveren. Deze beweringen tonen een zorgwekkend gebrek aan bewustzijn bij degenen die deze technologieën aanschaffen van de hoge risico’s die deze tools met zich meebrengen in missiekritieke omgevingen.”

Sinds OpenAI in januari stilletjes het deel van zijn servicevoorwaarden schrapte dat militair werk verbood, is het bedrijf gestaag in de gunst gekomen bij de Amerikaanse nationale veiligheidsorganisatie, die graag indrukwekkende maar vaak onnauwkeurige tools zoals ChatGPT wil integreren. In juni voegde OpenAI het door Trump benoemde voormalige hoofd van de National Security Agency, Paul Nakasone, toe aan zijn bestuur; Het huidige hoofd van de nationale veiligheidspartnerschappen van het bedrijf is Katrina Mulligan, een alumnus van het Pentagon die eerder werkte bij ‘Special Operations and Irregular Warfare’, aldus haar LinkedIn-profiel.

Donderdag publiceerde het bedrijf, na een richtlijn van het Witte Huis die het Pentagon opdroeg de adoptie van tools zoals die van OpenAI te versnellen, een artikel waarin het zijn ‘benadering van AI en de nationale veiligheid’ uiteenzette. Volgens het bericht “De waarden die ons werk op het gebied van de nationale veiligheid sturen” omvatten “democratische waarden”, “mensenrechten” en “verantwoording”, waarin wordt uitgelegd: “Wij geloven dat alle AI-toepassingen, vooral die waarbij de overheid en de nationale veiligheid betrokken zijn, moeten onderworpen zijn aan toezicht, duidelijke gebruiksrichtlijnen en ethische normen.” De taal van OpenAI is een duidelijke weerspiegeling van de orde van het Witte Huis, die veiligheids- en inlichtingendiensten verbood kunstmatige intelligentie te gebruiken op manieren die “niet in overeenstemming zijn met democratische waarden”, meldde de Washington Post.

Hoewel het AFRICOM-document weinig details bevat over hoe het OpenAI-instrumenten precies zou kunnen gebruiken, lijken de reguliere implicaties van het commando op het gebied van Afrikaanse staatsgrepen, burgermoorden, martelingen en geheime oorlogvoering onverenigbaar met het door OpenAI beleden nationale veiligheidskader. Vorig jaar vertelde AFRICOM-chef generaal Michael Langley aan de House Armed Services Committee dat zijn commando “kernwaarden” deelt met kolonel Mamady Doumbouya, een AFRICOM-stagiair die de regering van Guinee omver wierp en zichzelf in 2021 tot leider uitriep.

Hoewel de Amerikaanse militaire activiteit in Afrika relatief weinig aandacht krijgt in vergelijking met het Amerikaanse Centrale Commando, dat toezicht houdt op de Amerikaanse strijdkrachten in het Midden-Oosten, is de aanwezigheid van AFRICOM niet alleen aanzienlijk, maar ook vaak onderwerp van controverse. Ondanks beweringen over een “lichte voetafdruk” op het continent, rapporteerde The Intercept in 2020 een voorheen geheime AFRICOM-kaart met daarop “een netwerk van 29 Amerikaanse militaire bases die zich uitstrekken van de ene kant van Afrika naar de andere.” Een groot deel van het doel van AFRICOM sinds de oprichting in 2007 bestaat uit het trainen en adviseren van Afrikaanse troepen, onopvallende missies door Special Operations-troepen en het exploiteren van dronebases om militante groepen in de Sahel, het Tsjaadbekken en de Hoorn van Afrika tegen te gaan in hun pogingen om veiligheid en stabiliteit voor het continent. De resultaten waren somber. In heel Afrika telde het ministerie van Buitenlandse Zaken in 2002 en 2003 in totaal slechts negen terroristische aanslagen, de eerste jaren van Amerikaanse hulp op het gebied van terrorismebestrijding op het continent. Volgens het Africa Centre for Strategic Studies, een onderzoeksinstituut van het Pentagon, bedraagt ​​het jaarlijkse aantal aanvallen door militante islamitische groeperingen in Afrika nu de 6.700 – een stijging van 74.344 procent.

Terwijl het geweld is toegenomen, zijn ten minste vijftien officieren die hebben geprofiteerd van Amerikaanse veiligheidssteun betrokken geweest bij twaalf staatsgrepen in West-Afrika en de grotere Sahel tijdens de oorlog tegen het terrorisme, waaronder vorig jaar in Niger. (Volgens een Amerikaanse functionaris kregen ten minste vijf leiders van de staatsgreep van juli 2023 Amerikaanse hulp.) Amerikaanse bondgenoten zijn ook betrokken bij een reeks vermeende mensenrechtenschendingen. In 2017 meldde The Intercept dat een Kameroense militaire basis die door AFRICOM werd gebruikt voor het organiseren van dronevluchten, was gebruikt om militaire gevangenen te martelen.

Omgaan met data is lange tijd een uitdaging geweest voor AFRICOM. Nadat bijvoorbeeld The Intercept het aantal door de VS opgeleide staatsgreepleiders op het continent had opgeteld, gaf het commando toe dat het niet wist hoeveel staatsgrepen de aanklacht had gepleegd, en hield het commando ook niet eens een lijst bij van hoe vaak dergelijke overnames hebben plaatsgevonden. gebeurd. “AFRICOM onderhoudt geen database met deze informatie”, vertelde woordvoerder Kelly Cahalan vorig jaar aan The Intercept.

Het wanbeheer van informatie door AFRICOM is ook dodelijk geweest. Na een drone-aanval in Somalië in 2018 kondigde AFRICOM aan dat het “vijf terroristen” had gedood en één voertuig had vernietigd, en dat “bij deze luchtaanval geen burgers omkwamen”. Een geheim Amerikaans militair onderzoek, verkregen door The Intercept via de Freedom of Information Act, toonde aan dat ondanks maanden van “doelontwikkeling” de aanval op een pick-up minstens drie en mogelijk vijf burgers doodde, waaronder Luul Dahir Mohamed en haar 4-jarige dochter, Mariam Shilow Muse.