Pentagon bouwt Kamikaze AI-drones

Bezorgd over Na een potentiële oorlog met China wendt het Pentagon zich tot een nieuwe klasse wapens om het numeriek superieure Volksbevrijdingsleger te bestrijden: drones, heel veel drones.

In augustus 2023 onthulde het ministerie van Defensie Replicator, het initiatief om duizenden ‘alle domeinen toewijsbare, autonome (ADA2) systemen’ in de praktijk te brengen: Pentagon-praat voor goedkope (en mogelijk door AI aangedreven) machines – in de vorm van zelfrijdende machines. – het besturen van schepen, grote robotvliegtuigen en zwermen kleinere kamikaze-drones – die ze massaal kunnen gebruiken en verliezen om de Chinese strijdkrachten te overweldigen.

Eerder deze maand maakten twee Pentagon-kantoren die deze aanklacht leidden bekend dat vier niet-traditionele wapenfabrikanten waren uitgekozen voor een ander drone-programma, met testvluchten gepland voor later dit jaar. De bedrijven die dit ‘Enterprise Test Vehicle’ of ETV bouwen, zullen moeten bewijzen dat hun drone meer dan 800 kilometer kan vliegen en een ‘kinetische lading’ kan leveren, met de nadruk op wapens die goedkoop, snel te bouwen en modulair zijn. , volgens een verzoek om voorstellen uit 2023 en een recente aankondiging van het Air Force Armament Directorate en de Defense Innovation Unit, de kant-en-klare versnellingsarm van het Pentagon. Veel analisten zijn van mening dat het ETV-initiatief mogelijk verband houdt met het Replicator-programma. DIU heeft voorafgaand aan de publicatie geen verzoek om opheldering geretourneerd.

De nieuwe robotvliegtuigen zullen een verschuiving markeren ten opzichte van de ‘legacy’ drones van het ministerie van Defensie, waarvan DIU zegt dat ze ‘overontwikkeld’ en ‘arbeidsintensief’ zijn om te produceren. De vier voor het programma gekozen aannemers zijn Anduril Industries, Integrated Solutions for Systems, Leidos Dynetics en Zone 5 Technologies, die werden geselecteerd uit een veld van meer dan 100 kandidaten.

Het doel is om een ​​of meer varianten te kiezen van wat lijkt op zelfmoorddrones (wapenmakers geven de voorkeur aan “rondhangende munitie”) die massaal kunnen worden geproduceerd door middel van “on-call” productie en indien nodig in grote hoeveelheden kunnen worden geproduceerd. (DIU gaf geen opheldering over de vraag of alle prototypes naar verwachting uitsluitend kamikazevliegtuigen zullen zijn.) Deze drones zullen waarschijnlijk kleiner zijn dan de MQ-1 Predator- en MQ-9 Reaper-drones – die op grote schaal werden gebruikt als vanaf de grond gelanceerde, herbruikbare raketten. – het afvuren van moordwapens tijdens de eerste decennia van de oorlog tegen het terrorisme – en veelzijdiger, aangezien de nieuwe ETV’s een via de lucht afgeleverde variant moeten bevatten die vanuit vrachtvliegtuigen kan worden gedropt of gelanceerd.

De afgelopen 25 jaar hebben onbemande Predators en Reapers, bestuurd door militair personeel op de grond, burgers over de hele planeet gedood, van Afghanistan en Libië tot Syrië en Jemen.

Om slechts één voorbeeld te noemen: bij een Amerikaanse drone-aanval in Somalië in 2018 kwamen minstens drie en mogelijk vijf burgers om het leven – waaronder de 22-jarige Luul Dahir Mohamed en haar 4-jarige dochter Mariam Shilow Muse – zoals blijkt uit een rapport uit 2023. onderzoek door The Intercept, wat twee dozijn mensenrechtenorganisaties en vijf leden van het Congres ertoe aanzette het Pentagon op te roepen de familie van Luul en Mariam te compenseren voor de doden.

Deskundigen zijn bezorgd dat de massaproductie van nieuwe goedkope, dodelijke drones tot nog meer burgerslachtoffers zal leiden. “Het duidelijke gevaar is dat deze drones op grotere schaal zullen worden gebruikt, wat vragen oproept over de mogelijkheid van schade onder de burgerbevolking”, zegt Priyanka Motaparthy, directeur van het Project on Counterterrorism, Armed Conflict and Human Rights aan het Human Rights Institute van de Columbia Law School. vertelde The Intercept. “We moeten weten of deze drones kunnen worden gebruikt in situaties waarin burgers gevaar lopen. We moeten weten hoe risico’s worden ingeschat.”

Terwijl Amerikaanse drones hebben vertrouwd op menselijke operators om dodelijke aanvallen uit te voeren – vaak met desastreuze gevolgen – heeft de vooruitgang op het gebied van kunstmatige intelligentie steeds meer de mogelijkheid vergroot dat robotvliegtuigen, in de arsenalen van verschillende landen, hun eigen doelen selecteren.

Elektronische storing door Rusland in de oorlog in Oekraïne heeft geleid tot een verschuiving naar autonome drones die zich op een doel richten en hun missie voortzetten, zelfs als de communicatie met een menselijke operator is verbroken. Vorig jaar beweerde het Oekraïense dronebedrijf Saker dat zijn volledig autonome Saker Scout AI gebruikte om 64 verschillende soorten Russische ‘militaire objecten’ te identificeren en aan te vallen.

Oekraïne heeft maar liefst 10.000 goedkope drones per maand ingezet om de voorsprong van het Russische leger in de strijdkrachten tegen te gaan. Ambtenaren van het Pentagon zien de drone-macht van Oekraïne als een model voor het tegengaan van het grotere leger van de Volksrepubliek China. “Replicator is bedoeld om ons te helpen het grootste voordeel van de Volksrepubliek China, namelijk de massa, te overwinnen”, zegt plaatsvervangend minister van Defensie Kathleen Hicks, een van de functionarissen die toezicht houdt op dat programma.

Vorige maand kondigde het Pentagon aan dat het “de inzet van de rondhangende Switchblade-600-munitie zou versnellen” – een kamikaze-anti-pantserdrone van aannemer AeroVironment die overvliegt totdat hij een doelwit vindt – die op grote schaal in Oekraïne is gebruikt. “Dit is een cruciale stap in het leveren van de capaciteiten die we nodig hebben, op de schaal en snelheid die we nodig hebben”, zegt admiraal Samuel Paparo, commandant van Indo-Pacific Command, of INDOPACOM.

Bij een recente Op de NAVO-conferentie besprak Alex Bornyakov, de Oekraïense vice-minister van digitale transformatie, het potentieel van het gebruik van AI en een netwerk van akoestische sensoren om een ​​Russische ‘oorlogsmisdadiger’ aan te vallen voor moord met een autonome drone. “Computervisie werkt”, zei hij. “Het is al bewezen.”

Het gebruik van autonome wapens is al meer dan tien jaar onderwerp van discussie. Sinds 2013 heeft de Stop Killer Robots-campagne, die is uitgegroeid tot een coalitie van meer dan 250 niet-gouvernementele organisaties, waaronder Amnesty International en Human Rights Watch, opgeroepen tot een juridisch bindend verdrag dat autonome wapens verbiedt.

De vorig jaar vrijgegeven Pentagon-regelgeving bepaalt dat volledig en semi-autonome wapensystemen moeten worden gebruikt ‘in overeenstemming met het oorlogsrecht’ en ‘DoD AI Ethical Principles’. Deze laatste, die in 2020 werd uitgebracht, bepalen echter alleen dat het personeel “gepaste” niveaus van “beoordelingsvermogen en zorg” zal betrachten als het gaat om de ontwikkeling en inzet van AI.

Maar ‘zorg’ is nooit een Amerikaans kenmerk geweest. De afgelopen eeuw heeft het Amerikaanse leger luchtaanvallen uitgevoerd die blijk gaven van een consequente minachting voor burgers: gewone mensen als vijanden worden bestempeld of ten onrechte worden geïdentificeerd; het nalaten om beschuldigingen van civiele schade te onderzoeken; het excuseren van slachtoffers als betreurenswaardig maar onvermijdelijk; en er niet in slagen een herhaling ervan te voorkomen of de troepen ter verantwoording te roepen.

Tijdens de eerste twintig jaar van de oorlog tegen het terrorisme voerden de VS meer dan 91.000 luchtaanvallen uit in zeven grote conflictgebieden – Afghanistan, Irak, Libië, Pakistan, Somalië, Syrië en Jemen – en doodden tot 48.308 burgers, volgens een rapport uit 2021. analyse door Airwars, een in het Verenigd Koninkrijk gevestigde monitoringgroep voor luchtaanvallen.

Het ministerie van Defensie mist herhaaldelijk de deadline voor het rapporteren van het aantal burgers dat jaarlijks door Amerikaanse operaties wordt gedood, de laagste drempel voor aansprakelijkheid voor zijn daden. Het rapport voor 2022 verscheen in april, een jaar te laat. Het Pentagon heeft op 1 mei van dit jaar de door het Congres opgelegde deadline voor het 2023-rapport overschreden. Vorige maand vroeg The Intercept aan Lisa Lawrence, de woordvoerder van het Pentagon die kwesties over civiele schade behandelt, waarom het rapport uit 2023 te laat kwam en wanneer ze het konden verwachten. Uit een ontvangstbewijs blijkt dat ze de e-mail heeft gelezen, maar geen antwoord heeft gegeven.

Ten minste één van de nieuwe drone-prototypes zal volledig in productie gaan voor het leger, op basis van hoe Special Operations Command, INDOPACOM en anderen hun prestaties evalueren. De winnaar (of winnaars) van de competitie zullen worden gekozen om “de ontwikkeling voort te zetten in de richting van een productievariant die in staat is tot snel schaalbare productie”, aldus DIU.

Een drone-opschaling zonder verantwoording baart Motaparthy van Columbia Law zorgen. “Het Pentagon moet nog op de proppen komen met een betrouwbare manier om rekening te houden met de schade aan burgers uit het verleden, veroorzaakt door Amerikaanse militaire operaties”, zei ze. “Dus de vraag wordt: ‘Welke waarborgen vallen mogelijk buiten de boot met de potentiële snelle toename van het gebruik van drones? Hoe kunnen ze ooit hopen rekening te kunnen houden met toekomstige burgerschade als de omvang zoveel groter wordt?’”