Frankrijk wil toezicht in Olympische stijl permanent maken

Toen de nieuw gekozen premier van Emmanuel Macron, Michel Barnier, deze maand zijn eerste regeringsagenda aan de Nationale Vergadering presenteerde, ging uiteraard veel aandacht uit naar de begroting en immigratie. Maar een schijnbaar verwerpelijke zin wees op een ander aspect van veiligheid en politiewerk. “We zullen de methoden waarmee tijdens de Olympische en Paralympische Spelen is geëxperimenteerd, generaliseren”, beloofde Barnier.

Ik heb eerder voor geschreven Jacobijn over de controversiële algoritmische videobewaking die Frankrijk in de aanloop naar de Olympische Spelen heeft ingevoerd – een test die tot maart 2025 zou duren en alleen betrekking zou hebben op grootschalige openbare evenementen zoals sportwedstrijden en concerten. Deskundigen op het gebied van surveillance en mensenrechten vertelden me over de slopende effecten die dergelijk massaal toezicht kan hebben op afwijkende meningen en vreedzaam protest – waardoor een afschrikkend ‘huiveringwekkend effect’ ontstaat.

“Je zorgt ervoor dat mensen eraan gewend raken in dat blije gezicht, de ‘vieringskapitalistische’ omgeving van de Olympische Spelen, en dan wordt de nieuwe technologie die tijdens de Spelen in die uitzonderingstoestand werd geïnjecteerd de norm voor het vooruitstrevende politiewerk”, zegt Jules Boykoff, een politicoloog die meerdere boeken over de Olympische Spelen heeft gepubliceerd, waarschuwde destijds.

Alsof het een teken was, begon een gestaag tromgeroffel van macronistische politici, zodra de Olympische Spelen waren afgelopen, toestemming te produceren rond de noodzaak om deze technologie, die nog niet onafhankelijk is bestudeerd of geanalyseerd, te behouden.

In september, minder dan twee weken na de sluitingsceremonie van de Paralympische Spelen, verklaarde de Parijse politiechef Laurent Nuñez zich “voor” de uitbreiding van de technologie. De nieuwszender France Info meldde, onder verwijzing naar een overheidsbron, dat de minister van Binnenlandse Zaken van Barnier ook van plan was de technologie permanent te maken. (Momenteel wordt in een wetsvoorstel van een lid van zijn rechtse partij de Republikeinen een verlenging met drie jaar voorgesteld.) De toespraak van Barnier ging weliswaar niet specifiek in op het algoritmische videobewakingsinstrument, maar ging in dezelfde richting.

“De regering zal er alles aan doen om zich te verankeren [algorithmic video surveillance technology]”, vertelde Élisa Martin, lid van de linkse France Insoumise, mij aan de telefoon. “Daar zijn we absoluut zeker van.”

“Een veiligheidsshowcase voor de wereld”

Op 26 juli, terwijl honderden boten met Olympiërs aan boord de rivier de Seine afvoeren tijdens een regenachtige openingsceremonie, bekeken door vijfentwintig miljoen kijkers over de hele wereld, vond er onder de grond een andere show plaats. Op de metroplatforms van de Franse hoofdstad legden bijna vijfhonderd ultramoderne bewakingscamera’s menselijk gedrag in realtime vast en analyseerden ze, bijgestaan ​​door een hulpmiddel voor kunstmatige intelligentie genaamd CityVision. De op AI gebaseerde technologie, geproduceerd door een Franse start-up, werd over het hele metrosysteem uitgerold.

Bovengronds patrouilleerden 45.000 nationale politieagenten en nog eens 20.000 militaire agenten door de stad. In de eerste paar dagen van de Spelen werden naar schatting drieënvijftig drones neergeschoten door militaire anti-drone-eenheden.

“De Olympische Spelen, en vooral de openingsceremonie op de Seine, werden verkocht als “een veiligheidsshowcase voor de wereld en een moment van experimenteren”, vertelde Noémie Levain, een juridisch expert bij La Quadrature du Net, een NGO voor digitale rechten.

Nadat de Nationale Vergadering op 19 mei 2023 een omnibuswetsvoorstel over de Olympische Spelen had aangenomen, dat onder meer de legalisering van AI-ondersteunde massabewakingsinstrumenten omvatte, presenteerden Franse technologiestartups aanbiedingen voor Olympische contracten – waarvan er in januari 2024 een aantal werden geselecteerd. Het ene wordt vergeleken met een Franse versie van Palantir – het surveillancebedrijf van Peter Thiel dat vooral bekend staat om zijn discriminerende politie-instrument dat wordt gebruikt in steden als Los Angeles, waar de volgende Olympische Zomerspelen in 2028 zullen plaatsvinden.

“Het brood en de boter van deze bedrijven is de analyse van menselijke lichamen”, vertelde Levain me. “Het idee is om ze te analyseren, te classificeren en met datapunten te komen.”

Het instrument zou, zoals het momenteel bedoeld is, ‘vooraf bepaalde gebeurtenissen’ moeten opvangen, zoals een terroristische aanslag of een ‘ongebruikelijke menigtebeweging’. Maar onderzoekers zijn bezorgd dat het toegenomen gebruik van algoritmen bij voorspellend politiewerk, waarbij racistisch bevooroordeelde statistieken als eerste input worden gebruikt, een pijplijn creëert voor extra toezicht op kwetsbare gemeenschappen. “Steeds meer bewijs suggereert dat menselijke vooroordelen in deze tools zijn ingebakken omdat de machinale leermodellen zijn getraind op bevooroordeelde politiegegevens”, schreef Will Douglas Heaven in MIT-technologierecensie.

In het Franse geval is er weinig bekend over hoe de technologieën feitelijk werken en op welk punt ze door de politie worden ingezet, zegt Yoann Nabat, een jurist en docent aan de Universiteit van Bordeaux. “Het is een zwarte doos”, vertelde hij me.

Algoritmische videobewaking “is alleen bedoeld als hulpmiddel bij het nemen van beslissingen”, voegde Nabat eraan toe. “Het moet de persoon achter de schermen waarschuwen om te zeggen: ‘Pas op, je moet op deze plek kijken, op dit moment.’ Behalve dat er een dunne lijn is tussen automatisering en menselijke interactie. We weten dat dit besluit wordt genomen door het gebrek aan bestaande middelen steun vaak verandert in de beslissing zelf.”

Van experiment tot voldongen feit

Er is veel geschreven over de shockdoctrine – de periode die vaak volgt op een natuurramp, waarin gierachtige particuliere bedrijven binnenstormen om openbare diensten over te nemen. Volgens Boykoff vindt een soortgelijk proces plaats vóór, tijdens en na mega-evenementen zoals de Olympische Spelen.

Katia Roux, hoofd belangenbehartiging bij Amnesty International Frankrijk, beschreef een soortgelijk fenomeen in Frankrijk. “We hebben de balans nog niet”, vertelde ze me over de surveillance-instrumenten van de Olympische Spelen. Toch “is er een duidelijke politieke wens om deze technologie te legaliseren en de Olympische Spelen waren slechts een manier om een ​​voet tussen de deur te krijgen.”

Elia Verdon, lid van het Franse Observatorium voor Surveillance en Democratie, is het daarmee eens. “Ik denk dat we voorzichtig moeten zijn met periodes van experimenteren”, waarschuwde ze. “Uiteindelijk accepteren we op een gegeven moment een technologie als reactie op een mogelijke dreiging, en bij de volgende dreiging gaan ze zelfs nog verder.”

Sinds ze zich voorstander hebben uitgesproken van de nieuwe technologie, zijn Barnier en Nuñez inmiddels teruggekomen op hun uitspraken over de verlenging van de maatregelen, waarbij ze zeggen dat ze nog steeds wachten op de resultaten van een regeringsrapport dat tegen het einde van dit jaar aan het parlement moet worden gepresenteerd. jaar. Maar het lijkt erop dat het Franse publiek al beïnvloed is door de retoriek van de overheid – waarbij uit een recente peiling blijkt dat 65 procent van de Fransen voorstander is van verbeterde videobewaking in de openbare ruimte.

“Als het succesvol wordt geacht, zullen ze het verlengen”, zegt Levain van La Quadrature du Net. ‘Als dat niet zo is, zullen ze zeggen dat we er meer experimenten mee moeten doen. Er zijn zoveel actoren bij betrokken, zoveel geld, zoveel lobbywerk, ze zullen niet zomaar zeggen: ‘Oké, laten we gewoon stoppen.’

Nu een steeds strenger wordende regering immigratie gebruikt als wig om restrictief beleid door te voeren, is het moeilijk voor te stellen dat het leger van particuliere bedrijven in wat Macron zijn ‘start-up-natie’ noemt, niet met meer aanbiedingen zal komen.

Verwant