Het Israëlische leger heeft naar verluidt een sleepnet met gezichtsherkenning door de Gazastrook geïmplementeerd, waarbij gewone Palestijnen worden gescand terwijl ze zich door het verwoeste gebied verplaatsen, in een poging het aanhoudende bombardement te ontvluchten en op zoek gaan naar voedsel voor hun families.
Volgens de New York Times is het programma afhankelijk van twee verschillende gezichtsherkenningstools: de ene is gemaakt door de Israëlische aannemer Corsight en de andere is ingebouwd in het populaire platform voor het organiseren van consumentenbeelden dat wordt aangeboden via Google Photos. Een anonieme Israëlische functionaris vertelde de Times dat Google Photos beter werkte dan welke alternatieve gezichtsherkenningstechnologie dan ook, waardoor de Israëli’s een ‘hitlijst’ konden maken van vermeende Hamas-strijders die deelnamen aan de aanval van 7 oktober.
De massale surveillance van Palestijnse gezichten als gevolg van de inspanningen van Israël om Hamas-leden te identificeren heeft sinds de aanval van 7 oktober duizenden inwoners van Gaza ingehaald. Veel van de gearresteerden of gevangengezeten, vaak met weinig of geen bewijs, zeiden later dat ze op brute wijze waren ondervraagd of gemarteld. In zijn gezichtsherkenningsverhaal wees de Times op de Palestijnse dichter Mosab Abu Toha, wiens arrestatie en mishandeling door het Israëlische leger begon met het gebruik van gezichtsherkenning. Abu Toha, die later werd vrijgelaten zonder van enige misdaad te zijn beschuldigd, vertelde de krant dat Israëlische soldaten hem hadden verteld dat zijn arrestatie met behulp van gezichtsherkenning een ‘vergissing’ was geweest.
Afgezien van de nauwkeurigheidskwesties (gezichtsherkenningssystemen zijn berucht omdat ze minder nauwkeurig zijn op niet-blanke gezichten) is het gebruik van de door machine learning aangedreven analysefuncties van Google Photos om burgers onder militair toezicht te plaatsen, of erger nog, in strijd met de duidelijk geformuleerde regels van het bedrijf. Onder het kopje ‘Gevaarlijke en illegale activiteiten’ waarschuwt Google dat Google Foto’s niet mag worden gebruikt ‘om activiteiten, goederen, diensten of informatie te promoten die mensen ernstige en onmiddellijke schade toebrengen’.
“Dit soort toezicht op gezichtsherkenning ondermijnt de rechten die zijn vastgelegd in de internationale mensenrechtenwetgeving.”
Op de vraag hoe een verbod op het gebruik van Google Foto’s om mensen schade toe te brengen verenigbaar was met het gebruik van Google Foto’s door het Israëlische leger om een ’hitlijst’ te creëren, weigerde bedrijfswoordvoerder Joshua Cruz te antwoorden en stelde alleen dat ‘Google Foto’s een gratis product is dat op grote schaal wordt gebruikt’. beschikbaar voor het publiek waarmee u foto’s kunt ordenen door vergelijkbare gezichten te groeperen, zodat u mensen kunt labelen zodat u gemakkelijk oude foto’s kunt vinden. Het biedt geen identiteit voor onbekende mensen op foto’s.” (Cruz reageerde niet op herhaalde daaropvolgende pogingen om het standpunt van Google te verduidelijken.)
Het is onduidelijk hoe dergelijke verboden – of de al lang bestaande publieke toezeggingen van het bedrijf op het gebied van de mensenrechten – worden toegepast op het Israëlische leger.
“Het hangt ervan af hoe Google ‘ernstige en onmiddellijke schade’ en ‘illegale activiteiten’ interpreteert, maar dit soort gezichtsherkenningssurveillance ondermijnt de rechten die zijn vastgelegd in de internationale mensenrechtenwetgeving – privacy, non-discriminatie, meningsuiting, vergaderingsrechten en meer,” zei Anna Bacciarelli, associate tech director bij Human Rights Watch. “Gezien de context waarin deze technologie door Israëlische strijdkrachten wordt gebruikt, te midden van de wijdverbreide, aanhoudende en systematische ontkenning van de mensenrechten van mensen in Gaza, hoop ik dat Google passende actie zal ondernemen.”
Goed doen of Google doen?
Naast het verbod op het gebruik van Google Foto’s om mensen schade te berokkenen, beweert het bedrijf al jaren dat het verschillende mondiale mensenrechtennormen omarmt.
“Sinds de oprichting van Google geloven we in het benutten van de kracht van technologie om de mensenrechten te bevorderen”, schreef Alexandria Walden, het mondiale hoofd van de mensenrechten van het bedrijf, in een blogpost uit 2022. “Daarom zijn onze producten, bedrijfsactiviteiten en besluitvorming rond opkomende technologieën allemaal gebaseerd op ons Mensenrechtenprogramma en onze diepgaande toewijding om de toegang tot informatie te vergroten en nieuwe kansen te creëren voor mensen over de hele wereld.”
Deze diepgaande betrokkenheid omvat, volgens het bedrijf, het handhaven van de Universele Verklaring van de Rechten van de Mens – die marteling verbiedt – en de VN-richtlijnen voor het bedrijfsleven en de mensenrechten, waarin wordt opgemerkt dat conflicten over territorium enkele van de ergste rechtenschendingen veroorzaken.
Het gebruik door het Israëlische leger van een gratis, openbaar beschikbaar Google-product als Photos roept vragen op over deze mensenrechtenverplichtingen van bedrijven, en over de mate waarin het bedrijf bereid is hier daadwerkelijk naar te handelen. Google zegt dat het de UN Guiding Principles on Business and Human Rights onderschrijft en onderschrijft, een raamwerk dat bedrijven oproept om “nadelige gevolgen voor de mensenrechten te voorkomen of te verzachten die rechtstreeks verband houden met hun activiteiten, producten of diensten door hun zakelijke relaties, zelfs als ze niet hebben bijgedragen aan die impact.”
Walden zei ook dat Google de Conflict-Sensitive Human Rights Due Diligence for ICT Companies ondersteunt, een vrijwillig raamwerk dat technologiebedrijven helpt misbruik van hun producten en diensten in oorlogsgebieden te voorkomen. Tot de vele aanbevelingen in het document behoren bedrijven als Google om te overwegen: “Gebruik van producten en diensten voor overheidstoezicht in strijd met de internationale mensenrechtennormen, wat onmiddellijke gevolgen heeft voor de privacy en de lichamelijke veiligheid (dat wil zeggen, iemand lokaliseren, arresteren en gevangen zetten).” (Noch JustPeace Labs, noch Business for Social Responsibility, die co-auteur waren van het due diligence-raamwerk, hebben gereageerd op een verzoek om commentaar.)
“Google en Corsight hebben allebei de verantwoordelijkheid om ervoor te zorgen dat hun producten en diensten geen schendingen van de mensenrechten veroorzaken of eraan bijdragen”, aldus Bacciarelli. “Op basis van dit nieuws verwacht ik dat Google onmiddellijk actie onderneemt om het gebruik van Google Foto’s in dit systeem te beëindigen.”
Google-werknemers die deelnamen aan de No Tech for Apartheid-campagne, een door arbeiders geleide protestbeweging tegen Project Nimbus, belden hun werkgever om te voorkomen dat het Israëlische leger de gezichtsherkenning van Photos zou gebruiken om de oorlog in Gaza te vervolgen.
“Dat het Israëlische leger zelfs consumententechnologie als Google Photos bewapent, met behulp van de meegeleverde gezichtsherkenning om Palestijnen te identificeren als onderdeel van hun surveillanceapparaat, geeft aan dat het Israëlische leger elke technologie zal gebruiken die hun ter beschikking wordt gesteld – tenzij Google stappen onderneemt om hun producten dragen niet bij aan etnische zuiveringen, bezetting en genocide”, aldus de groep in een verklaring gedeeld met The Intercept. “Als medewerkers van Google eisen wij dat het bedrijf Project Nimbus onmiddellijk laat vallen, en alle activiteiten stopzet die de genocidale agenda van de Israëlische regering en het leger ondersteunen om Gaza te decimeren.”
Project Nimbus
Dit zou niet de eerste keer zijn dat de vermeende mensenrechtenprincipes van Google in tegenspraak zijn met de zakelijke praktijken van Google – zelfs alleen in Israël. Sinds 2021 heeft Google het Israëlische leger geavanceerde cloud computing- en machine learning-tools verkocht via zijn controversiële ‘Project Nimbus’-contract.
In tegenstelling tot Google Photos, een gratis consumentenproduct dat voor iedereen beschikbaar is, is Project Nimbus een op maat gemaakt softwareproject dat is afgestemd op de behoeften van de Israëlische staat. Zowel het vermogen van Nimbus als Google Photos om gezichten te matchen, zijn echter het resultaat van de enorme machine learning-bronnen van het bedrijf.
De verkoop van deze geavanceerde tools aan een regering die zo regelmatig wordt beschuldigd van het begaan van mensenrechtenschendingen en oorlogsmisdaden is in strijd met de AI-principes van Google. De richtlijnen verbieden AI-gebruik dat waarschijnlijk “schade” zal veroorzaken, inclusief elke toepassing “waarvan het doel in strijd is met algemeen aanvaarde principes van het internationaal recht en de mensenrechten.”
Google heeft eerder gesuggereerd dat zijn ‘principes’ in feite veel beperkter zijn dan ze lijken, en alleen van toepassing zijn op ‘aangepast AI-werk’ en niet op het algemene gebruik van zijn producten door derden. “Het betekent dat onze technologie vrij breed door het leger kan worden gebruikt”, vertelde een woordvoerder van het bedrijf in 2022 aan Defense One.
Hoe en of Google ooit zijn door leidinggevenden geblogde garanties omzet in reële gevolgen blijft onduidelijk. Ariel Koren, een voormalige Google-medewerker die zei dat ze in 2022 haar baan moest opgeven nadat ze had geprotesteerd tegen Project Nimbus, plaatste het stilzwijgen van Google over de Foto-kwestie in een breder patroon van het vermijden van verantwoordelijkheid voor de manier waarop de technologie wordt gebruikt.
“Het is een understatement om te zeggen dat het helpen en aanzetten tot een genocide een schending is van de AI-principes en servicevoorwaarden van Google”, vertelde Koren, nu organisator bij No Tech for Apartheid, aan The Intercept. “Zelfs zonder publiek commentaar hebben de acties van Google duidelijk gemaakt dat de publieke AI-ethische principes van het bedrijf geen invloed hebben op de zakelijke beslissingen van Google Cloud, en dat zelfs medeplichtigheid aan genocide geen belemmering vormt voor het meedogenloze streven van het bedrijf naar winst. tegen elke prijs.”
Bron: theintercept.com
