De voorverkiezingen van de FBI tool voor het monitoren van sociale media-bedreigingen is dezelfde aannemer die de vreedzame Black Lives Matter-protestleiders DeRay McKesson en Johnetta Elzie in 2015 bestempelde als “dreigingsactoren” die “continue monitoring” vereisten.
De aannemer, ZeroFox, identificeerde McKesson en Elzie als een “zeer ernstige” fysieke bedreiging, hoewel er geen bewijs was dat McKesson of Elzie werden verdacht van criminele activiteiten. “Het is bijna tien jaar geleden sinds het incident in 2015 waarnaar wordt verwezen en in die tijd hebben we zwaar geïnvesteerd in het verfijnen van onze collecties, analyse en het labelen van waarschuwingen”, vertelde Lexie Gunther, een woordvoerder van ZeroFox, aan The Intercept, “inclusief de toevoeging van een volledig beheerde service die zorgt voor menselijke analyse van elke waarschuwing die via het ZeroFox-platform binnenkomt om ervoor te zorgen dat we klanten alleen waarschuwen voor legitieme bedreigingen en deze bedreigingen op de juiste manier labelen.
De FBI, die weigerde commentaar te geven, huurde ZeroFox in 2021 in, een feit waarnaar wordt verwezen in het nieuwe 106 pagina’s tellende Senaatsrapport over het falen van de inlichtingengemeenschap om te anticiperen op de opstand van 6 januari 2021 in het Amerikaanse Capitool. Het rapport van 27 juni, opgesteld door Democraten in de Senaatscommissie voor Binnenlandse Veiligheid, laat zien dat de brede autoriteiten van het bureau toezicht houden op de inhoud van sociale media – autoriteiten die de FBI eerder ontkende, ook ten overstaan van het Congres. Het onthult ook de afhankelijkheid van de FBI van externe bedrijven om veel van het filteren voor hen te doen.
Het contract van 14 miljoen dollar van de FBI met ZeroFox voor “FBI-waarschuwingen op sociale media” verving een soortgelijk contract met Dataminr, een ander bedrijf met een geschiedenis in het onderzoeken van raciale rechtvaardigheidsbewegingen. Dataminr heeft, net als ZeroFox, de Black Lives Matter-beweging onderworpen aan websurveillance namens de politie van Minneapolis, zo blijkt uit eerdere rapporten van The Intercept.
In een getuigenis voor de Senaat in 2021 ontkende de toenmalige assistent-directeur voor terrorismebestrijding van de FBI, Jill Sanborn, botweg dat de FBI de macht had om het discours op sociale media te volgen.
“Dus de FBI houdt geen toezicht op openbaar beschikbare gesprekken op sociale media?” vroeg senator Kyrsten Sinema uit Arizona.
“Juist, mevrouw. Het valt niet onder onze autoriteiten,’ antwoordde Sanborn, daarbij verwijzend naar de bescherming van het Eerste Amendement die dergelijke activiteiten verbiedt.
De verklaring van Sanborn kreeg destijds veel publiciteit en werd aangehaald als bewijs dat de bezorgdheid over de betrokkenheid van de federale overheid bij sociale media ongegrond was. Maar, zoals het rapport van de Senaat benadrukt, was het antwoord van Sanborn vals.
“De leiding van de FBI heeft de autoriteiten van het Bureau verkeerd getypeerd om sociale media te controleren”, concludeert het rapport, en noemde het een “overdrijving van de grenzen van de autoriteiten van de FBI”, die in feite vrij breed zijn.
Het is onder deze autoriteiten dat de FBI enorme hoeveelheden sociale media-inhoud doorzoekt op zoek naar bedreigingen, onthult het rapport.
“Vóór 2021 sloot de FBI een contract met het bedrijf Dataminr dat vooraf gedefinieerde zoektermen gebruikte om potentiële bedreigingen van omvangrijke open-sourceberichten online te identificeren, die de FBI vervolgens indien nodig verder zou kunnen onderzoeken”, aldus het rapport, daarbij verwijzend naar interne FBI-communicatie verkregen als onderdeel van het onderzoek van de commissie. “Met ingang van 1 januari 2021 is het contract van de FBI voor deze diensten overgeschakeld naar een nieuw bedrijf genaamd ZeroFox dat vergelijkbare functies zou uitvoeren onder een nieuw systeem.”
De FBI heeft volgehouden dat het “niet de bedoeling is om individuele activiteiten op sociale media te ‘schrapen’ of anderszins te monitoren”, maar benadrukt dat het “probeert een onmiddellijke waarschuwingsmogelijkheid te identificeren om de FBI beter in staat te stellen snel te reageren op de aanhoudende nationale veiligheid en openbare veiligheid -gerelateerde incidenten.” Dataminr heeft The Intercept ook eerder verteld dat zijn software “geen overheidsklanten de mogelijkheid biedt om gebruikers van sociale media te targeten, te monitoren of te profileren, georuimtelijke, link- of netwerkanalyses uit te voeren of enige vorm van surveillance uit te voeren.”
Hoewel het technisch gezien waar kan zijn dat het markeren van posts op sociale media op basis van trefwoorden niet hetzelfde is als het continu markeren van posts van een specifiek account, is het idee dat dit niet neerkomt op het monitoren van specifieke gebruikers misleidend. Als een account routinematig bepaalde zoekwoorden gebruikt (bijvoorbeeld #BlackLivesMatter), zou het markeren van die zoekwoorden herhaaldelijk dezelfde accounts naar boven halen.
Het dreigingsrapport uit 2015 waarvoor ZeroFox werd bekritiseerd, riep specifiek op tot “continue monitoring” van McKesson en Elzie. In een interview met The Intercept benadrukte Elzie hoe incompetent de analyse van sociale media door de FBI in haar situatie was. Ze beschreef een bezoek dat de FBI haar ouders bracht in 2016 en vertelde hen dat het absoluut noodzakelijk was dat ze de Republikeinse Nationale Conventie in Cleveland niet bijwoonde – een evenement dat ze naar eigen zeggen niet van plan was bij te wonen en welke troll-accounts op Twitter met haar naam beweerden dat ze dat wel zou doen. zijn om geweld aan te wakkeren. (De FBI bevestigde dat het “mensen benaderde om hun hulp te vragen om onze gemeenschap te helpen een veilige conventie te organiseren”, maar reageerde niet op beschuldigingen dat ze activisten probeerden te ontmoedigen om de conventie bij te wonen.)
“Mijn ouders hadden zoiets van waarom zou ze naar de RNC gaan? En daar eindigde het gesprek omdat ze daar geen antwoord op konden geven.”
‘Ik denk het niet [ZeroFox] zou 14 miljoen dollar moeten krijgen [from] dezelfde FBI die bij mijn familie aanklopte [in Missouri] en zocht me toen het wereldnieuws was dat ik op dat moment in Baton Rouge was, ‘vertelde Elzie aan The Intercept. “Ze zijn gewoon erg onserieus, beide organisaties.”
De FBI was zo afhankelijk van geautomatiseerde monitoring van sociale media voor het vaststellen van bedreigingen dat het tijdelijke verlies van toegang tot dergelijke software tot paniek leidde bij bureauambtenaren.
“Uit dit onderzoek bleek dat de inspanningen van de FBI om bedreigingen op sociale media effectief op te sporen in de aanloop naar 6 januari werden belemmerd door de contractwijziging van de FBI enkele dagen voor de aanval”, aldus het rapport. “Interne FBI-communicatie die door de commissie is verkregen, laat zien hoe die overgang verwarring en bezorgdheid veroorzaakte, aangezien de open-source monitoringmogelijkheden van het Bureau minder dan een week voor 6 januari waren aangetast.”
Een van de FBI-berichten die de commissie in handen kreeg, was een e-mail van een FBI-functionaris van het Washington Field Office, waarin hij klaagde over het verlies van Dataminr, dat de functionaris als “cruciaal” beschouwde.
“Hun sleuteltermenzoekfunctie stelt Intel in staat om termen in te voeren waarin we geïnteresseerd zijn, zonder dat we de sociale media constant in de gaten hoeven te houden, aangezien we meldingen ontvangen wanneer er berichten op sociale media worden geplaatst. [sic] hits op een van onze belangrijkste voorwaarden, ‘zei de FBI-functionaris.
“De hoeveelheid tijd die wordt bespaard bij het doorzoeken van eindeloze stromen sociale media, wordt besteed aan het onderhouden van contacten met partners en het samenwerken en ondersteunen van operaties”, vervolgde de e-mail. “We zullen deze tijd verliezen als we geen tool voor sociale media hebben en terugvallen op het scrollen door sociale media op zoek naar relevante berichten.”
Maar burgerlijke libertariërs hebben routinematig gewaarschuwd tegen het gebruik van geautomatiseerde bewakingstools voor sociale media, niet alleen omdat ze geweldloze, grondwettelijk beschermde meningsuiting onder verdenking plaatsen, maar ook vanwege hun potentieel om ongepaste controle uit te oefenen op berichten die geen enkele bedreiging vormen.
Hoewel tools als ZeroFox en Dataminr FBI-analisten inderdaad kunnen behoeden voor tijdlijnen, kan de interne definitie van het bedrijf van welke berichten relevant zijn of een “bedreiging” vormen enorm breed zijn. Dataminr heeft het gebruik van sociale media van mensen en gemeenschappen van kleur gevolgd op basis van vooroordelen en stereotypen van wetshandhavers.
Een mei-rapport van The Intercept onthulde ook dat het contract van de US Marshals Service met Dataminr ervoor zorgde dat het bedrijf niet alleen informatie doorgaf over vreedzame protesten voor abortusrechten, maar ook webinhoud die geen enkele duidelijke relevantie voor wetshandhaving had, inclusief kritiek op het Met Gala en grappen. over het gewicht van Donald Trump.
De e-mail van de FBI eindigt met de opmerking dat “Dataminr gebruiksvriendelijk is en geen expertise vereist op het gebied van misbruik van sociale media.” Maar diezelfde gebruiksvriendelijkheid kan ertoe leiden dat overheidsinstanties zwaar leunen op de aanduidingen van het bedrijf over wat belangrijk is of wat een bedreiging vormt.
De afhankelijkheid is wederzijds. In de aanvraag bij de Securities and Exchange Commission zegt ZeroFox dat “één Amerikaanse overheidsklant goed is voor een aanzienlijk deel” van zijn inkomsten.
Aanvullende rapportage door Sam Biddle.
Bron: theintercept.com
