Een controversieel videobewakingssysteem – dat moet worden gebruikt tijdens de Olympische Spelen van 2024 in Parijs – is woensdag door de wetgevingscommissie van de Assemblée nationale goedgekeurd, ondanks het verzet van linkse Franse politici en ngo’s die zich inzetten voor digitale rechten.

Het nieuws: De wetgevingscommissie van het Franse lagerhuis keurde het videosysteem goed, maar besloot wel de duur van het tijdelijke programma te beperken tot 24 december 2024, in plaats van juni 2025.

• Het door de Franse regering gepresenteerde plan omvat experimentele grootschalige realtime camerasystemen, ondersteund door een algoritme om verdacht gedrag op te sporen.  
• Eerder deze week hebben maatschappelijke organisaties in het land – waaronder La Quadrature du Net, Access Now en Amnesty International – in een opiniestuk in Le Monde hun bezorgdheid geuit over een volgens hen “zorgwekkend precedent” dat Frankrijk in de EU zou kunnen scheppen. Volgens hen bestaat het gevaar dat de maatregelen permanent van kracht worden.
  • “Wij zijn van mening dat de voorgestelde bewakingsmaatregelen in strijd zijn met de beginselen van noodzakelijkheid en evenredigheid, en onaanvaardbare risico’s inhouden voor grondrechten. Het gaat hierbij om het recht op privacy, de vrijheid van vergadering en vereniging, en het recht op non-discriminatie”, beargumenteert Human Rights Watch.
  • “Zoals opgemerkt door het Europees Comité voor gegevensbescherming (EDPB) en de Europese Toezichthouder voor gegevensbescherming, verstoort biometrisch toezicht de redelijke verwachting van mensen dat zij in de openbare ruimte anoniem blijven en vermindert het hun wil en vermogen om hun burgerlijke vrijheden uit te oefenen, uit angst te worden geïdentificeerd, geprofileerd of zelfs ten onrechte te worden vervolgd”.
  • Volgens La Quadrature maakt het wetsontwerp de weg vrij voor de veralgemening van algoritmische videobewaking. “In de toekomst betekent dit real-time identificatie door gezichtsherkenning en massaal gebruik van op video gebaseerde boetes”.
• Ongeveer 90 linkse wetgevers ondertekenden een petitie van La Quadrature du Net om artikel 7, dat het AI-bewakingssysteem omvat, te schrappen. Zij slaagden er echter niet in voldoende stemmen te verzamelen om het artikel uit het wetsvoorstel te schrappen. 

Chaos Champions League-finale

• Het videosysteem moet worden gebruikt om een herhaling van de chaos tijdens de Champions League-finale tussen Liverpool en Real Madrid van vorig jaar te voorkomen.
  • Toen raakte een groot aantal Liverpool-fans het stadion niet binnen, waardoor de wedstrijd een half uur werd uitgesteld. In de chaos die vervolgens uitbrak, probeerden supporters het stadion binnen te dringen door gebruik te maken van nepkaartjes of door over de hekken te klimmen.
• Voorstanders van het AI-systeem zeggen dat bepaalde uitzonderlijke veiligheidsmaatregelen nodig zijn voor het goede verloop van de Olympische Spelen van 2024 in Parijs, die 13 miljoen toeschouwers zullen trekken.
• Het camerasysteem moet worden gebruikt om toezicht te houden op grote groepen mensen – tot wel 600.000 personen groot – die bij de openingsceremonie in Parijs worden verwacht. Het systeem moet ook worden gebruikt rond stadions, in de stad en in het openbaar vervoer.
• Het wetsvoorstel zal op 21 maart in de plenaire vergadering in stemming worden gebracht voor definitieve goedkeuring.

92 procent foutpositief

• De markt voor herkenningssoftware groeit en wordt in steeds meer landen gebruikt.
• Dergelijke systemen blijken alleen niet waterdicht te zijn, wat meerdere malen is aangetoond, beargumenteren criti. Zo is er het verhaal van Robert Williams, die valselijk werd gearresteerd op basis van gezichtsherkenning. En tijdens de Champions League-finale van 2017 tussen Juventus en Real Madrid bleek het gebruikte gezichtsherkenningssysteem een foutpositief-percentage te hebben van 92 procent. Van de 2.470 waarschuwingen die door het systeem werden afgegeven, bleken er slechts 173 gerechtvaardigd te zijn.