De burgemeester van Nice, Christian Estrosi, heeft het debat over het gebruik van software voor gezichtsherkenning nieuw leven ingeblazen. Dat deed hij nadat er beelden werden verspreid van gewelddadige confrontaties buiten het Stade de France tijdens de finale van de Champions League.
“Ik zou willen dat we eindelijk een einde kunnen maken aan het verbod op gezichtsherkenning van de CNIL (de Franse datawaakhond, red.)”, aldus de burgemeester.
Frankrijk verbiedt normaal gesproken het gebruik van technologieën voor gezichtsherkenning in de openbare ruimtes. Er zijn echter enkele uitzonderingen voor “zwaarwegende redenen van algemeen belang”, maar de identificatie van fans bij de ingang van een stadion behoort daar niet toe, wat de burgemeester van Nice tegen het verkeerde been stoot.
“Het is haast onmogelijk voor de politie om 1.000 of 2.000 mensen te arresteren bij een evenement, maar als ze worden geïdentificeerd door gezichtsherkenning, kunnen we ze gemakkelijk later thuis oppakken”, zo gaat Estrosi verder. “Een groot aantal organisatoren van sportevenementen is er al voorstander van”.
Eerder in Nice heeft Estrosi tijdens de 135ste editie van het carnaval in 2019 al geëxperimenteerd met gezichtsherkenning, om in de menigte verdwaalde kinderen of gezochte personen op te sporen.
De Champions League-finale tussen Real Madrid en Liverpool zorgde voor heel wat chaos en problemen. Een groot aantal Liverpool-fans geraakte het stadion niet binnen, waardoor de wedstrijd een half uur werd uitgesteld. In de chaos die vervolgens uitbrak, probeerden supporters het stadion binnen te dringen door gebruik te maken van nepkaartjes of door over de hekken te klimmen. De Franse politie zou als reactie op de ongeregeldheden traangas hebben ingezet.
92 procent foutpositief
In februari 2021 heeft het CNIL een waarschuwing gegeven aan de Franse voetbalclub FC Metz, omdat die had geëxperimenteerd met een gezichtsherkenningssysteem om mensen te screenen die uit stadions werden geweerd. Volgens de waakhond had de club niet het recht om zijn systemen te baseren op biometrische gegevens van mensen.
Een vergelijkbare technologie werd gebruikt tijdens de Champions League-finale van 2017 in Cardiff tussen Juventus en Real Madrid. De lokale politie meldde later echter dat van de 2.470 waarschuwingen die door het systeem werden afgegeven, er slechts 173 gerechtvaardigd bleken te zijn, wat een foutpositief-percentage van 92 procent is.
Belgische politie
De Raad van de EU buigt zich momenteel over het voorstel van de Europese Commissie om kunstmatige intelligentie te reguleren. In oktober 2021 hebben EU-wetgevers met een meerderheid een resolutie aangenomen waarin zij pleitten voor een volledig verbod. De Europese Volkspartij (EVP) poogde de ingreep echter af te zwakken en stelde voor om de software “eerbiedig” te gebruiken.
Ook de Belgische politie blijkt gebruik te hebben gemaakt van dergelijke omstreden herkenningssoftware. Uit intern onderzoek bleek dat twee rechercheurs de software van Clearview AI hebben getest tijdens een vergadering met Europol. Het Controleorgaan op de Politionele Informatie was kritisch voor de Belgische politie.
Het orgaan merkte daarnaast op dat er persoonlijke foto’s naar een commercieel bedrijf buiten de EU zijn verzonden. “De federale politie lijkt niet te beseffen dat daardoor niet alleen politionele foto’s aan een commercieel bedrijf worden doorgestuurd, noch dat biometrische gegevens sindsdien door het bedrijf Clearview bijgehouden worden”.
Clearview AI
Het bedrijf Clearview AI, dat in 2017 werd opgericht, is een grote naam op het gebied van gezichtsherkenning. De onderneming heeft miljoenen foto’s verzameld in een database waarvan zijn software voor gezichtsherkenning gebruik maakt. Het bedrijf beweert meer dan 20 miljard foto’s van het internet te hebben geschraapt, waaronder van Facebook, Instagram en Twitter, als ook van nieuwssites en websites van mugshots. Dit is allemaal gebeurd zonder medeweten en toestemming van de geportretteerden.
De markt voor herkenningssoftware groeit en wordt steeds meer toegepast in ons dagelijks leven. Dergelijke systemen blijken alleen niet waterdicht te zijn, wat meerdere malen is aangetoond. Geautomatiseerde systemen zijn niet neutraal en weerspiegelen vooroordelen van degene die de software schrijven. Zo was er het verhaal van Robert Williams, die valselijk werd gearresteerd op basis van gezichtsherkenning.
(mah)