In het kort

• EU-wetgevers debatteren over het uitbreiden van het scannen op kindermisbruik naar versleutelde berichten.
• Scannen aan de kant van de gebruiker brengt de digitale privacy in gevaar doordat gegevens vóór versleuteling worden gecontroleerd.
• Gerichte huiszoekingsbevelen bieden een nauwkeuriger alternatief voor massale surveillance.

Het debat rond „Chat Control“ in de Europese Unie draait om de spanning tussen het uitbannen van kindermisbruik en het behouden van de integriteit van privé-digitale communicatie. Op dit moment hangt de behandeling van een privébericht af van de dienst die je gebruikt. Berichten die via niet-versleutelde apps worden verstuurd, kunnen voor bezorging door geautomatiseerde systemen worden geanalyseerd, terwijl berichten die via end-to-end versleutelde platforms zoals Signal of WhatsApp worden verstuurd, volgens de huidige wetgeving buiten dergelijk onderzoek blijven. Dat meldt Euronews.

Hoewel een tijdelijke verordening die tot 2028 geldt, sommige platforms toestaat vrijwillig te scannen op materiaal van seksueel misbruik van kinderen (CSAM), werkt dit niet op dezelfde manier voor versleutelde diensten. Ondertussen wordt er nog onderhandeld over een meer permanent kader, vaak “Chat Control 2.0” genoemd, waarbij het belangrijkste twistpunt is of deze regels uiteindelijk ook zullen gelden voor versleutelde chats.

Methoden voor geautomatiseerde detectie

Bij geautomatiseerde detectie worden over het algemeen twee technieken gebruikt. Bij hash-matching worden media omgezet in een digitale vingerafdruk die wordt vergeleken met een database van bekende illegale inhoud; hoewel dit nauwkeurig is bij exacte overeenkomsten, kan het makkelijk worden omzeild door kleine aanpassingen. Als alternatief worden machine learning-modellen gebruikt om nieuwe inhoud te identificeren of tekst te scannen op patronen die wijzen op grooming.

Patrick Breyer, juridisch expert en voorvechter van digitale rechten, stelt dat deze tools minder betrouwbaar zijn dan ambtenaren denken. Hij merkt op dat hash-matching vaak veel valse positieven oplevert, waarbij hij verwijst naar Duitse gegevens waaruit bleek dat meer dan de helft van de meldingen juridisch niet relevant was. Breyer suggereert dat dit deels komt doordat databases vaak internationaal worden samengesteld zonder dat ze worden getoetst aan specifieke Europese wettelijke normen met betrekking tot criminele opzet.

Uitdagingen bij client-side scanning

De technische uitvoering verschilt per platform. Niet-versleutelde diensten scannen gegevens op hun eigen servers. Maar omdat versleutelde providers berichten niet kunnen lezen, zou de detectie op het apparaat van de gebruiker moeten plaatsvinden voordat de versleuteling gebeurt – een proces dat bekendstaat als ‘client-side scanning’. Hierbij wordt het bericht in feite geïnspecteerd voordat het wordt versleuteld, en daarom is deze werkwijze zo controversieel.

Zelfs als een systeem inhoud markeert, schakelen bedrijven als Google meestal menselijke beoordelaars in om te controleren of het klopt, voordat ze het aan de autoriteiten melden. Breyer stelt dat dit menselijke element op grote schaal tekortschiet, omdat beoordelaars onschuldig gedrag van tieners of grappen verkeerd kunnen interpreteren als illegale activiteiten, waarbij ze vaak niet kunnen vaststellen of er sprake was van criminele opzet. Dit risico wordt aanzienlijk vergroot bij het scannen van tekst, omdat gesprekspatronen die bij grooming worden gebruikt vaak op normale spraak lijken.

Voorgestelde alternatieven

Breyer is niet tegen alle vormen van detectie, maar pleit tegen massale surveillance. Hij vindt dat scannen alleen mag gebeuren op basis van een door de rechter goedgekeurd bevel voor specifieke verdachten, in plaats van alle burgers in de gaten te houden. Hij stelt alternatieven voor, zoals ‘security by design’, waarbij apparaten gebruikers waarschuwen voordat ze gevoelige inhoud delen zonder die gegevens naar een server te sturen, of het proactief scannen richten op het open en dark web.

Uiteindelijk is de huidige situatie rond digitale privacy nogal versnipperd. Afhankelijk van de app wordt content ofwel verwerkt via een reeks van algoritmische scans en menselijke beoordelingen, of blijft het privé. De uiteindelijke uitkomst van het definitieve voorstel van de EU zal bepalen of deze grens behouden blijft of dat het scannen verder ‘stroomopwaarts’ wordt verplaatst, naar het eigen apparaat van de gebruiker.

Schrijf je hieronder in voor onze GRATIS nieuwsbrief