De Europese Commissie heeft woensdag een nieuwe verordening voorgesteld die technologiebedrijven zou verplichten te scannen op materiaal voor seksueel misbruik van kinderen (CSAM) en verzorgingsgedrag, waardoor de vrees ontstond dat dit end-to-end-encryptie (E2EE) zou kunnen ondermijnen.
Daartoe wordt van online serviceproviders, waaronder hostingservices en communicatie-apps, verwacht dat ze hun platforms proactief scannen op CSAM en de toegang tot dergelijke illegale inhoud rapporteren, verwijderen en uitschakelen.
Terwijl instant messaging-diensten zoals WhatsApp al bouwen op op gehashte versies van bekende CSAM om automatisch nieuwe uploads van afbeeldingen of video’s die daarmee overeenkomen te blokkeren, vereist het nieuwe plan dat dergelijke platforms nieuwe exemplaren van CSAM identificeren en markeren.
“Detectietechnologieën mogen alleen worden gebruikt om seksueel misbruik van kinderen op te sporen”, zegt de toezichthouder zei. “Aanbieders zullen technologieën moeten inzetten die het minst privacy-intrusief zijn in overeenstemming met de stand van de techniek in de industrie, en die het foutenpercentage van valse positieven zoveel mogelijk beperken.”
Een nieuw EU-centrum voor seksueel misbruik van kinderen, dat onafhankelijk zal worden opgericht om de maatregelen te handhaven, is belast met het onderhouden van een database met digitale “indicatoren” van seksueel misbruik van kinderen, naast het verwerken en doorsturen van legitieme rapporten voor wetshandhavingsacties.
Bovendien vereisen de regels dat app-winkels ervoor zorgen dat kinderen geen apps downloaden die “ze kunnen blootstellen aan een hoog risico om kinderen te lokken”.
Het controversiële voorstel om seksueel misbruikmateriaal aan banden te leggen komt dagen na een conceptversie van de verordening eerder deze week gelektwat Johns Hopkins University-beveiligingsonderzoeker Matthew Green ertoe aanzette om staat dat “Dit is Apple helemaal opnieuw.”
De technologiegigant, die vorig jaar plannen aankondigde om CSAM op zijn apparaten te scannen en te detecteren, heeft sindsdien de uitrol uitgesteld om “de komende maanden extra tijd te nemen om input te verzamelen en verbeteringen aan te brengen”.
Meta heeft ook zijn plannen om E2EE te ondersteunen voor al zijn berichtenservices, WhatsApp, Messenger en Instagram, uitgesteld tot ergens in 2023, en stelt dat het de tijd neemt om “dit goed te doen”.
een primaire bezorgdheid over privacy en veiligheid Als gevolg van het scannen van apparaten voor illegale foto’s van seksueel misbruik is dat de technologie de privacy zou kunnen verzwakken door achterdeurtjes te creëren om E2EE-beveiligingen te omzeilen en grootschalige surveillance mogelijk te maken.
Dit zou ook aanhoudende toegang in platte tekst tot de privéberichten van gebruikers vereisen, waardoor E2EE in feite incompatibel zou worden en de veiligheid en vertrouwelijkheid van de communicatie zou worden aangetast.
“Het idee dat alle honderden miljoenen mensen in de EU hun intieme privécommunicatie zouden hebben, waar ze een redelijke verwachting hebben dat dat privé is, om in plaats daarvan willekeurig en in het algemeen 24/7 gescand te worden, is ongekend”, Ella Jakubowska , een beleidsadviseur bij European Digital Rights (EDRi), vertelde Politico.
Maar de privacy die wordt geboden door versleuteling blijkt ook een tweesnijdend zwaard te zijn, waarbij regeringen steeds meer terugvechten tegen de zorgen dat versleutelde platforms worden misbruikt door kwaadwillende actoren voor terrorisme, cybercriminaliteit en kindermishandeling.
“Encryptie is een belangrijk hulpmiddel voor de bescherming van cyberbeveiliging en vertrouwelijkheid van communicatie”, aldus de commissie zei. “Tegelijkertijd kan het gebruik ervan als een veilig kanaal door criminelen worden misbruikt om hun acties te verbergen, waardoor de inspanningen om daders van seksueel misbruik van kinderen voor de rechter te brengen, worden belemmerd.”
De ontwikkeling onderstreept de voortdurende strijd van Big Tech om een evenwicht te vinden tussen privacy en veiligheid, terwijl tegelijkertijd wordt ingegaan op de noodzaak om wetshandhavingsinstanties te helpen bij hun zoektocht naar toegang tot criminele gegevens.
“Het nieuwe voorstel is te breed, niet proportioneel en schaadt ieders privacy en veiligheid”, zegt de Electronic Frontier Foundation (EFF) zei. “De scanvereisten zijn onderworpen aan waarborgen, maar ze zijn niet sterk genoeg om de privacy-intrusieve acties te voorkomen die platforms zullen moeten ondernemen.”
