Apple komt met een plan om foto’s te gaan controlen op kindermisbruik. Wat zeggen de deskundigen op het gebied van privacy?
Apple heeft vorige week aangekondigd alle foto’s op iPhones en iPads te gaan controleren op kindermisbruik. Apple zal hier ongetwijfeld goede bedoelingen mee hebben, maar uiteraard leidt deze zet tot veel onrust bij gebruikers. Stel dat je een foto maakt van je eigen kind die je in bad doet, wordt dat dan ook gezien als kindermisbruik?
Hoe werkt de controle op kindermisbruik?
Voor het detecteren van de foto’s maakt Apple gebruik een programma dat ‘neuralMatch’ zou heten en dat gebruikt maakt van zogeheten ‘hashes’. Hiermee kunnen beelden als kindermisbruik worden herkend. ‘Hashes’ zijn een soort code die zijn gekoppeld aan beelden die al bekend zijn bij de NCMEC (National Center for Missing and Exploited Children) en andere organisaties die kindermisbruik tegengaan.
Het zou voorlopig alleen gaan om foto’s die in het back-upsysteem iCloud worden opgeslagen. Het programma moet alarm slaan zodra er een vermoeden van kindermisbruik is. Hierbij wordt gebruik gemaakt van ruim 200.000 foto’s van kindermisbruik die zijn verzameld door bovengenoemde organisaties. Het programma controleert of er overeenkomsten zijn met deze hashes. Zo’n hash blijft ook in stand als de foto een beetje is aangepast ten opzichte van het origineel, bijvoorbeeld als de foto is bijgeknipt of dat er een filter over de foto heen is geplakt. Als er meerdere overeenkomsten zijn gevonden in je fotobibliotheek met de bekende hashes van kindermisbruik, dan wordt dit gemeld en gaat een team van onderzoekers de beelden controleren. Dat team kan ook besluiten de andere afbeeldingen van de gebruiker te controleren.
Apple meldt dat de controle met deze hashes-controle dermate betrouwbaar is, dat de kans op een valse melding verwaarloosbaar klein is, namelijk slechts één op een biljoen is.
Eigen foto’s worden niet gemeld
Als je een foto van je eigen kinderen maakt, worden heeft deze geen hash die gekoppeld is aan beelden van kindermisbruik. Die foto’s worden dus niet geregistreerd bij Apple. Het iOS zal dan niets detecteren en daarom ook niks doorsturen naar Apple voor handmatige controle.
Je hoeft dus niet te vrezen dat al je eigen foto’s worden gecontroleerd door Apple. Wat er op de foto staat wordt namelijk niet door het systeem gecheckt. Alleen de hash die de foto heeft wordt gecontroleerd.
Deze controle zal voorlopig alleen in de VS worden ingevoerd. Apple is ook voornemens deze functie ook in andere landen uit te rollen, maar de strengere privacywetgeving in Europa gooit hierbij, althans voorlopig, roet in het eten.
Deskundigen kritisch
Beveiligings- en privacydeskundigen staan niet te springen om dergelijke controles en zijn behoorlijk kritisch. Dit zou volgens deze deskundigen wel eens het begin kunnen zijn van het monitoren van meer gegevens van alle gebruikers van iPhones en iPads. Bovendien zouden dergelijke programma’s ook kunnen worden gebruikt om andere zaken op te sporen, zoals bijvoorbeeld dissidente geluiden. Stel je voor wat er zou gebeuren als dergelijke software in handen zou vallen van autoritaire regimes. Privacy-activisten noemen dit een enorme achteruitgang voor de privacy van het individu.
