6 beantwoorde vragen over scannen iPhone-foto’s op kindermisbruik

Nee. De functie is alleen van toepassing op foto’s die de gebruiker uploadt naar iCloud-foto’s. En zelfs dan wordt Apple alleen geïnformeerd over accounts die bekende CSAM (Child Sexual Abuse Material, red) in de bibliotheek hebben staan. Het systeem werkt niet bij gebruikers die iCloud-foto’s hebben uitgeschakeld.’

Nee. CSAM-afbeeldingen worden niet opgeslagen of verzonden naar het apparaat. In plaats van echte afbeeldingen, gebruikt Apple onleesbare hashes die op het apparaat zijn opgeslagen. Deze hashes zijn reeksen getallen die bekende CSAM-afbeeldingen vertegenwoordigen, maar het is niet mogelijk om die hashes te lezen of om te zetten in CSAM-afbeeldingen.

De sets hashes zijn gebaseerd op afbeeldingen die door instanties zijn verkregen en gevalideerd als CSAM. Door nieuwe cryptografische technieken te gebruiken, kan Apple deze hashes inzetten om te leren over iCloud Foto’s-accounts met bekend CSAM-materiaal. Apple detecteert alleen foto’s die bekend zijn met CSAM, zonder te leren over andere foto’s.

Ons proces is ontworpen om dat de voorkomen. CSAM-detectie voor iCloud-foto’s is zo gebouwd dat het systeem alleen werkt met CSAM-hashes die worden geleverd door NCMEC (een meldpunt voor kindermisbruik) en andere organisaties voor kinderveiligheid.

Er is geen geautomatiseerde rapportage aan de autoriteiten; Apple voert een menselijke beoordeling uit voordat een melding wordt gedaan bij NCMEC. In de meeste landen, waaronder de Verenigde Staten, is eenvoudigweg het bezit van CSAM een misdaad en is Apple verplicht om alle gevallen te melden aan de beoogde autoriteiten.

Apple zal zulke verzoeken afwijzen. We hebben vaker te maken gehad met eisen van de overheid die de privacy van gebruikers aantasten, en we hebben ze standvastig afgewezen.

We zullen ze in de toekomst blijven weigeren. Laten we duidelijk zijn: deze techniek is beperkt tot het detecteren van CSAM in iCloud-foto’s en we zullen niet ingaan op verzoeken om het uit te breiden.

Nee. De techniek is ontworpen om zeer nauwkeurig te zijn en de kans dat het systeem een account ten onrechte als verdacht markeert, is minder dan één op één biljoen per jaar.

Bovendien voert Apple een menselijke beoordeling uit voordat een melding wordt gedaan bij het NCMEC. Als gevolg hiervan zullen systeemfouten of aanvallen er niet toe leiden dat onschuldige mensen worden gemeld bij het NCMEC.

De CSAM-detectie doet in eerste instantie alleen zijn werk in de Verenigde Staten, maar de tech-gigant wil dit later uitbreiden naar meer landen.

Het is nog maar zeer de vraag of het detecteren van iCloud-foto’s op kindermisbruik straks ook in deze regionen van de wereld gebeurt. Dit heeft alles te maken met de AVG, de Europese privacywet. ‘In Europa zitten we met de AVG’ zoals het er nu voor staat steekt die hier een stokje voor’, meldt Peter Krager tegenover BNR, een specialist in privacyrecht.

Apple zou de software hier niet mogen toepassen, omdat de tech-gigant de foto’s eerst zelf controleert, voordat de autoriteiten worden ingeschakeld. En dat mag niet. ‘Een private organisatie die helpt bij de handhaving, zoals Apple, zou kunnen, maar dan moet daar wel een wetgeving voor komen’, oordeelt Krager.