Apple vient d’annoncer une série de nouvelles mesures pour lutter contre la pédocriminalité. Et parmi ces mesures, il y a une nouvelle fonctionnalité d’iCloud destinée à empêcher la circulation des contenus illégaux.
Cette semaine, une rumeur avait circulé indiquant qu’Apple développe une fonctionnalité qui permettra d’analyser les images mises en ligne sur sa plateforme de stockage, afin de détecter les contenus illégaux. Et aujourd’hui, c’est officiel.
Dans une publication, Apple donne plus de détails sur ce mécanisme, tout en rassurant les utilisateurs en évoquant toutes les mesures prises pour respecter la vie privée. En effet, les employés d’Apple ne vont pas regarder une par une les images stockées sur iCloud.
Le logiciel développé par la firme analysera plutôt des hash. En substance, il s’agit d’une signature numérique qui est générée à partir d’une image.
« La méthode d’Apple pour détecter les CSAM (ndlr, les contenus illégaux) connus est conçue en tenant compte de la confidentialité des utilisateurs. Au lieu de numériser des images dans le cloud, le système effectue une correspondance sur l’appareil à l’aide d’une base de données de hachages d’images CSAM connus fournis par le NCMEC et d’autres organisations de sécurité des enfants », indique la firme de Cupertino.
Apple détaille les différentes étapes pour respecter la confidentialité
En substance, avant qu’une image ne soit mise en ligne sur iCloud, l’algorithme qui fonctionne en local réalise une analyse (en analysant les hash) afin de savoir s’il y a une correspondance entre la signature de cette image et les bases de données d’images illégales connues.
« Ce processus de correspondance est alimenté par une technologie cryptographique appelée intersection d’ensembles privés, qui détermine s’il existe une correspondance sans révéler le résultat. L’appareil crée un bon de sécurité cryptographique qui code le résultat de la correspondance ainsi que des données cryptées supplémentaires sur l’image. Ce bon est téléchargé sur iCloud Photos avec l’image », explique Apple.
Apple a également développé un autre garde-fou qui assure que le « bon de sécurité » ne peut être interprété que si un « seuil » a été atteint dans la détection. Et ce seuil a été établi de manière à ce qu’un très haut niveau de précision soit requis pour qu’il soit atteint. Apple assure que ce système « garantit moins d’une chance sur un billion par an de signaler de manière incorrecte un compte donné. »
Si et seulement si ce seuil est atteint, Apple peut interpréter le contenu mis en ligne ainsi que le bon de sécurité. Ensuite, l’entreprise peut procéder à un examen « manuel » du signalement. Par la suite, Apple peut confirmer ce signalement, suspendre le compte concerné et signaler les autorités.
Le nouveau dispositif sera mis en place sur iOS 15. Et pour le moment, il ne concerne que les utilisateurs américains.
Parmi les autres fonctionnalités annoncées par Apple, il y a également un nouveau système d’alerte sur iMessages qui alertera un enfant ainsi que ses parents lorsqu’une image sexuellement explicite est envoyée. Pour détecter les images à signaler, l’application utilise une intelligence artificielle qui fonctionne sur l’appareil (donc, les données ne sont pas envoyées dans le cloud).
Sur Siri et sur son outil de recherche, Apple permettra également un accès facile aux ressources destinées aux enfants et aux parents concernant la sécurité en ligne. D’autre part, ces outils de recherche peuvent également intervenir lorsque l’utilisateur fait des recherches liées aux contenus illégaux.
En ce qui concerne la détection des contenus illégaux sur iCloud, il est à noter que des techniques similaires sont déjà utilisées par d’autres plateformes pour lutter contre la pédocriminalité. Néanmoins, la nouvelle a préoccupé certains experts (dont Edward Snowden), craignant que cet outil puisse être détourné.
pic.twitter.com/yN9DcTsBNT
— Edward Snowden (@Snowden) August 6, 2021
