Apple s'engage dans lutte louable qui lance toutefois quelques questions sur le respect de la vie privée des utilisateurs. La marque a ainsi récemment annoncé souhaiter participer plus activement dans la lutte contre la pédocriminalité et notamment la pédopornographie.
À son échelle, Apple souhaite ainsi mettre en place divers outils pour contribuer à repérer les prédateurs sexuels qui utiliseraient iPad ou iPhone.
La première idée du groupe est de proposer des outils au sein de son application Messages qui deviendrait plus intelligente et permettrait d'alerter sur la présence de contenu jugé sensible. Les discussions sujettes à controverse seraient alors accessibles par Apple en cas de saisie comme pièce à conviction si une plainte est déposée. Par ailleurs, les images à caractère sexuel seraient floutées et les utilisateurs mineurs seraient renvoyés vers une page de documentation de prévention, et les parents alertés.
Mais au-delà de cela, Apple envisage d'installer sur iPhone un logiciel qui permettrait de visualiser le contenu transféré vers iCloud à la recherche de contenu pédopornographique. Le logiciel automatisé "garderait à l'esprit la confidentialité des utilisateurs" annonce Apple. Le module comparerait alors les images des utilisateurs avec une base de données d'images fournie par le NCMEC (centre national pour les enfants disparus et exploités) ainsi que d'autres organismes de sécurité des enfants".
Apple évoque le concept "d'empreintes" d'images qui seraient ainsi réalisées à partir des contenus de chacun et qui seraient comparées à d'autres empreintes d'images illicites. Lorsqu'une correspondance sera établie, le système automatisé confiera le relais à des analystes humains qui se chargeront d'envoyer des rapports au NCMEC si besoin.
Ces outils devraient intégrer iOS 15 et ne devraient toutefois concerner que les USA pour l'instant, la réglementation européenne étant plus stricte quant à l'exploitation des données des utilisateurs.
