Un rapport de l'Internet Watch Foundation (IWF), une organisation britannique à but non lucratif, tire la sonnette d'alarme. Durant les six premiers mois de 2025, le nombre de pages web hébergeant du matériel d'abus sexuels sur enfants créé par une IA générative a connu une augmentation fulgurante de 400% par rapport à l'année précédente. Les données révèlent la découverte de 210 pages web, contenant un total de 1 286 vidéos, contre seulement deux sur la même période en 2024. Ce phénomène inquiète les forces de l'ordre du monde entier.

La sophistication terrifiante du contenu

La majorité de ces productions atteint un niveau de réalisme tel que la loi britannique les traite comme des images réelles. Alors que les premières créations étaient courtes et défaillantes, les analystes de l'IWF observent désormais des productions plus longues, aux scènes complexes et aux décors variés, les rendant presque impossibles à distinguer de films authentiques. Environ 78% des vidéos, soit 1 006 au total, ont été classées dans la "Catégorie A", le niveau de gravité le plus élevé. Cette catégorie peut inclure des représentations de viols, des scènes de torture sexuelle et de la bestialité.

Les raisons d'une prolifération vertigineuse

L'IWF ne détermine pas avec certitude les causes exactes de cette multiplication rapide, mais plusieurs facteurs sont avancés. La démocratisation et la sophistication croissante des outils d'intelligence artificielle jouent évidemment un rôle prépondérant. Ces technologies sont devenues de plus en plus faciles d'accès et simples à entraîner pour des fins malveillantes. « Avec une seule instruction, un utilisateur peut générer 50 images, prenant environ 15 à 20 secondes chacune, dans le cas de matériel d'abus sexuels sur enfants », explique Derek Ray-Hill, directeur général par intérim de l'IWF. Des individus malintentionnés parviennent à "affiner" des modèles d'IA de base, librement disponibles, en les nourrissant avec des contenus pédocriminels existants pour produire de nouvelles vidéos réalistes.

menottes-clavier

Une menace qui alarme les autorités

Cette situation représente un défi majeur pour la détection par les techniques traditionnelles. Le volume et la qualité de ce nouveau type de contenu menacent de submerger les plateformes du web. Derek Ray-Hill avertit : « Les enfants dépeints sont souvent réels et reconnaissables, le mal que ce matériel cause est réel et la menace qu'il représente risque de s'intensifier encore davantage ». Cette prolifération pourrait alimenter d'autres activités criminelles comme la traite d'enfants ou l'esclavage moderne. Face à cette menace, les forces de l'ordre commencent à agir. Lors d'une opération coordonnée plus tôt en 2025, Europol a visé des plateformes comme "Kidflix", un service de grande envergure conçu pour diffuser et monétiser des contenus pédopornographiques. L'action a mené à l'arrestation de 25 individus et à l'identification de plus de 250 suspects dans 19 pays.

La riposte législative s'organise

La réponse légale commence à prendre forme. En février 2025, le Royaume-Uni est devenu le premier pays à criminaliser la création et la distribution d'outils d'IA spécifiquement conçus pour générer des contenus d'abus sexuels sur enfants. La loi interdit la possession de modèles d'IA optimisés à cette fin, ainsi que les manuels expliquant comment les utiliser, avec des peines pouvant aller jusqu'à cinq ans de prison. Aux États-Unis, le National Center for Missing & Exploited Children a indiqué avoir reçu plus de 7 000 signalements liés à ces contenus en 2024. L'IWF appelle au développement d'un cadre réglementaire pour s'assurer que les modèles d'IA intègrent des contrôles stricts afin de bloquer la production de ce matériel illicite.