Les intelligences artificielles dédiées à la création de contenu se multiplient ces derniers mois et l'on voit arriver des versions très performantes sur le marché.
Midjourney et Stable Diffusion permettent de créer des images plus réelles que jamais et offrent l'opportunité à quiconque de produire des rendus sans aucune connaissance particulière dans les outils de retouche photo. Cela peut parfois poser problème avec la réalisation de contenu parfois trompeur... Et nécessite donc la mise en place de garde-fous pour limiter la production de contenu pouvant porter atteinte à l'image, ou de développer des outils permettant d'identifier ces contenus automatiquement générés par l'IA.
Des outils nécessaires pour éviter les dérives
Alors que les réseaux sociaux permettent déjà de propager des fake news en quelques clics, il devient urgent de mettre en place des solutions pour limiter les dérives liées à ces IA.
La CAI (Content Authenticity Initiative) devrait permettre de répondre à cette problématique. Développée par Adobe et le New York Times, le projet visait au départ à vérifier l'authenticité de clichés numériques. Pour ce faire, cela implique qu'un appareil photo quelconque soit en mesure de déposer une signature numérique unique au moment de la capture, signature qui est complétée ensuite au fil des retouches et modifications de l'image et qui permet de suivre ainsi la "vie" du cliché avec un historique complet des modifications. Ce sont les logiciels d'édition qui complètent les données à mesure que l'image est retravaillée.
Il serait donc possible pour les modules de visionnage (galeries, sites Internet) de mettre en place des outils permettant aux lecteurs d'être rassurés sur l'origine de l'image et de lui garantir une certaine authenticité.
Reste que la mise en place doit se faire au cas par cas et qu'il faudra sans doute qu'un cadre légal s'installe pour contraindre les médias et sites en général à proposer ce genre d'outils.
Dans l'attente, les productions proposées par les IA ne sont pas forcément parfaites : quelques points permettent souvent de définir qu'une intelligence artificielle est à l'oeuvre dans un cliché :
- Les mains ne sont pas toujours bien reproduites ou avec trop / pas assez de doigts
- Les lunettes peuvent poser problème (pas de reflets, manque d'une branche)
- Les textes sont souvent aléatoires et les tailles de caractères mal respectées
En cas de doute, il est possible de récupérer la photo que l'on soupçonne d"être produite par une IA et de réaliser une recherche en ligne : si le cliché est diffusé sur de multiples sites, certains indiquent peut être qu'il a été réalisé via une IA.
