Pour ses plateformes Facebook, Instagram et Threads, le groupe Meta annonce son intention d'étiqueter les contenus générés par l'intelligence artificielle d'autres acteurs comme OpenAI, Microsoft, Google, Adobe, Google, Midjourney et Shutterstock, en plus de ceux produits par ses propres outils d'IA générative.
L'objectif visé est une plus grande transparence et pour faire la distinction par rapport à des contenus authentiques. Autrement dit, c'est l'identification de faux contenus générés par l'IA qui est en jeu, en s'appuyant à la fois sur des marqueurs visibles, des filigranes (watermakers) invisibles et des métadonnées intégrées aux contenus.
Le travail est mené dans le cadre du développement de normes communes et de partenariats pour l'identification des contenus générés par l'IA. Contrairement au cas des images, Meta souligne néanmoins une absence de règles d'identification concernant l'audio et la vidéo générés par l'IA.
Avec la contribution des utilisateurs
" Si les entreprises commencent à inclure des signaux dans leurs générateurs d'images, elles n'ont pas encore commencé à les inclure dans les outils d'IA qui génèrent du son et de la vidéo à la même échelle, de sorte que nous ne pouvons pas encore détecter ces signaux et étiqueter ce type de contenu provenant d'autres entreprises ", écrit Nick Clegg.
Le responsable des affaires internationales de Meta ajoute : " Pendant que l'industrie travaille pour mettre en place cette fonctionnalité, nous ajoutons une fonction permettant aux utilisateurs lorsqu'ils partagent des vidéos ou des sons générés par l'IA de l'indiquer afin que nous puissions les étiqueter. "
Alors que leur nature n'est pas précisée, des sanctions pour des manquements pourront être prises envers les utilisateurs. Si des contenus générés ou modifiés par l'IA présentent un risque jugé particulièrement élevé de tromper le public sur un sujet important, un étiquetage plus visible sera ajouté.
Un travail de longue haleine
Le défi à relever est de taille pour Meta. La difficulté pourrait devenir croissante au fil du temps, avec des outils d'IA de plus en plus sophistiqués. Meta planche sur une technologie Stable Signature pour des tatouages numériques directement intégrés aux générateurs d'images open source, sans possibilité de les désactiver.
Pour le respect de ses standards de la communauté, Meta indique par ailleurs le début de l'entraînement de grands modèles de langage qui pourraient ultérieurement améliorer les résultats par rapport à ses modèles de machine learning déjà à la manœuvre.
