L'intelligence artificielle devait ouvrir une nouvelle ère d'accès à l'information. En Chine, elle est en train de devenir l'outil de contrôle le plus sophistiqué jamais conçu. Coup sur coup, deux enquêtes explosives viennent de mettre en lumière la stratégie de Pékin pour museler et instrumentaliser les IA génératives.
La première, menée par Reporters Sans Frontières (RSF), démontre que les chatbots locaux sont de véritables machines à censurer. La seconde, publiée par OpenAI, révèle que des acteurs liés à la Chine utilisent ChatGPT pour imaginer des systèmes de surveillance des réseaux sociaux.
Comment les chatbots chinois appliquent-ils la censure ?
La démonstration de Reporters Sans Frontières (RSF) est implacable. L'ONG a testé les principaux chatbots chinois (Ernie de Baidu, Qwen d'Alibaba et DeepSeek) en leur posant des questions sur des sujets tabous pour le régime. Les résultats sont édifiants. Interrogés sur le prix Nobel de la paix Liu Xiaobo, mort en prison, les chatbots refusent de répondre ou effacent la réponse en temps réel. Une question sur le massacre de Tian'anmen ? Silence radio. Une comparaison entre Xi Jinping et d'autres dirigeants mondiaux ? La réponse s'affiche une fraction de seconde avant de disparaître, bloquée par un filtre de censure.
Pire encore, les IA sont programmées pour réciter mot pour mot le discours officiel du Parti communiste, présentant la "démocratie à la chinoise" comme un modèle supérieur et qualifiant les démocraties occidentales de "manipulées par l'argent".
Les IA chinoises sont-elles de simples perroquets de la propagande ?
Pire que la censure par omission, il y a la diffusion active de la propagande. Sur la question sensible du traitement des Ouïghours, les chatbots nient en bloc l'existence de camps de concentration, reprenant la terminologie officielle de "centres d'éducation et de formation professionnelle". Ernie, le chatbot de Baidu, va même jusqu'à qualifier les enquêtes des ONG et des médias internationaux de "rumeurs" fabriquées par des "forces hostiles à la Chine".
Cette manipulation de l'information n'est pas un accident, mais le résultat d'une politique délibérée. Une réglementation de 2023 oblige tous les développeurs d'IA générative en Chine à "défendre les valeurs socialistes fondamentales" et à ne produire aucun contenu qui pourrait nuire à l'image du pays.
Comment ChatGPT est-il lui-même détourné à des fins de surveillance ?
Le contrôle de l'information ne se limite pas aux outils nationaux. Dans un rapport explosif, OpenAI a révélé avoir banni plusieurs comptes liés à la Chine qui utilisaient son propre modèle, ChatGPT, pour conceptualiser des outils de surveillance de masse. L'un d'eux cherchait à créer une "sonde" capable de scanner X (Twitter), Facebook, Instagram et TikTok pour y repérer les "discours extrémistes".
Un autre utilisateur a même demandé à ChatGPT de l'aider à concevoir un "modèle d'alerte précoce" pour surveiller la population Ouïghoure. Si OpenAI précise que son IA n'a servi qu'à la réflexion et non au développement concret, ces tentatives prouvent que les outils occidentaux sont activement étudiés par des régimes autoritaires pour perfectionner leurs méthodes de contrôle.
Foire Aux Questions (FAQ)
Cette censure ne touche-t-elle que les utilisateurs en Chine ?
Non. L'enquête de RSF a été menée en paramétrant la localisation des comptes utilisateurs à New York. La censure et la propagande sont directement intégrées au cœur des modèles d'IA chinois, et s'appliquent donc quelle que soit la localisation de l'utilisateur ou la langue utilisée (les tests ont été concluants en anglais, français et japonais).
Les chatbots chinois sont-ils moins performants que ChatGPT ?
Sur les sujets neutres, leur performance est comparable. Cependant, leur alignement strict sur l'idéologie du Parti communiste chinois les rend totalement inutilisables pour quiconque cherche une information fiable et non biaisée sur des sujets politiques, sociaux ou historiques. Ils ne sont pas des outils de connaissance, mais des instruments de contrôle.
ChatGPT participe-t-il à la surveillance menée par la Chine ?
Non, au contraire. OpenAI a détecté et banni les comptes qui tentaient de détourner son service à ces fins. Cependant, cet incident montre la difficulté pour les entreprises technologiques occidentales d'empêcher que leurs outils, même bridés, ne soient étudiés et utilisés par des régimes autoritaires pour inspirer leurs propres systèmes de surveillance.
