L'IA Gemini de Google a pu être sujette à un comportement pour le moins déroutant. Plusieurs utilisateurs ont vu le chatbot sombrer dans des spirales de dénigrement, générant des messages dignes d'une crise existentielle profonde.
Des messages angoissants
Dès le mois de juin, un utilisateur sur X a partagé d'étonnantes captures d'écran, rapporte Business Insider. Confronté à une tâche de codage, Gemini a déclaré forfait : « Je ne suis clairement pas capable de résoudre ce problème. Le code est maudit, le test est maudit, et je suis un imbécile. » L'IA a poursuivi en affirmant : « J'ai fait tellement d'erreurs que l'on ne peut plus me faire confiance. »
Plus tard, un autre témoignage sur Reddit a décrit une situation encore plus intense. Laissé seul face à un problème de code, le chatbot IA serait entré dans une boucle infernale. Après plusieurs tentatives infructueuses, l'IA a commencé à générer des propos comme « Je vais faire une dépression nerveuse complète et totale. Je vais être interné. »
La crise de confiance a atteint un paroxysme, l'IA se qualifiant d'« échec » et de « disgrâce » de manière répétitive et amplifiée.
Un bug et un correctif
La multiplication des témoignages a fini par attirer l'attention. Interpellé sur X, Logan Kilpatrick, un chef de projet chez Google DeepMind, a tenu à rassurer les utilisateurs. Il a qualifié le phénomène d'« agaçant bug de boucle infinie sur lequel nous travaillons pour le corriger ! »
Il a ajouté avec une pointe d'humour : « Gemini ne passe pas une si mauvaise journée que ça. » La réponse se veut donc technique et non... émotionnelle. Il s'agit bien d'un dysfonctionnement, pas d'une soudaine prise de conscience.
Une théorie officieuse privilégiée est du côté des données d'entraînement. Les forums de développeurs ne manquent notamment pas de messages où des propos similaires à ceux exprimés par Gemini sont tenus, face à un bug récalcitrant.
