Des milliers de conversations privées d'utilisateurs de ChatGPT se sont retrouvées indexées et accessibles publiquement via une simple requête avec le moteur de recherche Google. Un résultat similaire pouvait être obtenu avec d'autres moteurs de recherche.

Une expérience qui tourne au vinaigre

À l'origine, l'intention semblait pourtant anodine. OpenAI testait une fonctionnalité permettant aux utilisateurs de partager leurs discussions avec ChatGPT. Pour qu'une conversation devienne publique, l'utilisateur devait délibérément cliquer sur un bouton de partage, puis créer un lien et enfin cocher une case pour autoriser l'indexation par les moteurs de recherche.

La manœuvre n'était donc pas activée par défaut. Le problème est que beaucoup d'utilisateurs n'ont probablement pas mesuré la portée de leur dernier clic, transformant sans le vouloir leurs échanges en archives publiques.

Un oubli ou une incompréhension qui a pu avoir des conséquences directes sur la protection de leurs données personnelles.

Des conversations privées exposées au grand jour

En fouillant avec la bonne requête sur Google (site:chatgpt.com/share), il devenait possible de lire les pensées, les projets et les secrets de parfaits inconnus.

Au-delà de demandes d'aide pour rénover une salle de bain, des questions sur l'astrophysique et trouver des idées de recettes de cuisine, TechCrunch détaille des choses bien plus sensibles.

Un utilisateur avait par exemple demandé à ChatGPT de réécrire son CV pour un poste, tandis que d'autres utilisateurs posaient des questions de santé très personnelles, voire tenaient des propos dignes de forums peu recommandables.

La machine arrière express d'OpenAI

Quelques heures seulement après que l'affaire a éclaté sur les réseaux sociaux, OpenAI a purement et simplement supprimé la fonctionnalité. L'équipe de sécurité d'OpenAI a reconnu une faille, non pas technique, mais humaine.

« Il s'agissait d'une expérience de courte durée visant à aider les utilisateurs à trouver des conversations utiles. […] Nous pensons que cette fonctionnalité a finalement présenté trop d'occasions pour les utilisateurs de partager accidentellement des choses qu'ils n'avaient pas l'intention de partager. Nous travaillons également à supprimer le contenu indexé des moteurs de recherche concernés. »

Même avec des garde-fous techniques, l'élément humain reste manifestement un maillon faible pour sa propre confidentialité.