" Ne faites jamais confiance à OpenAI ou à ses produits comme ChatGPT et autres. " C'est le message du lanceur d'alerte américain Edward Snowden qui avait révélé il y a dix ans l'existence d'un système de surveillance de masse de la NSA (National Security Agency).
Exilé en Russie et ayant obtenu la citoyenneté russe, l'ancien employé de la CIA et de la NSA réagit à l'entrée de Paul M. Nakasone au conseil d'administration d'OpenAI. Cet expert en cybersécurité et en cyberdéfense a participé à la création de l'United States Cyber Command.
Général de l'armée américaine à la retraite, Paul Nakasone a également été le patron de la NSA, ce qui explique la réaction épidermique d'Edward Snowden. " Il n'y a qu'une seule raison de nommer un directeur de la NSA à votre conseil d'administration. C'est une trahison délibérée et calculée des droits de chaque personne sur Terre. "
Le loup est dans la bergerie ?
Faire de ChatGPT un outil de surveillance de masse ? Si Edward Snowden le sous-entend, il s'agit davantage d'inquiétudes qu'il soulève. Le recueil des données d'OpenAI pour l'entraînement de ses modèles d'IA est largement encadré.
Avant même l'arrivée de Paul Nakasone, Edward Snowden avait déjà émis des critiques à l'encontre d'OpenAI, en pointant du doigt un manque de transparence pour l'accès aux données d'entraînement ou aux modèles.
Dans une perspective plus globale, Edward Snowden écrit que " le croisement de l'IA avec l'océan de données de surveillance qui s'est accumulé au cours des deux dernières décennies va mettre des pouvoirs vraiment terribles entre les mains d'un petit nombre de personnes qui n'ont pas de compte à rendre. "
OpenAI pense cybersécurité avant tout
Du côté d'OpenAI, la nomination de Paul Nakasone est présentée comme une opportunité en matière d'amélioration de la sécurité, ainsi que pour mieux comprendre comment l'IA peut être utilisée afin de renforcer la cybersécurité.
" Nous pensons que l'IA a le potentiel d'apporter des avantages significatifs dans ce domaine à de nombreuses institutions fréquemment ciblées par des cyberattaques, tels les hôpitaux, les écoles et les établissements financiers. "
Hormis Edward Snowden, des pays sont susceptibles de sourciller avec un profil du type de Paul Nakasone au conseil d'administration d'OpenAI. Même Apple pourrait tiquer - avec Apple Intelligence - pour l'image que cela renvoie.
