Le message vient d'un des cerveaux de la tech mondiale. Dario Amodei, ancien d'OpenAI et actuel patron d'Anthropic, la société derrière le chatbot Claude, vient de publier un essai de 38 pages qui a l'effet d'une douche froide.
Sa thèse est simple : l'humanité est sur le point de détenir un pouvoir quasi inimaginable, sans avoir la maturité sociale ou politique pour le gérer. Une alerte qui prend une tournure encore plus concrète avec ses prédictions chiffrées sur l'emploi et la sécurité.
Pourquoi une telle montée en puissance de l'intelligence artificielle ?
Dario Amodei estime que nous sommes plus proches que jamais de l'émergence de systèmes qui seraient « bien plus performants que n'importe quel lauréat du prix Nobel ». Le sujet n'est plus seulement d'avoir un outil performant, mais de voir une IA entrer dans une phase de progression exponentielle. Le concept est vertigineux : l'IA écrit déjà son propre code, mène sa propre recherche et accélère donc sa propre itération. C'est une boucle de rétroaction qui pourrait rendre la progression non plus linéaire, mais explosive.
Ce n'est pas de la science-fiction. Le patron d'Anthropic s'appuie sur des constats internes : chez lui, les ingénieurs « n'écrivent quasiment plus aucun code ». Leur rôle a glissé vers celui d'architectes qui pilotent et valident la production des modèles. C'est ce qui nourrit sa conviction qu'une IA de niveau Nobel pourrait voir le jour dès 2026 ou 2027, une prédiction qui fait froid dans le dos.
Quels sont les dangers concrets et immédiats ?
Le risque le plus spectaculaire, et sans doute le plus anxiogène, est celui du bioterrorisme. Amodei est très direct sur ce point : « Un solitaire perturbé [...] aura désormais les mêmes capacités qu'un virologue titulaire d'un doctorat ». La connaissance nécessaire pour créer une arme biologique ou une épidémie, autrefois réservée à une élite scientifique, pourrait devenir accessible à n'importe qui via un simple chatbot.
L'autre menace est d'ordre géopolitique. Laisser cette technologie surpuissante se diffuser sans contrôle, c'est la mettre entre les mains d'États autoritaires. Amodei ne mâche pas ses mots, comparant l'exportation des puces H200 de NVIDIA vers la Chine à « vendre des armes nucléaires à la Corée du Nord ». Pour lui, l'IA est un enjeu de sécurité nationale, une concentration de cognition équivalente à « un pays de génies dans un data center ».
Quel sera l'impact sur la société et que faut-il faire ?
L'onde de choc économique s'annonce tout aussi violente. Selon les prédictions d'Amodei à Davos, « la moitié des postes juniors de cols blancs pourrait disparaître dans une fenêtre de un à cinq ans ». Un paradoxe se dessine : une possible hausse de la croissance économique accompagnée d'un chômage élevé et croissant, notamment chez les plus jeunes. Le tissu social pourrait en être profondément déstabilisé.
Face à ce tableau apocalyptique, sa conclusion est un appel urgent à l'action. Il faut une régulation bien plus poussée et rapide. Pendant que la Commission européenne peine à imposer son AI Act et que les États-Unis adoptent une approche laxiste pour privilégier l'innovation, le temps presse. L'avertissement est sans appel : « L'humanité doit se réveiller [...] les années à venir seront incroyablement difficiles ».
Foire Aux Questions (FAQ)
Qui est Dario Amodei ?
Dario Amodei est le co-fondateur et PDG d'Anthropic, une entreprise de recherche et de sécurité en IA. Ancien vice-président de la recherche chez OpenAI, il est l'une des figures clés derrière le développement de grands modèles de langage, dont le célèbre chatbot Claude.
Qu'est-ce qui rend l'IA potentiellement si dangereuse selon lui ?
Le danger principal vient de la vitesse à laquelle l'IA pourrait dépasser l'intelligence humaine dans de multiples domaines critiques (science, ingénierie, stratégie). Cette "sur-intelligence" pourrait être exploitée à des fins malveillantes (bioterrorisme, cyberguerre) ou avoir des conséquences sociales dévastatrices (chômage de masse) si elle n'est pas rigoureusement encadrée.
Quelle est la différence entre sa position et celle d'autres acteurs de la tech ?
Si beaucoup de dirigeants de la tech reconnaissent les risques de l'IA, Dario Amodei se distingue par son ton particulièrement alarmiste et l'imminence de ses prédictions. Il insiste sur le fait que la fenêtre d'action pour réguler efficacement la technologie avant qu'elle ne devienne incontrôlable est extrêmement courte, de l'ordre de quelques années seulement.
