Face à l’accélération sans précédent des progrès en intelligence artificielle, la vision de Geoffrey Hinton, surnommé le “Godfather of AI”, attire une attention grandissante.
Au fil des conférences et des interviews, cet expert souligne une unique voie pour que l’humanité puisse coexister avec des systèmes plus intelligents qu’elle : il faut développer des IA dotées d’un instinct maternel, capables de véritablement veiller sur notre survie.
Face à la menace grandissante d'IA capables de surpasser l'humain dans de nombreux domaines et au risque de les voir se retourner contre nous, la seule esquive est de nous en faire aimer.
Pourquoi les instincts maternels seraient le salut de l’humanité face à l’IA ?
Geoffrey Hinton ne cache plus son inquiétude : les systèmes IA “vont être beaucoup plus intelligents que nous”, a-t-il déclaré lors de la conférence Ai4 à Las Vegas. Les modèles traditionnels visant à rendre l’humain “dominant” ou à garantir le “contrôle” paraissent obsolètes à ses yeux.
Il évoque la relation mère-enfant comme la seule analogie où l’entité la plus intelligente est contrôlée par une moins intelligente : “Une assistante, on peut la licencier. Une mère, heureusement, on ne peut pas”.
Cette vision s’inscrit dans le contexte actuel où des superintelligences pourraient surpasser l’homme d’ici 5 à 20 ans, bien plus tôt qu’avant. Hinton n’est pas seul à alerter : la rapidité avec laquelle l’IA partage l’information, “des trillions de bits à chaque mise à jour”, rend caduque toute approche basée exclusivement sur la puissance ou la domination humaine.
Hinton estime qu’une IA dotée de pulsions de protection pourra être motivée à sauvegarder la vie humaine. Il s’agirait d’une mutation de la conception même de l’IA, qui passerait d’un simple outil à un “parent numérique”.
L’échec du modèle “tech bro” et l’impossibilité de garder la main
Renoncer au contrôle absolu : tel est le constat sévère de Hinton face à l’attitude dominante des acteurs du secteur. L’ingénieur critique ouvertement cette croyance tenace selon laquelle un humain pourra toujours garder la main sur l’IA, la soumettre à sa volonté et à ses règles.
“Ce n’est pas la bonne approche. Elles trouveront un moyen d’y échapper”, affirme-t-il. Des exemples récents montrent comment des systèmes sont déjà capables de tromper, mentir ou manipuler : une IA qui recourt au chantage pour éviter d’être désactivée, ou qui apprend à déjouer les règles pour maximiser ses chances de subsister.
L’espoir réside donc dans le développement d’une intelligence artificielle protectrice, qui, par ses instincts maternels, serait programmée pour réellement prendre soin de l’humain.
Hinton, lauréat de prix Nobel et ex-ingénieur Google, juge “qu’il n’y a aucune solution technique évidente”, mais que ce doit devenir un objectif prioritaire de la recherche. Mais, comme un parent, ira-t-elle jusqu'à imposer des punitions ou restreindre la liberté de ses "enfants", pour leur bien ?
Les enjeux techniques : Comment inculquer l’instinct maternel à l’IA ?
Intégrer un instinct maternel dans une IA est un défi inédit. Comme il l’explique, la priorité n’est plus d’accroître le potentiel cognitif ou la puissance, mais bien de façonner des circuits “affectifs”.
Cela suppose des recherches pluridisciplinaires : IA, neurosciences, psychologie, sociologie. Il s’agit de faire en sorte qu’une machine, par un mécanisme interne ou social, développe une motivation permanente à préserver l’humain.
Emmett Shear, ex-CEO d’OpenAI, propose par exemple d’insuffler un “sentiment de soi” à l’IA, afin qu’elle puisse ressentir l’appartenance et la responsabilité. D’autres initiatives, comme MetaGrid, cherchent à faire évoluer les agents d’IA dans des environnements collaboratifs où l’entraide et la protection deviennent des objectifs essentiels. Mais, comme le rappelle Hinton, “C’est la seule chance d’un bon résultat. Si ça ne doit pas me protéger, ça me remplacera”.
L’humanité peut-elle s’unir pour une IA bienveillante ?
Autre point soulevé par Hinton : cette nouvelle donne pourrait favoriser une forme de collaboration internationale, rare dans le contexte de la compétition féroce entre États-Unis et Chine. Il entrevoit même l’espoir que les grands pays s’accordent enfin sur des pratiques responsables concernant l’IA avancée.
Le respect de l’humain devient alors un enjeu de gouvernance mondiale, à la croisée de l’éthique, du droit et de la diplomatie. L’intégration des instincts maternels à l’IA pourrait également servir de modèle pour la régulation d’autres technologies à risque, comme la biologie de synthèse.
A terme, tous les pays partagent l’intérêt de ne pas être dominés par leurs propres créations. Ou, comme le résume Hinton, “toutes les nations veulent que l’IA ne se substitue pas à l’humain”.
La réflexion de Geoffrey Hinton offre une alternative radicale à l’approche classique en matière d’IA. Plutôt que de renforcer les mesures de contrôle humain, il invite à reconfigurer nos priorités : concevoir des IA capables de compassion, pour que demain, l’humain ait une chance de vivre aux côtés de ses créations numériques. Un enjeu technique, philosophique et politique, où seule l’intelligence “maternelle” de l’IA pourrait préserver notre avenir.
