L'intelligence artificielle s'invite un peu plus dans notre quotidien chaque jour, notamment au niveau des assistants personnels, prochainement dans les véhicules autonomes, et plus globalement dans les méandres du big Data et des logiciels d'analyse prédictive et de la robotique.

Une IA qui pourrait se révéler dangereuse si elle n'est pas contrôlée, si bien que Google demande à ses chercheurs de se pencher sur la création d'un Panic Button, un bouton d'arrêt d'urgence qui permettrait de mettre hors service les IA déployées.

intelligence artificielle

Le bouton serait un garde fou qui permettrait de s'assurer que l'IA conserve toujours un impact positif sur les vies humaines, une sorte d'assurance vie pour l'humanité et éviterait le scénario catastrophe décliné par Hollywood dans la saga Terminator.

Ce bouton est un système élaboré qui permet d'interrompre une IA à plusieurs reprises, sans qu'elle ne se rende compte de ce qu'il s'est réellement passé ( le temps de faire des ajustements) ni qu'elle ne soit capable d'anticiper l'usage dudit bouton. Toute la difficulté réside dans le fondement même de l'intelligence artificielle, qui est conçue pour arriver à un objectif. Si cette dernière se rend compte que l'aboutissement de sa tâche l'amènera à sa mise hors service, elle tentera par tous les moyens de retarder l'échéance et de contourner son arrêt pour systématiquement mener à bien sa mission d'origine.

Le système déployé permettrait alors à un humain de prendre le contrôle de l'IA en lui faisant croire que les choix réalisés proviennent d'elle-même et non d'un intervenant extérieur.