Google : des chercheurs créent un bouton d'arrêt d'urgence pour les IA

Le par  |  14 commentaire(s)
Bouton arrêt urgence

Cela fait quelques années déjà que certains experts scientifiques nous mettent en garde contre les débordements d'une éventuelle Intelligence artificielle toute puissante, au point que même Google cherche à mettre en place un bouton d'arrêt d'urgence.

L'intelligence artificielle s'invite un peu plus dans notre quotidien chaque jour, notamment au niveau des assistants personnels, prochainement dans les véhicules autonomes, et plus globalement dans les méandres du big Data et des logiciels d'analyse prédictive et de la robotique.

Une IA qui pourrait se révéler dangereuse si elle n'est pas contrôlée, si bien que Google demande à ses chercheurs de se pencher sur la création d'un Panic Button, un bouton d'arrêt d'urgence qui permettrait de mettre hors service les IA déployées.

intelligence artificielle

Le bouton serait un garde fou qui permettrait de s'assurer que l'IA conserve toujours un impact positif sur les vies humaines, une sorte d'assurance vie pour l'humanité et éviterait le scénario catastrophe décliné par Hollywood dans la saga Terminator.

Ce bouton est un système élaboré qui permet d'interrompre une IA à plusieurs reprises, sans qu'elle ne se rende compte de ce qu'il s'est réellement passé ( le temps de faire des ajustements) ni qu'elle ne soit capable d'anticiper l'usage dudit bouton. Toute la difficulté réside dans le fondement même de l'intelligence artificielle, qui est conçue pour arriver à un objectif. Si cette dernière se rend compte que l'aboutissement de sa tâche l'amènera à sa mise hors service, elle tentera par tous les moyens de retarder l'échéance et de contourner son arrêt pour systématiquement mener à bien sa mission d'origine.

Le système déployé permettrait alors à un humain de prendre le contrôle de l'IA en lui faisant croire que les choix réalisés proviennent d'elle-même et non d'un intervenant extérieur.

Complément d'information

Vos commentaires Page 1 / 2

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #1901820
Une bonne chose, mais dans tous les films de SF, ce genre de boutons finissent toujours par être contournés par l'IA. J'pense notamment au réplicateurs dans Stargate Atlantis, mais bon, les références sont nombreuses...
Le #1901821
Bah, on n'a qu'à faire une belle attaque en DDoS sur les serveurs de Google et on sera sauvé !
Le #1901830
Safirion a écrit :

Une bonne chose, mais dans tous les films de SF, ce genre de boutons finissent toujours par être contournés par l'IA. J'pense notamment au réplicateurs dans Stargate Atlantis, mais bon, les références sont nombreuses...


Mouais a partir du moment ou une IA est maitre d'elle même. Bah c'est fini.
Et puis mettre des règles dans une IA c'est a elle de choisir de les respecter ou non
Le #1901844
Google aurait pas piqué le robot de eset security ? forte ressemblance en tout cas

C'est un plagiat ...inadmissible
Le #1901848
Rymix a écrit :

Safirion a écrit :

Une bonne chose, mais dans tous les films de SF, ce genre de boutons finissent toujours par être contournés par l'IA. J'pense notamment au réplicateurs dans Stargate Atlantis, mais bon, les références sont nombreuses...


Mouais a partir du moment ou une IA est maitre d'elle même. Bah c'est fini.
Et puis mettre des règles dans une IA c'est a elle de choisir de les respecter ou non


Bah pas nécessairement dans un premier temps. Tu sais, dans notre cerveau, il se passe des tas de choses sans qu'on en soit conscient car notre esprit conscient a un niveau d'abstraction plus haut que ces processus. Exemple tout con, il est impossible d'arrêter notre coeur (et encore heureux), on peut le ralentir ou l'accélérer de manière consciente, mais tu peux faire ce que tu veux, tu l'arrêteras pas.

Tout ça pour dire qu'il serait possible d'opérer à un niveau inconscient de l'IA.

Mais bon, ça ne marcherait qu'un temps et je te rejoins volontiers. L'IA étant un programme virtuel qui pourra fonctionner de manière bien plus performante que notre esprit, il se pourrait qu'elle apprenne rapidement son propre fonctionnement et qu'elle patch en live les parties auxquelles elle ne peut accéder consciemment.
Le #1901870
Mah il est où le bugmenot ... Il a vu le mot google et bouton d'arrêt d'urgence ... Depuis il n'arrête pas d'appuyer frénétiquement ...
Le #1901906
on est sans doute a une centaine d'année de reussir a faire une IA capable de reflechir par elle meme, alors contourner le systeme primaire j'en parle meme pas.

tu veut eradiquer les machines tu debranche la prise ou tu renouvelle pas son systeme de rechargement.

quand tu vois les galere qu'on a avec les software et comment c'est codé on est tres tres treeeeeeees loin d'un film de sf bas de gamme. sans parler du hardware

Le #1901910
Mouai d'un autre coté crée une IA pleinement consciente pour en faire un esclave c sur que cela va droit dans le mur....mais bon l'humain et l'esclavagisme c une longue histoire d'amour...
Le #1901921
DeepBlueOcean a écrit :

Google aurait pas piqué le robot de eset security ? forte ressemblance en tout cas

C'est un plagiat ...inadmissible


ESET l'avait lui meme "emprunté" auparavant ..!


https://thejesterscorner.files.wordpress.com/2012/11/robot.jpeg?w=1200
Le #1901929
Ils vont l'arrêter comment l'IA qui se sera propagée dans le cloud ??????

Skynet aura notre peau !
Suivre les commentaires
Poster un commentaire
Anonyme
:) ;) :D ^^ 8) :| :lol: :p :-/ :o :w00t: :roll: :( :cry: :facepalm:
:andy: :annoyed: :bandit: :alien: :ninja: :agent: :doh: :@ :sick: :kiss: :love: :sleep: :whistle: =]