La vie artificielle représente-t-elle un danger pour l'humanité ?

Le par  |  7 commentaire(s) Source : Dvice
terminator

De nouvelles voix se font entendre à l'encontre du développement massif des intelligences artificielles et des robots. Un regroupement de scientifiques britanniques s'interroge aujourd'hui sur l'avenir de l'homme dans ces conditions.

L'association de scientifiques à l'origine de l'étude regroupe de véritables pointures dans leurs domaines respectifs comme Huw Price, professeur de philosophie, Martin Rees, astrophysicien ainsi que Jaan Tallinn, développeur à l'origine de Skype.

Le Centre d'étude des risques existentiels créé pour l'occasion se concentre actuellement sur l'analyse des risques potentiels pour l'humanité du développement de la vie artificielle, des nanotechnologies, biotechnologies et changements climatiques.

C'est néanmoins le sujet de l'intelligence artificielle qui concentre les attentions des chercheurs, convaincus que le risque zéro n'existe pas et que son développement pourrait à la fois se faire sans le concours de l'homme, mais également aux dépens de l'humanité.

Simple mise en garde ou paranoïa démesurée, difficile de rester rationnel tant il est facile de comparer l'étude aux scénarios des films de science-fiction. Néanmoins la situation est actuellement jugée sérieuse par un ensemble de scientifiques et d'ingénieurs du monde entier.

À n'en pas douter, l'homme devra imposer des limites à l'évolution de l'intelligence artificielle, ou l'encadrer par des lois et règles strictes. L'anticipation de ces mesures de sécurité est une demande aujourd'hui claire de la communauté scientifique aux gouvernements.

Ayant récemment fait l'objet d'un interview, Huw Price expliquait:

" Il est raisonnable de penser qu'à un moment de ce siècle ou dans celui à venir, l'intelligence échappera aux contraintes biologiques... Ce risque a tendance à être pris à la légère , mais puisque nous ne pouvons pas mesurer ce risque, que nous ne connaissions pas les échéances, s'en désintéresser est dangereux. Ce que nous voulons, c'est faire entrer cette prise de conscience au sein de la communauté scientifique "

La fondation devrait ouvrir ses portes en 2013, à moins que le soulèvement des machines n'ait lieu au 21 décembre.

Complément d'information

Vos commentaires

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #1100392
Evidemment, on ne parle pas de conscience, mais bel et bien de logiciel AI suffisamment évolué pour créer des automatismes et des réactions en chaine en découlant dans des secteurs critiques (nucléaire, médical)
Le #1100402
Bon, je m'y connais pas trop en robotique, mais faut bien le programmer, non ?

Pour qu'un robot effectue une action, il faut donc que l'action ait été programmée. Et comme un robot lis et exécute ce qu'il est censé faire avec l'action "x" pour l'évènement "y" qui se déroule, si on ne programme pas un truc du style "if human_skin detected, action kill_human;" (oui ça fait longtemps que j'ai pas touché au C moi ) bah impossible vu qu'un robot exécute ce qu'il lit sur son petit disque dur

Donc, pour une révolte de robots tueurs d'humains il faudrait 2 possibilités (ou plutôt 3) :

1) Un système aussi complexe que celui d'un humain (représenter en gros le cerveau humain avec les (presques) infinies possibilités qu'un humain a, ainsi que son propre caractère (un invidividu a ne réagira pas de la même façon qu'un invidividu b).
PRogrammer cela n'a aucune utilité vu que l'espèce humaine est ratée (petit troll pas méchant )

2) Un robot qui détecte spécialement les humains (ça prendrait du temps à coder, mais avec une grosse équipe ça pourrait le faire en quelques mois/années, selon le fait si ils aiment bien WoW ) et a pour action de se "révolter"

3) Les robots sont des robots, et le robot ne dépassera jamais un être vivant car le robot n'est pas un être dôté d'intelligence ... Comment exprimer ça ... On va dire que le robot sait lire mais ne sait pas écrire et peut exécuter certaines tâches selon le comment du pourquoi on l'a construit.

Bref, Pavay Cesar, si tu as lu jusque là bravo à toi. Et voici un petit smiley alien pour la longueur du post




Le #1100512
Huw Price donne des explications trop compliquer sur les craintes à avoir a propos de l'intelligence artificiel.

Donc je me permet modestement de traduire ce qu'il veut dire dans un language plus compréhensible.

L 'homme est un con , et s' il fabrique une intelligence artificiel , il y a de forte chance pour qu' elle soit con aussi .
patheticcockroach Hors ligne VIP 7663 points
Le #1100532
_OvO_ a écrit :

Huw Price donne des explications trop compliquer sur les craintes à avoir a propos de l'intelligence artificiel.

Donc je me permet modestement de traduire ce qu'il veut dire dans un language plus compréhensible.

L 'homme est un con , et s' il fabrique une intelligence artificiel , il y a de forte chance pour qu' elle soit con aussi .


Excellent résumé. Et quand on voit le niveau d'éthique (au sens large) chez disons la majorité des ingénieurs (pas tous, certes, mais une quantité non négligeable) ya de quoi se faire du souci...
Le #1100602
Meditation a écrit :

Bon, je m'y connais pas trop en robotique, mais faut bien le programmer, non ?

Pour qu'un robot effectue une action, il faut donc que l'action ait été programmée. Et comme un robot lis et exécute ce qu'il est censé faire avec l'action "x" pour l'évènement "y" qui se déroule, si on ne programme pas un truc du style "if human_skin detected, action kill_human;" (oui ça fait longtemps que j'ai pas touché au C moi ) bah impossible vu qu'un robot exécute ce qu'il lit sur son petit disque dur

Donc, pour une révolte de robots tueurs d'humains il faudrait 2 possibilités (ou plutôt 3) :

1) Un système aussi complexe que celui d'un humain (représenter en gros le cerveau humain avec les (presques) infinies possibilités qu'un humain a, ainsi que son propre caractère (un invidividu a ne réagira pas de la même façon qu'un invidividu b).
PRogrammer cela n'a aucune utilité vu que l'espèce humaine est ratée (petit troll pas méchant )

2) Un robot qui détecte spécialement les humains (ça prendrait du temps à coder, mais avec une grosse équipe ça pourrait le faire en quelques mois/années, selon le fait si ils aiment bien WoW ) et a pour action de se "révolter"

3) Les robots sont des robots, et le robot ne dépassera jamais un être vivant car le robot n'est pas un être dôté d'intelligence ... Comment exprimer ça ... On va dire que le robot sait lire mais ne sait pas écrire et peut exécuter certaines tâches selon le comment du pourquoi on l'a construit.

Bref, Pavay Cesar, si tu as lu jusque là bravo à toi. Et voici un petit smiley alien pour la longueur du post




Bah le challenge relèverait de créer un code qui permette à celui-ci de se mettre à jour automatiquement et donc capable de se rajouter lui même des fonctionnalités, en fonction des cas auquel la machine est confronté. (à un niveau plus beaucoup plus évolué de ce qui existe déjà bien sur...).
Ça peut être considérer en soit comme une forme d'intelligence propre à la machine.
Le #1100652
Je ne sous-estime plus les robots depuis que j'ai vu qu'ils comptent mieux et plus vite que moi, et qu'ils jouent mieux que moi à des jeux que je connais bien. J'ai même fait un programme qui gagne presque tout le temps contre moi. Et de même que les enfants sont parfois plus doués que les parents, cela arrive aussi pour les machines qu'on crée.

Par ailleurs, c'est un manque d'humilité de croire qu'on sera toujours supérieur. Donc, je suis serein, et j'attends avec impatience les robots intelligents pour nous sortir de toutes nos crises.
Le #1100912
On n'a jamais pu contrôler la connerie naturelle ça sera pareil pour l'intelligence artificielle. D'un autre coté on n'est pas capable de définir l'intelligence mais pour la connerie on se doute.
Suivre les commentaires
Poster un commentaire
Anonyme
:) ;) :D ^^ 8) :| :lol: :p :-/ :o :w00t: :roll: :( :cry: :facepalm:
:andy: :annoyed: :bandit: :alien: :ninja: :agent: :doh: :@ :sick: :kiss: :love: :sleep: :whistle: =]