Norman est une intelligence artificielle psychopathe

Le par  |  13 commentaire(s)
Norman-IA-psychopathe

Le jeu de données a une importance primordiale pour entraîner les algorithmes de machine learning. La preuve avec une intelligence artificielle qui a été diagnostiquée psychopathe.

En référence au personnage de fiction Norman Bates qui est notamment apparu dans le film Psychose d'Alfred Hitchcock, son nom est Norman. Des chercheurs du MIT Media Lab ont ainsi présenté la " première intelligence artificielle ouvertement psychopathe. "

Spécialisé dans la reconnaissance d'images avec une méthode de deep learning pour obtenir une description textuelle d'une image, Norman est un algorithme de machine learning qui a été entraîné avec des données glanées sur un sous-forum Reddit.

Sans être cité, ce sous-forum Reddit est décrit comme " dédié à documenter et observer la réalité dérangeante de la mort. " Norman a ainsi fait son apprentissage via une base de données de commentaires d'images le plus souvent en rapport avec des morts violentes.

Le résultat est qu'avec le test de Rorschach (les fameuses taches d'encre) servant d'évaluation psychologique, les réponses de Norman sont bien différentes de celle d'une intelligence artificielle de la même spécialité mais nourrie de données généralistes.

Norman voit la mort partout. Par exemple, alors que l'IA standard voit ci-dessous un gros plan d'un gâteau de mariage sur une table. Norman interprète un homme tué par un chauffeur en excès de vitesse.

Norman-Rorschach-10

Autre exemple avec ce qui serait un groupe d'oiseaux reposant sur une branche d'arbre pour l'IA standard, mais un homme électrocuté qui va mourir pour Norman. Le comparatif des autres interprétations ici.

Norman-Rorschach-1

" Lorsque les gens disent que les algorithmes d'IA peuvent être biaisés et injustes, le coupable n'est souvent pas l'algorithme lui-même, mais les données qui lui ont été fournies ", écrivent les chercheurs. " Norman a souffert d'une exposition prolongée aux coins les plus sombres de Reddit et représente une étude de cas sur les dangers de l'intelligence artificielle qui tourne mal quand des données biaisées sont utilisées dans des algorithmes de machine learning. "

L'état de psychopathe de Norman n'est pas une fatalité. Il peut éventuellement être sauvé par la contribution des internautes. Ils sont conviés à aider Norman à " se réparer " en formulant leurs propres interprétations des taches d'encre. De quoi obtenir un nouveau jeu de données. Il faut garder foi en l'humain... pour l'IA.

Complément d'information

Vos commentaires Page 1 / 2

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #2017755
un sujet qui va ravir Yves ... d'ailleurs où est il ?

Mort par une IA ? ...
Le #2017759
CoRsCiA a écrit :

un sujet qui va ravir Yves ... d'ailleurs où est il ?

Mort par une IA ? ...


Une voiture autonome l'aurait renversé en le confondant avec un vieux cheval mort
Le #2017764
FFFeu a écrit :

CoRsCiA a écrit :

un sujet qui va ravir Yves ... d'ailleurs où est il ?

Mort par une IA ? ...


Une voiture autonome l'aurait renversé en le confondant avec un vieux cheval mort



Le #2017766
CoRsCiA a écrit :

un sujet qui va ravir Yves ... d'ailleurs où est il ?

Mort par une IA ? ...



Le #2017806
Merde, je ne vois pas le gâteau sur la 1ere photo mais bien le mec écrasé par un chauffard ...

Par contre je vois bien les oiseaux sur la seconde, ouf !


Edit : tiens c'est marrant je vois de gros insectes et des crustacés sur la 1ere à présent. Oo
Le #2017807
Bah, si les seules notion que cette IA connait c'est le contenue de https://www.reddit.com/r/watchpeopledie/

C'est plutôt logique qu'elle donne ce genre de réponse.

Là où ça m'aurait impressionné, c'est que cette IA arrive à voir autre chose que la mort en ayant été nourrie seulement à ça.
Le #2017815
Quand t'as la dalle, tu vois direct le gateau...
Le #2017827
Un jour ça va nous péter à la gueule, si vous voyez ce que je veux dire.

Vous n'avez jamais remarqué qu'à chaques fois qu'il y a des expérimentations en vase clos, ça fini toujours par se répandre à notre dépend ? Il ne manquerait plus qu'un truc similaire (IA deviante) devienne autonome et se réplique, et on serait bien dans la merde.

...et ça commence toujours avec les meilleures intentions du monde.
Le #2017828
J'ai lu le titre et j'ai pensé à lui : https://www.youtube.com/user/NormanFaitDesVideos?reload=9 ...

Je suis fatigué!
Suivre les commentaires
Poster un commentaire
Anonyme