Projet Maven : les salariés de Google s'inquiètent d'une collaboration avec le Pentagone sur les IA

Le par  |  5 commentaire(s) Source : New York Times
terminator

Quand Google entend collaborer avec le Pentagone sur un mystérieux projet Maven autour des intelligences artificielles, certains salariés s'inquiètent des conséquences pour l'avenir et pour l'image de la société.

Alors que l'ONU doit bientôt débattre sur l'encadrement de la recherche sur les armes autonomes, l'inquiétude générée par le mystérieux projet Maven entre Google et le Pentagone est palpable chez les salariés du groupe de Mountain View.

Officiellement, il ne s'agit que de contribuer à des systèmes d'intelligence artificielles pour du computer vision mais plusieurs milliers de salariés ont signé une pétition adressée au CEO Sundar Pichai pour demander à sortir de ce type de collaboration.

Google-nouveau-logoIls estiment que Google ne devrait pas s'engager dans ce type de collaboration pouvant conduire ou participer au développement d'armements autonomes létaux, et encore moins dans un moment où la confiance du public vacille au fil des révélations sur l'exploitation pas toujours éthique des données personnelles par les grands groupes high-tech, ou bien encore par l'utilisation détournée des moyens de communications électroniques pour orienter l'opinion publique lors d'échéances importantes comme des élections.

Ils rappellent l'ancien slogan de Google : "Don't Be Evil" et craignent de voir le géant californien associé aux entreprises fournissant des technologies à l'armée pour tuer.

Sauf que Google travaille régulièrement avec le Pentagone sur divers projets. Ses dirigeants assurent que, dans le cas présent, les apports de l'entreprise n'ont pas d'implication directe dans des systèmes offensifs et qu'il s'agit uniquement de systèmes d'analyse vidéo.

Il n'en reste pas moins que le projet Maven, actif depuis un an, aurait déjà des retombées sur les théâtres d'opération. Google indique cependant que les technologies de reconnaissance d'objet utilisées sont disponibles en open source et sont utilisées comme pré-traitement pour repérer certains éléments, raccourcissant le travail de tri de superviseurs humains.

Complément d'information

Vos commentaires

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #2008527
"pour du computer vision"... traduis ton article avec Translate si t'as à ce point la flemme...
Le #2008535
En gros la réponse de Google c'est : "mais non gentils petits employés, on ne fournit pas les armes, juste le système qui permettra à terme de viser chirurgicalement la cible"

Trop fort chez Google!
Le #2008538
"Ils rappellent l'ancien slogan de Google : "Don't Be Evil""
Le #2008544
Il est loin le "dont be evil" !
Le #2008548
Il faudrait placer dans le code une backdoor ou easter egg permettant au systeme de reconnaissance pour qu'à la vue du portrait de Justin bieber il lance un shutdown.

Suivre les commentaires
Poster un commentaire
Anonyme