Reconnaissance faciale : Google suspend un programme avec des sans-abris payés 5 dollars
C'est un programme qui suscite la controverse après des révélations de presse selon lesquelles des personnes vulnérables ont été dupées. Google a décidé de le suspendre.
Afin d'améliorer sa technologie de reconnaissance faciale et plus particulièrement le système de déverrouillage avec le visage de son prochain smartphone Pixel 4, Google a engagé des sous-traitants pour scanner les visages de personnes volontaires.
Capteurs du Pixel 4
Dans certaines villes aux États-Unis, des passants ont ainsi pu être sollicités pour leurs données faciales via un scan en échange d'un bon d'achat d'un montant de 5 dollars. Un objectif est de s'assurer de la bonne reconnaissance d'une variété de visages, notamment en fonction de la couleur de peau.
C'est un biais qui a été souligné à plusieurs reprises pour les technologies de reconnaissance faciale avec des algorithmes de deep learning trop souvent alimentés par des données manquant de diversité.
Google a assuré que dans le cadre de ce programme ou étude, il a été demandé aux sous-traitants d'être transparents avec les participants en obtenant leur consentement et en les informant de la raison du recueil des données. Les scans faciaux sont en outre chiffrés et uniquement utilisés pour l'étude, puis ultérieurement supprimés.
Le New York Times indique que Google a décidé de suspendre ce programme de recherche qui a suscité la controverse après la publication d'un article du Daily News. Une enquête a été ouverte par Google.
Le Daily News a rapporté des tactiques qualifiées de " très dérangeantes " par des responsables de Google. Un sous-traitant - le nom de Randstad a été cité - a activement ciblé des sans-abris à Atlanta et a également incité des étudiants à participer en prétendant qu'ils ne faisaient que tester une nouvelle application, sans donc un consentement explicite.
La ville d'Atlanta a par ailleurs demandé des explications à Google. " La possibilité que les membres de nos populations les plus vulnérables soient exploitées pour promouvoir les intérêts commerciaux de votre entreprise est profondément alarmante pour de nombreuses raisons. "
It has been reported that @Google sought to test their facial recognition technology on homeless residents. The @CityofAtlanta has asked them for an official response. From @jacknicas https://t.co/acR9vkOgw9
— Peter Kadushin (@peterkadushin) 4 octobre 2019
La question est de savoir sur des personnes en situation de précarité ont été sciemment trompées.
-
Pour son smartphone Pixel 4, Google met aussi en avant une reconnaissance faciale plus fluide et a priori capable de rivaliser avec Face ID d'Apple. -
Le respect de la vie privée et la reconnaissance faciale sont au coeur du débat qui gravite autour des Google Glass, et pourtant, la Police de Dubai met les pieds dans le plat en annonçant prochainement souhaiter s'équiper du ...
Vos commentaires
Cette société use de procédés de plus en plus écoeurants. Mais bon un petit communiqué du type "On est désolés" et c'est reparti pour un tour.
Pourquoi c'est ecoeurant de donner de l'argent à des SDF contre une photo ? J'aimerais bien avoir même quelques centimes parce que je suis pauvre, et parce que ça fait avancer la recherche.
Ca me rappelle l'incident de sécurité d'airbus la semaine dernière, les seuls noms cités sont les entreprises principales alors qu'il s'aggissait d'un incident sur les VPN gérés par Orange (qui n'a jamais été cité !) ...
Parcequ'on appelle ça mentir et profiter de la misère des gens tout en poursuivant un but hautement lucratif. Sinon tu peux te faire tatouer des marques de grande distribution sur le crâne, le front et les joues il paraît que ça paye bien Il paraît que ça pique un peu autour des yeux mais il faut bien gagner sa croûte billou. Et autre grosse opportunité, je te donne 10€ pour te pisser dessus et mettre la vidéo sur Youtube, a toi de voir, faut pas louper cette chance de rentrer de l'argent.
C'est une photo, ça fait pas mal, c'est pas toxique, c'est pas cancérigène, ce n'est pas de l'exploitation, c'est juste de la lumière qui va sur un capteur. En plus, ils pourraient prendre les photos gratuitement comme le font sans vergogne des millions de gens. Non, ils payent pour ça. Toi y en a comprendre ?
Premium
Si tu ne vois pas le problème moral à profiter de la misère d'autrui, clairement on ne peut rien pour toi. Google a déconné, encore heureux qu'il se rétracte.
Quant au biais de raisonnement "c'est pas toxique, c'est pas ça cancérigène", il est juste absurde : la loi n'interdit pas que les actes dangereux (coucou Balkany).
Non se faire photographier pour améliorer la reconnaissance faciale ne tue pas.
Un SDF prendra 5 dollars là ou une personne plus avertie demandera beaucoup plus. C'est là qu'il y a abus de personne vulnérable. Un peu comme si google décidait de payer des enfants affamés d’Afrique 1 franc CFA pour une photo
Non ça ne tue pas, mais c'est terriblement indécent.
.
C'est exactement ça !
Sinon, quel aurait été l’intérêt de ne choisir que des SDF ?
Ils ont profité de la faiblesse de ces gens pour payer le moins cher possible, honteux !