Afin d'améliorer sa technologie de reconnaissance faciale et plus particulièrement le système de déverrouillage avec le visage de son prochain smartphone Pixel 4, Google a engagé des sous-traitants pour scanner les visages de personnes volontaires.
Dans certaines villes aux États-Unis, des passants ont ainsi pu être sollicités pour leurs données faciales via un scan en échange d'un bon d'achat d'un montant de 5 dollars. Un objectif est de s'assurer de la bonne reconnaissance d'une variété de visages, notamment en fonction de la couleur de peau.
C'est un biais qui a été souligné à plusieurs reprises pour les technologies de reconnaissance faciale avec des algorithmes de deep learning trop souvent alimentés par des données manquant de diversité.
Google a assuré que dans le cadre de ce programme ou étude, il a été demandé aux sous-traitants d'être transparents avec les participants en obtenant leur consentement et en les informant de la raison du recueil des données. Les scans faciaux sont en outre chiffrés et uniquement utilisés pour l'étude, puis ultérieurement supprimés.
Le New York Times indique que Google a décidé de suspendre ce programme de recherche qui a suscité la controverse après la publication d'un article du Daily News. Une enquête a été ouverte par Google.
Le Daily News a rapporté des tactiques qualifiées de " très dérangeantes " par des responsables de Google. Un sous-traitant - le nom de Randstad a été cité - a activement ciblé des sans-abris à Atlanta et a également incité des étudiants à participer en prétendant qu'ils ne faisaient que tester une nouvelle application, sans donc un consentement explicite.
La ville d'Atlanta a par ailleurs demandé des explications à Google. " La possibilité que les membres de nos populations les plus vulnérables soient exploitées pour promouvoir les intérêts commerciaux de votre entreprise est profondément alarmante pour de nombreuses raisons. "
It has been reported that @Google sought to test their facial recognition technology on homeless residents. The @CityofAtlanta has asked them for an official response. From @jacknicas https://t.co/acR9vkOgw9
— Peter Kadushin (@peterkadushin) 4 octobre 2019
La question est de savoir sur des personnes en situation de précarité ont été sciemment trompées.
