L'Intelligence artificielle combinée à la reconnaissance faciale vient d'aboutir à une nouvelle fonctionnalité qui n'est pas franchement du gout du plus grand nombre. Des chercheurs de l'université de Stanford qui souhaitaient faire la démonstration des travers dans lesquels ces technologies pouvaient tomber ont ainsi présenté un logiciel capable de définir l'orientation sexuelle d'un individu, simplement d'après sa photo.
Les chercheurs ont décrit 7 expériences dans lesquelles l'utilisation des réseaux neuronaux profonds (Deep learning) était capable de détecter l'orientation sexuelle à partir de l'analyse d'un visage. Les résultats ne sont pas infaillibles, mais l'expérience démontre que ces technologies peuvent aller très loin dans l'intimité des utilisateurs des outils numériques.
Pour les chercheurs, il s'agissait de montrer que "La digitalisation croissante de nos vies et les progrès rapides de l'intelligence artificielle continuent d'éroder la confidentialité de l'orientation sexuelle et d'autres traits intimes". En récupérant 35 000 photos de profils de 14 776 utilisateurs de sites de rencontre, l'algorithme a été capable de créer des schémas impliquant certains traits physiques et orientations sexuelles avec pour base l'hypothèse "d'atypie de genre".
L'algorithme en question a été capable de deviner l'orientation sexuelle dans 81 % des cas quand un humain n'obtenait que 61% de réussite lorsqu'on lui soumettait des photos d'un hétérosexuel et d'un homosexuel. Moins de performance avec les femmes, puisque l'algorithme n'a obtenu que 71 % de réussite.
L'exploitation de ce type de technologie à grande échelle a de quoi faire froid dans le dos même si elle pourrait devenir une réalité. Certains systèmes avancés de surveillance par reconnaissance faciale sont déjà capables de créer des statistiques et d'isoler certains individus de par leur couleur de peau ou leur origine.
