À Motherboard, un porte-parole d'Amazon a confirmé l'existence d'un algorithme d'intelligence artificielle pour le recrutement de collaborateurs. Il n'a toutefois été utilisé que dans le cadre d'une phase d'essais et développement, et jamais en totale autonomie.
Cette confirmation fait suite à une information de Reuters au sujet d'un système automatisé de recrutement qu'Amazon a commencé à développer en 2014. Il a tourné court après la découverte d'un biais en 2015 et a été complètement abandonné l'année dernière.
En épluchant les CV de candidats, l'intelligence artificielle faisait ressortir des candidats masculins, notamment en pénalisant les candidatures faisant mention du mot " femme " ou d'un adjectif en rapport. À titre d'exemple, " capitaine de club d'échecs féminin. "
Ce biais s'explique par l'entraînement du système d'IA avec dix années de CV reçus par Amazon émanant majoritairement d'hommes pour ce qui concerne le domaine technique. Il y a eu un travail pour corriger le biais et rendre l'IA moins sexiste, mais manifestement d'autres soucis ont conduit à l'abandon du projet.
La reproduction des biais et discriminations avec des algorithmes d'apprentissage automatique est un problème connu et à prendre en compte pour tendre vers une amélioration.
Sur le cas de la mixité et la diversité dans le numérique, le rapport en France de la mission Villani sur l'intelligence artificielle écrit :
" En dépit d'une féminisation lente, mais progressive des filières scientifiques et techniques, le numérique fait figure d'exception : la parité entre les hommes et les femmes est loin d'y être acquise. […] Ce manque de diversité peut conduire les algorithmes à reproduire des biais cognitifs - souvent inconscients - dans la conception des programmes, l'analyse des données et l'interprétation des résultats. L'un des grands défis de l'IA consiste donc à parvenir à une meilleure représentativité de nos sociétés. "
