Pour une éthique de l'intelligence artificielle au service du plus grand nombre

Le par  |  5 commentaire(s)
intelligence-artificielle-IA

Prêts bancaires, orientation universitaire : l’intelligence artificielle est au cœur de toutes les prises de décision individuelles. En témoignent les bacheliers qui ont passé l’été suspendu aux caprices de Parcoursup… sans y comprendre grand-chose. En effet, le système technique qui sous-tend l’IA a tout d’une boîte noire, dont émergeraient des oracles débarrassés de tous les aléas humains. Or, il n’en est rien.

Tribune libre par Matthieu Sénéchal, Co-Fondateur et Chief Science Officer chez mieuxplacer . com.

Remarque : les propos tenus ici n'engagent pas la rédaction de GNT mais constituent un avis éclairé de la part d'un expert dans son domaine que nous avons jugé opportun de vous faire partager. Il ne s'agit pas d'un article promotionnel, aucun lien financier ou autre n'existant entre cette société et GNT, le seul intérêt étant de vous apporter un éclairage intéressant sur un domaine particulier.


Un mécanisme qui n’évacue pas les biais humains

En 2015, des chercheurs de Carnegie Mellon ont découvert que dans les offres d’emplois sponsorisées par Google Ad, la grille de salaire proposée pouvait différer selon que vous êtes un homme ou une femme. En fonction de la couleur de votre peau, les logiciels de reconnaissance faciale auront plus ou moins de facilité à vous identifier. De même que les dictionnaires, censés délivrer des définitions « objectives », reflètent les mœurs d’un lieu et d’une époque – sous la troisième République coloniale, il n’était pas rare d’y lire que les personnes de couleur étaient pourvues d’un plus petit cerveau -, les algorithmes sont empreints des stéréotypes de ceux qui les conçoivent. Les développeurs définissent pour un système donné les réactions attendues dans différentes configurations, en fonction de leurs valeurs et de ce qu’eux-mêmes s’attendent à observer. Le processus est biaisé depuis ses prémisses ! Dans le cas où la conception ne se fait pas ex nihilo, l’arbitraire n’est jamais loin non plus. On recourt alors à l’apprentissage de comportements basés sur des données historiques… mais pas forcément représentatives ! Dans le cas de la reconnaissance faciale, si la base de données qui fait référence contient plus de visages d’hommes blancs que d’autres types de visage, l’algorithme sera tout aussi empreint de biais.

intelligence-artificielle-ia-ai

La construction des systèmes d’intelligence artificielle, un acte politique

En 2000, Lawrence Lessig écrivait dans son article « Code is Law » que c’est le code qui façonne le cyberespace, définit son architecture, et au-delà, nos fondamentaux de liberté. Deux choses ont changé depuis. D’une part, depuis l’essor d’Internet et l’avènement des smartphones, le cyberespace n’est plus une entité cloisonnée du monde réel. D’autre part, les systèmes d’intelligence artificielle se sont massivement généralisés pour investir peu à peu tous les pans de l’activité humaine (finance, santé, éducation…). Jusque-là, ces domaines ont toujours été régis par des lois votées par des députés. Aujourd’hui, nous sommes à un tournant : ce n’est plus tant le législateur que le technicien qui est aux commandes. Au travers des systèmes automatisés qu’il développe, c’est lui qui définit les nouvelles normes.

Il n’y a rien là de bien inédit : les ingénieurs ont toujours indirectement façonné la société au gré de leurs réalisations. Le train, par exemple, a remodelé notre conception des territoires. La technologie, quand elle est de rupture, bouleverse les modes de vie et démocratise des usages. Ce qui est inédit avec les nouveaux systèmes, c’est la « personnalisation de masse ». Là où, auparavant, l’innovation touchait l’intégralité d’une population de manière indifférenciée, l’intelligence artificielle est dotée d’une capacité de ciblage extrêmement fine, jamais atteinte jusqu’alors. Les concepteurs de ces systèmes ont une responsabilité bien plus lourde qu’assurer une maintenance technique. Législateurs modernes, ils intègrent une part de leur subjectivité dans les lois qu’ils édictent, et qui impactent la vie des individus.

La prise de conscience permettra de concevoir des systèmes au service du plus grand nombre

Le danger d’un nouveau positivisme nous guette, qui porte aux nues la technologie comme fin en soi. Selon les mots de Marcuse, la technique, « domination sur la nature et sur les hommes », est le reflet de ce que la société entend faire des individus. Dès lors, il nous appartient à tous de définir une éthique du progrès technologique, de sorte à servir les intérêts humains et éviter toute dystopie. Des voix se font déjà entendre, notamment au travers de la conférence « Fairness, Accountability and Transparency », ou de la « Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems ». Des mouvements comme Women in AI et Black in AI militent pour l’inclusion dans les secteurs de la tech. Nous ne pouvons qu’encourager ces prises de conscience ! En effet, l’Intelligence Artificielle sera ce que les individus en font. Dans un avenir proche, nous aurons tous accès aux outils qui permettent de concevoir des systèmes d’IA. La question qui se pose dès lors est de veiller à ce que les valeurs éthiques en cours de définition chez les experts de la tech se répandent au même rythme que les nouveaux outils. C’est notre défi à tous de construire une intelligence artificielle au service du bien commun.

Complément d'information

Vos commentaires

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #2032708
"l’Intelligence Artificielle sera ce que les individus en font." ... Je ne trouve pas cela vraiment rassurant.
Anonyme
Le #2032711
Connaissant le genre humain j’ imagine déjà le résultat.
Le #2032730
Encore un égalitariste forcené pratiquant de la philosophie anxiogène bas de gamme avec les mêmes buzzwords non-sensiques du collectiviste de base ( "bien commun", "inclusion" ) et une incompréhension forcément alarmiste de ce qu'est l'IA actuelle (c'est à dire pas grand chose de nouveau ou d'intéressant).

Non, les algos ne sont pas "biaisés", ils reflètent simplement l'état de la réalité : tous les hommes et toutes les femmes sont différents selon une multitudes de critères.

Ce qui est biaisé, c'est la vision idéologique au ras de la moquette que tout devrait être comme la bien-pensance unique l'a décidé : lisse, uniforme, sans couleur, égalitaire, identique en entrée et en sortie, de bons petits robots bien obéissants. Des morts-vivants dociles en un mot.

Et bien non. L'humain est humain justement parce qu'il nie cette déviance égalitariste, cette maladie d'un esprit contaminé.


Un exemple commun : le différentiel de salaire entre homme et femme est explicable à plus de 95% par des critères ne dépendant pas du sexe. Ce qui veut dire que statistiquement parlant, les hommes et le femmes ont le même salaire (à epsilon près) à poste équivalent ***quand tous les facteurs confondants explicatifs sont pris en compte***.

De fait il est très facile de trouver des études superficielles qui concluent le contraire simplement en ne prenant pas en compte tous ces facteurs...

Donc les algos de Google ou autres ne font que refléter cette différence : ce n'est pas un "stéréotype" mais la traduction d'une réalité socio-économique tangible sous-jacente.

Bref, à quand l'interview d'un véritable professionnel non politiquement teinté sur ce sujet/site ?
Le #2032731
" (finance, santé, éducation ). Jusque-là, ces domaines ont toujours été régis par des lois votées par des députés."

Et on a constaté le résultat : des millions de chômeurs depuis des décennies, un système de santé collectivisé dans lequel il vaut mieux ne pas tomber malade sous peine d'y crever, un niveau et système éducatif en bas des classements mondiaux...

L'abomination est sous nos yeux, et donc la solution évidente est d'en redemander [1]


2nd point : toute l'attention de la technologie (et de ceux qui l'invente) a toujours été de s'occuper ( "de cibler" ) l'individu en particulier, parce que répondre aux besoins de l'individu en particulier est la priorité n° 1 de toute activité économique, sa justification existentielle, son ontologie fondamentale.

De fait les relations entre ces 2 agents économiques (même avec les service publiques !) évoluent vers toujours plus de personnalisation jusqu'à l'individualisation totale (penser à la médecine personnalisée par ex.). Rien de nouveau ici.

Personne ne veut d'une collectivisation du traitement.


[1] https://i0.wp.com/h16free.com/wp-content/uploads/2012/02/aspirine.jpg
Le #2032754
un code de déontologie doit etre mis en place pour encadrer cette nouvelle donne. Mais son efficacité reposera sur sa pertinence et ses valeurs.

Il ne faut surtout pas tomber dans l'instrumentalisation des politiques qui ont un agenda ''propre'' et qui ne domine pas ce sujet par manque de recul.

Une réflexion sans précipitation s'impose.

http://www.manpowergroup.fr/drh-intelligence-artificielle-ia-laurent-alexandre/
Suivre les commentaires
Poster un commentaire
Anonyme
Anonyme