La plus haute juridiction administrative en France vient de rendre public un très dense rapport qui cette année porte sur le numérique et les droits fondamentaux. Il formule une cinquantaine de propositions dont dans un domaine jusqu'à présent rarement évoqué par des pouvoirs publics puisqu'il est question de l'encadrement de l'utilisation des algorithmes.
À l'utilité des algorithmes pour optimiser le fonctionnement de divers services en ligne, le Conseil d'État oppose des risques en matière d'exercice des libertés : " l'enfermement de l'internaute dans une personnalisation dont il n'est pas maître ; la confiance abusive dans les résultats d'algorithmes perçus comme objectifs et infaillibles ; de nouveaux problèmes d'équité du fait de l'exploitation toujours plus fine des données personnelles. "
Sur la notion d'enfermement, le Conseil d'État reprend en quelque sorte le concept de l'enfermement dans une bulle des détracteurs du moteur de recherche Google, faisant qu'il n'existe pas de résultats standards aux requêtes mais personnalisés. En fonction de divers signaux, deux internautes n'obtiendront ainsi pas un même résultat pour une même requête, et le risque de n'être confronté qu'à une vision parcellaire des choses ou bornée par ses propres idées.
Avec l'exploitation des données personnelles, les sages pointent en outre du doigt des problèmes d'équité en matière d'accès à l'emploi, au crédit, à l'assurance.
Afin d'encadrer les algorithmes, le Conseil d'État esquisse trois pistes :
- Assurer l'effectivité de l'intervention humaine dans toute prise de décision produisant des effets juridiques à l'égard d'un individu
- Mettre en place des garanties de procédure et de transparence lorsque des données personnelles sont utilisées
- Développer le contrôle des résultats produits par les algorithmes, notamment pour détecter des discriminations illicites, en renforçant les moyens dont dispose la CNIL
Une mise en pratique risque d'être difficile avec en jeu la problématique du secret industriel et la complexité technique du domaine. Et quand on voit les affaires au long cours pour des problèmes de concurrence avec des plaintes pour abus de position dominante… ce n'est pas gagné d'avance.
