Au premier trimestre, le réseau social Facebook a débuté un test aux États-Unis visant à s'appuyer sur l'intelligence artificielle pour aider à détecter des publications (y compris des vidéos en direct) susceptibles d'inclure des pensées suicidaires.

Facebook-bulle Le mois dernier, Facebook indique avoir agi sur la base de plus d'une centaine de ces détections proactives. Le réseau social travaille notamment avec des associations spécialisées.

Facebook annonce que sa technique exploitant la reconnaissance de formes, soit la reconnaissance de modèles et de régularités dans des données, pour prévenir les suicides va être déployée dans davantage de pays. L'Union européenne fera exception, sans de plus amples précisions.

L'intelligence artificielle est également utilisée pour hiérarchiser l'ordre dans lequel une équipe de modérateurs passe en revue des publications et vidéos. " Nous pouvons alerter plus rapidement les premiers intervenants. "

Si l'Union européenne est mise à l'écart de cette initiative, ce pourrait être en rapport avec l'entrée en vigueur en mai 2018 du règlement général sur la protection des données, et par exemple l'encadrement du profilage où des données personnelles sont utilisées pour des prédictions automatisées.

Par ailleurs, la question se pose de savoir si Facebook ne sera pas tenté d'aller plus loin avec sa technique d'intelligence artificielle que pour la seule prévention contre le suicide.