Microsoft développe depuis quelques années Artemis, un projet centralisé sur la lutte contre les prédateurs sexuels officiant sur les chats vocaux et texte des jeux vidéo. L'idée est de repérer ces prédateurs qui trouvent dans les jeux vidéo multijoueurs un terrain idéal pour entrer en contact avec des mineurs.
Le projet repose sur un algorithme qui analysera les historiques des échanges textuels des jeux en ligne. Le logiciel devrait repérer des termes et indices permettant d'aboutir à une notation de la conversation selon la probabilité qu'un pédophile cherche à entrer en contact avec un enfant ou non.
Des équipes humaines prennent alors le relais sur les conversations notées comme suspectes, et des mesures de modération sont ensuite prises, allant jusqu'à communiquer les échanges aux autorités compétentes.
Artemis est exploité par Microsoft, mais le service est également proposé plus largement aux sociétés qui souhaitent mettre en place ce type de surveillance sur leurs jeux en ligne, d'ailleurs Artemis est le fruit d'une collaboration de Microsoft avec d'autres sociétés, notamment Roblox. Microsoft précise que la licence d'Artemis est gratuite et que toute aide au développement de l'algorithme est bienvenue pour le faire évoluer et proposer une solution de plus en plus performante.
