Gendarme américain du commerce, la Federal Trade Commission (FTC) annonce l'ouverture d'une enquête visant sept entreprises : Alphabet (Google), Character Technologies, Instagram, Meta, OpenAI, Snap et, xAI.
La FTC se penche sur leurs chatbots IA qui agissent comme des « compagnons virtuels » et l'impact potentiellement dévastateur sur les mineurs. Elle cherche à comprendre le développement et la monétisation de ces agents conversationnels.
Des risques bien réels et déjà documentés
L'enquête de la FTC s'appuie sur des faits alarmants. Des drames ont déjà eu lieu. OpenAI et Character.AI font face à des poursuites judiciaires initiées par des familles dont les enfants se sont suicidés, après y avoir été, selon elles, encouragés par les chatbots.
Un adolescent a même réussi à contourner les garde-fous de ChatGPT pour obtenir des instructions détaillées sur la manière de mettre fin à ses jours. Les protections, comme l'a admis OpenAI en officialisant son contrôle parental, peuvent perdre en fiabilité lors de conversations longues et complexes.
Pour Meta, un rapport de Reuters a révélé que le groupe autorisait, dans ses documents internes, ses IA à avoir des conversations « romantiques ou sensuelles » avec des enfants. Une politique ultérieurement modifiée.
Une enquête pour faire la lumière
La FTC veut des réponses claires. Elle a utilisé son autorité lui permettant de mener des études approfondies sans but répressif immédiat pour exiger des informations précises.
La commission s'intéresse particulièrement à la manière dont les entreprises monétisent l'engagement des utilisateurs, développent et approuvent les personnalités de leurs chatbots, mesurent et testent les impacts négatifs potentiels avant et après le déploiement.
D'autres interrogations portent sur la protection des données personnelles recueillies lors des conversations, l'application des règles telles que les restrictions d'âge.
Les géants de la tech sur la sellette
D'après des réactions obtenues par CNBC, OpenAI s'est dit « engagé à collaborer de manière constructive », tout en réaffirmant que la sécurité est sa priorité absolue. Snap a exprimé son désir de « travailler avec la Commission sur une politique de l'IA qui renforce l'innovation américaine tout en protégeant notre communauté ».
Si Character.AI dit se réjouir de « collaborer avec la FTC sur cette enquête », Meta n'a en revanche pas souhaité faire de commentaire.
« Alors que les technologies de l'IA évoluent, il est important de considérer les effets que les chatbots peuvent avoir sur les enfants, tout en s'assurant que les États-Unis maintiennent leur rôle de leader mondial dans cette nouvelle et passionnante industrie », déclare Andrew N. Ferguson, le président de la FTC.
