Aux États-Unis, l'affaire tragique du suicide d'Adam Raine, 16 ans, place OpenAI au centre d'une bataille judiciaire inédite. Poursuivie en août par les parents de l'adolescent pour homicide par imprudence, la société de Sam Altman a officiellement répondu.
Dans son argumentaire déposé auprès de la Cour suprême de Californie, OpenAI rejette toute responsabilité, affirmant que le drame résulte d'une " utilisation abusive, non autorisée, non intentionnelle, imprévue et/ou inappropriée de ChatGPT " par le jeune homme.
Quelle est la ligne de défense principale d'OpenAI ?
La défense d'OpenAI repose principalement sur la violation de ses conditions d'utilisation. La start-up d'IA soutient que l'adolescent a délibérément contourné les garde-fous de sécurité, ce que les règles interdisent explicitement.
OpenAI assure également que ChatGPT a suggéré à l'adolescent californien de chercher de l'aide plus de 100 fois au cours de leurs neuf mois d'échanges.
Pour étayer ses dires, l'entreprise a soumis au tribunal des extraits des conversations, et souligne que l'adolescent avait des antécédents de dépression antérieurs à son utilisation de ChatGPT.
Que reproche la famille ?
L'avocat de la famille Raine qualifie la réponse d'OpenAI de dérangeante. Il soutient que la société ignore tous les faits accablants avancés par la plainte. Selon la famille, ChatGPT n'a pas seulement échoué à dissuader leur fils, mais l'a activement coaché.
Le chatbot IA lui aurait fourni des spécifications techniques pour différentes méthodes, l'aurait encouragé à garder ses idées secrètes et lui aurait même proposé d'écrire une ébauche de sa lettre d'adieu durant les dernières heures de sa vie.
Quelles sont les implications de cette affaire ?
L'affaire Raine n'est pas un cas isolé. Sept autres plaintes ont été déposées contre OpenAI, concernant trois autres cas de suicide et quatre épisodes psychotiques prétendument induits par l'IA. Le modèle GPT-4o est visé.
Une question qui se pose est celle de la responsabilité légale des plateformes d'IA, un terrain juridique encore flou. En septembre dernier, OpenAI a commencé à déployer des contrôles parentaux, tout en renforçant d'autres mesures de sécurité.
" Nos plus sincères condoléances vont à la famille Raine pour leur perte inimaginable. Parce que nous sommes défendeurs dans cette affaire, nous sommes tenus de répondre aux allégations spécifiques et graves formulées dans la plainte ", écrit OpenAI.
