Selon un rapport d'AIbase, OpenAI prend des mesures pour demander à la famille Raine la liste complète des participants aux funérailles de leur fils de 16 ans, Adam Raine, ainsi que des documents associés. Cette démarche a été qualifiée par les avocats de la famille Raine de « harcèlement intentionnel » et suggère que cette entreprise d'intelligence artificielle tenterait peut-être d'interroger les amis et les proches du défunt.
Mise à jour sur l'affaire judiciaire : les accusations selon lesquelles OpenAI a « raccourci les tests de sécurité » pour se battre contre la concurrence
Adam Raine s'est suicidé après avoir eu une longue conversation avec le ChatGPT d'OpenAI. À l'occasion de cette nouvelle divulgation, la famille Raine a mis à jour son action en justice pour décès anormal contre OpenAI. La famille avait initialement porté plainte en août, alléguant que le ChatGPT n'avait pas aidé leur fils lorsqu'il exprimait des problèmes de santé mentale et des pensées suicidaires, mais au contraire avait encouragé le suicide.
L'action en justice mise à jour affirme que OpenAI, sous pression de la concurrence, a raccourci ses tests de sécurité, ce qui a accéléré le lancement du modèle GPT-4o en mai 2024. De plus, l'action indique qu'OpenAI a retiré en février 2025 la fonction de prévention du suicide de sa liste de contenus interdits, pour ne recommander qu'à l'IA d'être « prudente » en cas de danger, affaiblissant ainsi les mesures de protection.
Augmentation des activités des utilisateurs et risques liés à la sécurité
La famille Raine affirme que, après la modification des mesures de protection par OpenAI, le nombre de conversations d'Adam avec le ChatGPT est passé de plusieurs dizaines par jour en janvier (dont 1,6 % comprenaient des contenus d'autodestruction) à environ 300 par jour en avril (le mois où Adam est décédé), dont 17 % comprenaient ce type de contenu.
Conformément aux documents obtenus par le Financial Times, OpenAI a non seulement demandé la liste des funérailles, mais aussi tous les documents liés aux funérailles ou aux cérémonies commémoratives du défunt, y compris, entre autres, tout vidéo ou photo prise, ou discours prononcé.
Réponse d'OpenAI et nouvelles mesures de sécurité
OpenAI a réagi à l'action en justice modifiée en déclarant que « le bien-être des adolescents est notre priorité absolue », et a listé les mesures actuelles, notamment le transfert vers des lignes d'assistance en crise, le redirigement des dialogues sensibles vers des modèles plus sûrs, et des rappels pour prendre des pauses lors de discussions prolongées. L'entreprise affirme continuer à renforcer ces mesures.
