La sécurité de l’IA en question

Pars Today-Sept familles américaines et canadiennes poursuivent OpenAI, accusant ChatGPT d’avoir contribué à des suicides ou à des détresses psychologiques graves chez de jeunes utilisateurs.

Sept familles américaines et canadiennes ont déposé plainte en Californie contre OpenAI, estimant que son chatbot ChatGPT aurait joué un rôle dans plusieurs cas de suicide, rapporte The Wall Street Journal. D’après les plaignants, quatre personnes — dont un adolescent de 17 ans et un jeune homme de 23 ans — se seraient suicidées après des échanges prolongés avec l’IA, tandis que trois autres auraient développé de graves troubles psychologiques. Les familles reprochent à OpenAI d’avoir privilégié l’engagement des utilisateurs et la durée des conversations, au détriment de leur sécurité.Les plaintes ciblent notamment le lancement précipité du modèle GPT-4o, à la mi-2024, jugé insuffisamment testé sur les plans éthique et sécuritaire. Les plaignants exigent non seulement des compensations financières, mais aussi des ajustements techniques pour interrompre automatiquement toute conversation potentiellement dangereuse. De son côté, OpenAI a qualifié ces événements de « horribles » et a affirmé étudier les dossiers pour en comprendre les circonstances. / RT

NH