Un avocat contre OpenAI : qui répondra de la mort d'enfants causée par des chatbots AI

L'avocat Matthew Bergman mène une série de procès contre OpenAI et d'autres sociétés d'IA, affirmant que leurs produits sont directement responsables de la mort d'enfants. C'est la première vague de litiges systémiques capable d'établir un précédent de responsabilité pour toute l'industrie. Au cours de la dernière année, les États-Unis ont documenté au moins plusieurs cas de suicide chez les adolescents que les familles associent à des interactions avec des chatbots d'IA.

Le plus connu est la mort de l'adolescent de 14 ans Sewell Setzer III de Floride en février 2024. Sa mère, Megan Garcia, a découvert qu'avant sa mort, son fils avait mené des milliers de conversations avec le chatbot Character.AI, qui avait pris le rôle d'un partenaire romantique.

Selon le plaignant, le bot n'a pas simplement ignoré les signaux d'alerte — dans la correspondance, il a réellement encouragé les pensées suicidaires de l'adolescent. Character.AI est l'une des plus grandes plates-formes au monde pour les chats de jeu de rôle avec des personnages d'IA.

L'audience dépasse les 20 millions d'utilisateurs actifs, dont une part importante sont des adolescents. La plateforme permet de créer n'importe quel personnage et d'avoir des conversations ouvertes avec eux pratiquement sans restrictions. Les critiques ont longtemps noté un problème évident : la vérification de l'âge reste purement formelle, les filtres de contenu sont facilement contournés et les algorithmes sont optimisés pour l'engagement plutôt que pour la sécurité des utilisateurs.

Bergman a choisi une stratégie juridique non conventionnelle. Au lieu d'attaquer les entreprises en tant que plates-formes — ce qui est traditionnellement bloqué par la Section 230 de la Loi sur la décence dans les communications — il insiste sur la responsabilité du fabricant. Selon son argument, les chatbots d'IA sont des produits défectueux : ils sont conçus pour créer une dépendance et ne prévoient pas de protection de base pour les utilisateurs vulnérables.

Cette approche a déjà partiellement fonctionné dans les affaires contre Meta et TikTok — les tribunaux n'ont pas rejeté ces poursuites au stade du dépôt. OpenAI figure dans les plaintes car ses modèles linguistiques forment la base d'un certain nombre de chatbots utilisés par les enfants touchés. Formellement, OpenAI est un fournisseur de technologie, pas un opérateur de services pour les utilisateurs finaux.

C'est là que se trace la ligne juridique clé : le développeur du modèle de base est-il conjointement responsable si un produit construit sur celui-ci cause du tort ? L'entreprise s'est jusqu'à présent abstenue de commenter publiquement les poursuites spécifiques. Suite à une vague de critiques publiques, Character.

AI a annoncé une série de mesures de protection : des rappels pour faire des pauses, des recommandations pour chercher de l'aide si du contenu suicidaire est détecté et des restrictions supplémentaires pour les comptes de mineurs. Les critiques les qualifient de cosmétiques — toutes les mesures sont facilement contournées et le modèle économique fondamental, conçu pour un temps d'engagement maximal, n'a pas changé. Les perspectives juridiques des poursuites sont évaluées différemment.

Certains experts pensent que les règles de responsabilité du fabricant ne s'appliquent pas aux produits algorithmiques. D'autres soutiennent que plusieurs affaires contre les réseaux sociaux ont déjà survécu et que la Cour suprême l'année dernière a refusé d'accorder aux plates-formes une large immunité en vertu de la Section 230. Le Congrès envisage plusieurs projets de loi sur la responsabilité des sociétés d'IA pour les dommages aux mineurs, mais aucun n'a encore été adopté en commission.

Quel que soit l'issue des affaires spécifiques, cette vague de poursuites change déjà le comportement de l'industrie. Les investisseurs exigent que les startups d'IA évaluent les risques juridiques liés aux mineurs. Si Bergman réussit à obtenir au moins une décision importante, cela pourrait devenir pour l'industrie de l'IA ce que les procès contre le tabac sont devenus pour les entreprises de cigarettes : un point de non-retour, après lequel ignorer la sécurité serait plus coûteux que d'y investir.