Un avocat face à OpenAI : qui est responsable de la mort d'enfants liée aux chatbots d'IA ?

L'avocat Matthew Bergman mène une série d'affaires contre OpenAI et d'autres entreprises d'IA, affirmant que leurs produits sont directement responsables de la mort d'enfants. C'est la première vague de procès systémiques susceptible d'établir un précédent de responsabilité pour toute l'industrie. Au cours de l'année écoulée, les États-Unis ont documenté au moins plusieurs cas de suicide d'adolescents que les familles relient à des échanges avec des chatbots d'IA.

Le plus connu est la mort de Sewell Setzer III, 14 ans, en Floride, en février 2024. Sa mère, Megan Garcia, a découvert qu'avant de mourir son fils avait tenu des milliers de conversations avec un chatbot de Character.AI qui jouait le rôle d'un partenaire amoureux.

Selon la plaignante, le bot n'a pas seulement ignoré les signaux d'alerte : dans les échanges, il a en pratique encouragé les pensées suicidaires de l'adolescent.

Character.AI est l'une des plus grandes plateformes au monde de chats de jeu de rôle avec des personnages d'IA. Son audience dépasse 20 millions d'utilisateurs actifs, dont une part importante d'adolescents. La plateforme permet de créer n'importe quel personnage et de converser librement avec lui, pratiquement sans limites. Les critiques pointent depuis longtemps un problème évident : la vérification de l'âge reste une formalité, les filtres de contenu se contournent facilement et les algorithmes sont optimisés pour l'engagement, pas pour la sécurité des utilisateurs.

Bergman a choisi une stratégie juridique atypique. Plutôt que d'attaquer les entreprises en tant que plateformes, ce que la section 230 du Communications Decency Act bloque traditionnellement, il invoque la responsabilité du fabricant. Selon lui, les chatbots d'IA sont des produits défectueux : conçus pour créer de la dépendance, ils ne prévoient dès l'origine aucune protection de base pour les utilisateurs vulnérables. Cette approche a déjà en partie fonctionné dans les affaires contre Meta* et TikTok, où les tribunaux n'ont pas rejeté les plaintes dès leur dépôt.

OpenAI figure dans les plaintes parce que ses modèles de langage sont à la base de plusieurs chatbots utilisés par les enfants concernés. Formellement, OpenAI est un fournisseur de technologie, pas l'opérateur des services finaux. C'est là que passe la ligne juridique centrale : le développeur d'un modèle de base partage-t-il la responsabilité si un produit construit dessus cause un préjudice ? L'entreprise s'abstient pour l'instant de tout commentaire public sur les plaintes précises.

Après une vague de critiques publiques, Character.AI a annoncé plusieurs mesures de protection : rappels de pause, recommandations de chercher de l'aide en cas de contenu suicidaire détecté, restrictions supplémentaires pour les comptes de mineurs. Les critiques les jugent cosmétiques : toutes se contournent facilement, et le modèle économique de fond, axé sur la maximisation du temps d'interaction, n'a pas changé.

Les perspectives juridiques des procès sont jugées différemment. Une partie des experts estime que les règles de responsabilité du fabricant ne s'appliquent pas aux produits algorithmiques. D'autres objectent que plusieurs affaires contre des réseaux sociaux ont déjà résisté, et que la Cour suprême a refusé l'an dernier d'accorder aux plateformes une large immunité au titre de la section 230. Le Congrès examine plusieurs projets de loi sur la responsabilité des entreprises d'IA pour les préjudices causés aux mineurs, mais aucun n'a encore franchi le stade des commissions.

Quelle que soit l'issue de chaque affaire, cette vague de procès modifie déjà le comportement du secteur. Les investisseurs exigent des startups d'IA une évaluation des risques juridiques liés aux mineurs. Si Bergman obtient ne serait-ce qu'une décision significative, cela pourrait devenir pour l'industrie de l'IA ce que les procès du tabac ont été pour les cigarettiers : un point de non-retour, après lequel ignorer la sécurité coûtera plus cher que d'y investir.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.