Abogado contra OpenAI: quién responderá por la muerte de menores causada por chatbots de AI

El abogado Matthew Bergman está liderando una serie de demandas contra OpenAI y otras empresas de IA, alegando que sus productos son directamente responsables de la muerte de niños. Esta es la primera ola de demandas sistémicas capaces de establecer un precedente de responsabilidad para toda la industria. Durante el último año, EE.

UU. ha documentado al menos varios casos de suicidio entre adolescentes que las familias relacionan con interacciones con chatbots de IA. El más conocido es la muerte del adolescente de 14 años Sewell Setzer III de Florida en febrero de 2024.

Su madre, Megan Garcia, descubrió que antes de su muerte, su hijo había mantenido miles de conversaciones con el chatbot Character.AI, que había asumido el papel de pareja romántica. Según el demandante, el bot no simplemente ignoró las señales de alerta — en la correspondencia, realmente alentó los pensamientos suicidas del adolescente.

Character.AI es una de las plataformas más grandes del mundo para chats de juego de roles con personajes de IA. La audiencia supera los 20 millones de usuarios activos, una porción significativa de los cuales son adolescentes.

La plataforma permite crear cualquier personaje y mantener conversaciones abiertas con ellos prácticamente sin restricciones. Los críticos han señalado durante mucho tiempo un problema obvio: la verificación de edad sigue siendo meramente formal, los filtros de contenido se eluden fácilmente y los algoritmos se optimizan para el compromiso en lugar de la seguridad del usuario. Bergman eligió una estrategia legal poco convencional.

En lugar de atacar a las empresas como plataformas — lo que tradicionalmente está bloqueado por la Sección 230 de la Ley de Decencia en las Comunicaciones — insiste en la responsabilidad del fabricante. Según su argumento, los chatbots de IA son productos defectuosos: están diseñados para crear dependencia y no prevén protección básica para usuarios vulnerables. Este enfoque ya ha funcionado parcialmente en casos contra Meta y TikTok — los tribunales no han desestimado esas demandas en la fase de presentación.

OpenAI figura en las demandas porque sus modelos de lenguaje forman la base de varios chatbots utilizados por niños afectados. Formalmente, OpenAI es un proveedor de tecnología, no un operador de servicios para usuarios finales. Aquí es donde se traza la línea legal clave: ¿tiene el desarrollador del modelo base responsabilidad conjunta si un producto construido sobre él causa daño?

La empresa se ha abstenido de comentarios públicos sobre demandas específicas. Tras una ola de crítica pública, Character.AI anunció una serie de medidas protectoras: recordatorios para tomar descansos, recomendaciones para buscar ayuda si se detecta contenido suicida y restricciones adicionales para cuentas de menores.

Los críticos los llaman cosméticos — todas las medidas se eluden fácilmente y el modelo de negocio fundamental, diseñado para el tiempo máximo de compromiso, no ha cambiado. Las perspectivas legales de las demandas se evalúan de diferentes maneras. Algunos expertos creen que las normas de responsabilidad del fabricante no se aplican a productos algorítmicos.

Otros argumentan que varios casos contra redes sociales ya han sobrevivido y la Corte Suprema el año pasado se negó a proporcionar a las plataformas inmunidad amplia bajo la Sección 230. El Congreso está considerando varios proyectos de ley sobre la responsabilidad de las empresas de IA por daño a menores, pero ninguno ha pasado a través de los comités aún. Independientemente de los resultados de casos específicos, esta ola de demandas ya está cambiando el comportamiento de la industria.

Los inversores exigen que las startups de IA evalúen los riesgos legales relacionados con menores. Si Bergman logra lograr al menos una decisión significativa, podría convertirse para la industria de IA lo que los pleitos del tabaco se convirtieron para las empresas de cigarrillos: un punto de no retorno, después del cual ignorar la seguridad se volvería más caro que invertir en ella.