OpenAI respalda un proyecto de ley que limita la responsabilidad de las empresas de IA por daños masivos

OpenAI ha respaldado un proyecto de ley en Illinois que protegería a los laboratorios de IA de demandas incluso cuando su tecnología provoque víctimas masivas o un colapso financiero. Es la primera vez que una gran empresa de IA apoya abiertamente una legislación de este tipo, y ya ha desatado una oleada de críticas.

El texto, que examina el Parlamento de Illinois, introduce el concepto de «proveedor de IA de buena fe» y limita de forma sustancial su responsabilidad civil ante los afectados. Las restricciones se aplican incluso al llamado «daño crítico»: desde muertes masivas hasta graves pérdidas financieras para un gran número de personas.

En la audiencia, un representante de OpenAI declaró a favor del proyecto. La postura de la compañía es que los laboratorios de IA no deben asumir una responsabilidad ilimitada por todas las consecuencias posibles del uso de sus productos por terceros. Según los partidarios, sin protección legal las empresas de IA se verían obligadas a frenar sus desarrollos por la amenaza de juicios interminables.

La lógica de los defensores sigue un esquema conocido en otros sectores: igual que los fabricantes de armas no responden por cada uso de sus productos, las empresas de IA no deberían responder por cualquier abuso de sus modelos. OpenAI sostiene que la responsabilidad legal ilimitada crea incentivos asimétricos y empuja a las empresas a abandonar jurisdicciones con regulación estricta.

Los detractores adoptan una postura radicalmente distinta. Afirman que el texto concede de facto a los laboratorios de IA una indulgencia frente a la responsabilidad civil justo cuando más está en juego. La responsabilidad civil es uno de los pocos mecanismos legales que realmente obligan a las corporaciones a pensar en la seguridad antes de lanzar un producto. Si el desarrollador está legalmente protegido incluso en casos de víctimas masivas, los afectados se quedan sin herramientas de compensación.

Illinois no es el primer estado donde las empresas de IA impulsan legislación favorable a sus intereses. En los últimos años se ha desplegado en todo Estados Unidos una amplia campaña de lobby: los gigantes tecnológicos y las startups participan en la elaboración de estrategias estatales de IA, mientras buscan limitar a los reguladores y ampliar su propia protección legal. Debates similares se producen en Europa, el Reino Unido y Asia, y en todas partes el sector persigue más o menos lo mismo: limitar los riesgos sin limitar las capacidades.

Si el proyecto se aprueba, Illinois será uno de los primeros estados en proteger por ley a las empresas de IA de las consecuencias del «daño crítico». Eso podría sentar un precedente para otros estados y aumentar la presión a nivel federal, donde el debate sobre la responsabilidad de los laboratorios de IA sigue sin resolverse.

La pregunta clave sigue abierta: ¿quién responde si un sistema de IA se equivoca con consecuencias catastróficas?