OpenAI respalda proyecto de ley que limita la responsabilidad de empresas de IA por daño masivo

OpenAI ha apoyado un proyecto de ley en Illinois que protegería a los laboratorios de IA de demandas incluso en casos en que sus tecnologías provoquen muertes en masa o colapso financiero. Este es el primer precedente de apoyo abierto a tal legislación por parte de una gran empresa de IA — y ya ha provocado una ola de críticas. El documento bajo consideración por el parlamento de Illinois introduce el concepto de "proveedor de IA de buena fe" y limita significativamente su responsabilidad civil ante los damnificados.

Además, las restricciones se extienden incluso a casos de llamado "daño crítico": desde muertes en masa hasta pérdidas financieras graves para un gran número de personas. En audiencias, un representante de OpenAI testificó a favor del proyecto. La posición de la empresa: los laboratorios de IA no deberían soportar responsabilidad ilimitada por todas las posibles consecuencias del uso de sus productos por terceros.

Según los defensores, sin protección legal, las empresas de IA se verían obligadas a detener el desarrollo debido a la amenaza de litigios interminables. La lógica de los defensores del proyecto encaja en un patrón ya familiar en otras industrias: así como los fabricantes de armas no son responsables de cada instancia de uso de sus productos, las empresas de IA no deberían ser responsables de cualquier abuso de sus modelos. OpenAI insiste: la responsabilidad legal ilimitada crea incentivos asimétricos y fuerza a las empresas a abandonar jurisdicciones con regulación estricta.

Los opositores adoptan una posición fundamentalmente diferente. Según ellos, el documento efectivamente otorga a los laboratorios de IA una indulgencia de responsabilidad civil precisamente cuando las apuestas son máximas. La responsabilidad civil es uno de los pocos mecanismos legales que realmente obliga a las corporaciones a pensar en seguridad antes de lanzar un producto.

Si incluso en casos de muertes en masa la empresa desarrolladora está legalmente protegida, los damnificados no tienen herramientas para compensación. Illinois no es el primer estado donde las empresas de IA impulsan legislación favorable para sí mismas. En años recientes, una campaña de cabildeo a gran escala se ha desplegado en toda América: gigantes tecnológicos y startups participan en el desarrollo de estrategias estatales de IA mientras simultáneamente presionan por restricciones a los reguladores y expansión de protecciones legales para sí mismos.

Discusiones similares están teniendo lugar en Europa, Reino Unido y Asia — en todas partes la industria está buscando aproximadamente lo mismo: limitar riesgos sin limitar posibilidades. Si el proyecto es aprobado, Illinois se convertiría en uno de los primeros estados en proteger legislativamente a las empresas de IA de las consecuencias del "daño crítico." Esto podría establecer un precedente para otros estados e incrementar la presión a nivel federal — donde la discusión sobre la responsabilidad de los laboratorios de IA sigue sin resolverse.

La pregunta clave permanece abierta: ¿quién es responsable si un sistema de IA comete un error con consecuencias catastróficas?