Anthropic se opuso al proyecto de ley sobre responsabilidad de AI respaldado por OpenAI

Anthropic y OpenAI — dos empresas frecuentemente llamadas estandartes del desarrollo responsable de inteligencia artificial — han chocado abiertamente en el campo legislativo por primera vez. El motivo fue un proyecto de ley del estado de Illinois que efectivamente protegería a los laboratorios de IA de la responsabilidad incluso en casos de muertes masivas y catástrofes financieras causadas por sus sistemas. OpenAI manifestó su apoyo a esta iniciativa.

Anthropic — se opuso. El proyecto de ley de Illinois se convirtió en parte de una onda más amplia de intentos por regular la inteligencia artificial en el nivel de los estados estadounidenses. Aún no existe una ley federal sobre IA en EE.

UU.: el Congreso ha discutido varias iniciativas durante años, pero ninguna ha sido aprobada. En este vacío, los estados comenzaron a actuar por su cuenta.

California intentó varias veces adoptar una regulación estricta, pero cada vez enfrentó un poderoso cabildeo industrial. Ahora debates similares están escalando en Illinois — y esta vez los mayores jugadores del mercado divergen abiertamente en sus puntos de vista. La esencia del proyecto de ley apoyado por OpenAI se reduce a esto: las empresas de IA no deberían tener responsabilidad legal por las consecuencias del funcionamiento de sus sistemas, incluso si esas consecuencias son catastróficas.

Los críticos llaman a esto inmunidad de responsabilidad y advierten: si la ley se aprueba, los afectados efectivamente perderán los mecanismos de protección legal. Imagine un sistema de IA que proporciona incorrectamente recomendaciones médicas, gestiona activos financieros o está integrado en infraestructura crítica. Si algo sale mal — ¿quién es responsable?

Sin una respuesta legislativa clara — nadie. Anthropic tomó la posición diametralmente opuesta. La empresa, fundada por ex empleados de OpenAI, construyó su imagen pública alrededor del tema de IA segura desde el inicio.

Su modelo insignia Claude se desarrolla con énfasis en seguridad constitucional, y su liderazgo regularmente aboga por estándares industriales más estrictos, incluyendo en audiencias del Congreso. La posición de la empresa sobre el proyecto de ley de Illinois parece ser una continuación lógica de esta línea pública. La posición de OpenAI es menos obvia.

La empresa también declara su compromiso con el desarrollo seguro de IA y creó un consejo de seguridad especial. Sin embargo, recientemente OpenAI ha intensificado notablemente las actividades de cabildeo en Washington y en varios estados, claramente buscando suavizar posibles restricciones regulatorias. El apoyo al proyecto de ley de Illinois se ajusta a esta lógica, aunque entra en contradicción obvia con los valores declarativos de la empresa.

La divergencia entre los dos mayores laboratorios de IA de América es importante no solo en sí misma. Marca una grieta dentro de la industria: el consenso sobre autorregulación que la industria ha intentado seguir en los últimos años está claramente fallando. Los reguladores en otros estados y a nivel federal observarán de cerca cómo termina el debate de Illinois.

Para los usuarios ordinarios de sistemas de IA, las apuestas aquí son bastante reales. La pregunta de quién es responsable de los errores de la inteligencia artificial no es una cuestión legal abstracta. Determina si tiene derecho a protección cuando un sistema de IA lo ha dañado.

Y la respuesta que la legislación de Illinois dé a esto determinará en gran medida cuál será la respuesta del resto de América.