La Administración Trump apuesta por las demandas: quién pagará por un fallo de la IA

La Administración Trump ha elegido la responsabilidad legal como principal palanca para garantizar la seguridad de la IA, según informa Bloomberg. El enfoque parece económico: no hace falta crear un organismo de licencias ni acordar listas de arquitecturas prohibidas. Basta con dejar claro que el daño se pagará. Pero este esquema tiene un punto débil, y ya es visible: la ley todavía no dice quién debe pagar exactamente cuando un modelo «se desmanda». Si quienes lo crearon o quienes lo integraron en su producto.

La publicación de Bloomberg no menciona artículos concretos de ninguna ley, ni cuantías, ni plazos, así que los detalles del mecanismo siguen sin estar claros. Sin embargo, la lógica de fondo se entiende y puede analizarse a partir de disputas que ya se han producido.

Dos cadenas de responsabilidad

Toda IA en producción tiene al menos dos actores. El primero entrena el modelo y define su comportamiento básico. El segundo lo conecta a sus propios datos, escribe el prompt de sistema, le da herramientas y decide dónde puede usarse. Lo más habitual es que el daño surja en la unión de ambos: el modelo se equivocó, y la empresa le dio acceso a algo a lo que no debería haberlo tenido.

La AI Act europea fijó esta separación a nivel terminológico: existen el «proveedor» y el «responsable del despliegue» (deployer), y sus obligaciones son distintas. En Estados Unidos no hay un marco único. Quedan la responsabilidad por productos, las normas sobre negligencia y el derecho contractual. Los tribunales los aplican a la IA por analogía, y el resultado es impredecible.

Un ejemplo ilustrativo de 2024: un tribunal de la Columbia Británica dictaminó que Air Canada era responsable de la información errónea sobre descuentos que dio su chatbot. La aerolínea intentó demostrar que el bot era un sujeto independiente. No lo logró. Respondió quien desplegó el sistema ante el cliente, no quien lo entrenó.

Dónde afectará a los desarrolladores

Antes de esto, California estudió en 2024 el proyecto de ley SB 1047, con normas sobre la responsabilidad de los desarrolladores de grandes modelos. El gobernador Newsom lo vetó, en buena parte por las objeciones del sector. Ahora la idea de la responsabilidad vuelve, pero esta vez desde el ámbito federal y con una lógica de apoyo al mercado, no de contención.

La defensa habitual de los desarrolladores son los acuerdos de usuario, que trasladan el riesgo al cliente. La excepción es la protección frente a demandas por derechos de autor: Microsoft, Google y OpenAI han ofrecido esas garantías a sus clientes corporativos. Para los daños derivados del comportamiento del modelo no existen garantías de este tipo. Si la responsabilidad se vuelve real, habrá que reescribir esas condiciones.

Los principales puntos de tensión:

• La frontera entre un defecto del modelo y una implantación incorrecta: quién demuestra qué fue exactamente lo que falló.
• Los sistemas agénticos: cuanta más autonomía y acceso a herramientas, más difícil es repartir la culpa a lo largo de la cadena.
• Las cláusulas contractuales: si los desarrolladores podrán seguir eximiéndose de responsabilidad en las licencias.
• Los seguros: el mercado de cobertura de riesgos de IA todavía es reducido, y las primas dependerán de las primeras sentencias sonadas.
• Los modelos abiertos: no está claro quién responde por el daño si terceros descargan los pesos y los reentrenan.

Qué deben hacer las empresas ya

No hace falta esperar a las normas definitivas: la lógica está clara y prepararse cuesta poco. Quienes implantan IA deberían revisar los contratos con los proveedores de modelos y averiguar qué riesgos asume el proveedor y cuáles se quedan en su lado. Conviene llevar registros de las acciones de los agentes y conservar las versiones de los prompts y las configuraciones: en una disputa sobre dónde se originó el error, esos datos mostrarán de quién es la zona de responsabilidad.

Los desarrolladores de modelos deberían documentar las pruebas y las limitaciones conocidas. Será su principal argumento de que el producto no tenía ningún defecto. Para todos los demás, la conclusión práctica es sencilla: limiten los permisos de los agentes al mínimo necesario y mantengan a una persona en los puntos donde el coste de un error es alto. Cuando la responsabilidad sea objeto de demandas judiciales, serán precisamente estas decisiones las que examine el tribunal.