IA y ley: por qué una red neuronal lee mal los requisitos

La red neuronal lee mal la ley: por qué intentar extraer los requisitos de un sistema informático de la legislación con una sola consulta zero-shot casi siempre genera una falsa seguridad.

¿Se puede usar la IA para analizar requisitos de las leyes?

No se debe depender de una única consulta zero-shot. Entre la norma y el requisito de sistema hay toda una cadena de decisiones analíticas que debe tomar una persona.

¿Por qué zero-shot es un enfoque erróneo para analizar leyes?

Una norma jurídica describe no una interfaz, un proceso o una API, sino un campo jurídico. El modelo no es capaz de convertir por sí solo las normas jurídicas en requisitos de sistema sin trabajo analítico.

¿Por qué

ChatGPT no puede extraer automáticamente los requisitos de una ley? Porque eso exige toda una cadena de decisiones analíticas. La ley describe un campo jurídico (normas y reglas), mientras que el sistema necesita requisitos técnicos (interfaz, proceso, API). La red neuronal no puede realizar sola esta transformación con una sola consulta.

¿Por qué no se debe usar zero-shot para analizar leyes?

Porque entre la norma y el requisito de sistema hay toda una cadena de decisiones analíticas que el enfoque zero-shot no tiene en cuenta.

¿Por qué una ley no es una especificación técnica para una red neuronal?

Una norma jurídica describe un campo jurídico: reglas y restricciones. La especificación técnica, en cambio, describe una interfaz, un proceso o una API. Son cosas distintas.

¿Por qué la red neuronal lee mal los requisitos de las leyes?

Porque entre la norma y el requisito de sistema hay toda una cadena de decisiones analíticas que no se puede extraer con una sola consulta a la IA.

¿Es peligrosa la red neuronal para trabajar con requisitos jurídicos?

Sí, cuando se intenta extraer los requisitos con una sola consulta zero-shot: eso genera la falsa seguridad de que la IA ha entendido bien la ley.