Baidu ante el juez: las alucinaciones de la IA no serían motivo de multa

Imagine que lleva años construyendo su carrera en el derecho y un día entra en internet y descubre que una red neuronal popular le atribuye participación en una serie de delitos. Eso le ocurrió al abogado pekinés Huang Guigeng, que decidió que no está dispuesto a tolerar las ocurrencias de los algoritmos. Demandó a Baidu y exige un millón de yuanes por el daño a su reputación profesional. Hace unos días se celebró la primera audiencia en el tribunal del distrito de Haidian, y los argumentos de la defensa de Baidu invitan a preguntarse en qué clase de mundo feliz vivimos. La empresa no niega que su producto emitiera falsedades, pero afirma que no fue una acción deliberada.

El argumento central de Baidu gira en torno al término «alucinaciones». Los abogados de la compañía dijeron que el fenómeno es una etapa inevitable en el desarrollo de cualquier gran modelo de lenguaje. Según esa lógica, como la tecnología sigue perfeccionándose, el desarrollador no debe responder por los errores que comete en este «periodo de transición». Baidu insiste en que no tuvo intención de ofender al abogado y, por tanto, no hay infracción. Es un ejemplo clásico de cómo las corporaciones intentan trasladar la responsabilidad del sujeto a la imperfección de la herramienta, fingiendo que la IA es una fuerza natural que no se puede controlar del todo.

El contexto es fundamental. China está hoy en la vanguardia de la regulación de la inteligencia artificial y trata de equilibrar el apoyo a sus gigantes tecnológicos en la carrera con Estados Unidos con un control estricto de la información. Si el tribunal se pone del lado de Baidu, sentará un precedente peligroso.

En la práctica, cualquier empresa podría lanzar al mercado un producto inmaduro que genere calumnias y justificarse con la complejidad técnica del algoritmo. Por otro lado, si Baidu pierde, la industria afrontará una oleada de demandas. Cada palabra errónea de un chatbot podría dar pie a indemnizaciones millonarias, lo que obligaría a los desarrolladores a «apretar las tuercas» y volver los modelos extremadamente cautelosos y, probablemente, menos útiles.

Resulta interesante cómo Baidu intenta separar la tecnología de la responsabilidad. Sostiene que no cometió una vulneración de derechos directa ni indirecta, porque la generación de texto es un proceso automático. Pero aquí se llega a un callejón sin salida lógico. Si una empresa obtiene beneficios del algoritmo y lo promociona como fuente fiable de información, ¿por qué debería quedar libre de responsabilidad cuando se equivoca? En los medios tradicionales, un editor no puede decir que un artículo falso fue una «alucinación» de la rotativa. Pero en el mundo de los LLM las viejas reglas, por alguna razón, dejan de funcionar, o al menos las empresas quieren que lo creamos.

El proceso de Pekín es solo la primera golondrina de una serie de batallas legales por venir. Mientras OpenAI y Google se defienden de demandas por derechos de autor, Baidu afronta un problema más terrenal pero igual de importante: la protección del honor y la dignidad de una persona corriente. El resultado mostrará cuán «inteligente» e «irresponsable» se le permite ser a la inteligencia artificial en la sociedad actual. Si las alucinaciones se reconocen como un derecho legal de la máquina a equivocarse, conviene prepararse para una realidad digital aún más impredecible y tóxica.

Lo esencial: ¿Se convertirá la «alucinación» en un término jurídico que exime de responsabilidad, o Baidu tendrá que pagar por cada token falso?