Baidu en juicio: las alucinaciones de IA no son motivo de multa

Imagina construir tu carrera en derecho durante años y después un día entrar en internet y descubrir que una red neuronal popular te está acreditando con participación en una serie de crímenes. Esto es exactamente lo que le sucedió al abogado de Pekín Huang Guigen, quien decidió que no estaba dispuesto a tolerar las travesuras de los algoritmos. Demandó a Baidu, exigiendo un millón de yuanes en compensación por daño a su reputación comercial.

Recientemente, la primera audiencia tuvo lugar en el Tribunal del Distrito de Haidian, y los argumentos de defensa de Baidu nos obligan a pensar sobre qué tipo de mundo maravilloso estamos viviendo. La empresa no niega que su producto generó una mentira, pero afirma que no fue intencional. El argumento principal de Baidu gira en torno al término "alucinaciones".

Los abogados de la empresa argumentaron que este fenómeno es una etapa inevitable en el desarrollo de cualquier modelo de lenguaje grande. Según su lógica, dado que la tecnología está en proceso de mejora, el desarrollador no debería ser responsable de los errores que comete durante este "período de transición". Baidu insiste en que no tenían intención de insultar al abogado y, por lo tanto, no hay delito.

Este es un ejemplo clásico de cómo las corporaciones intentan trasladar la responsabilidad del sujeto a la imperfección de la herramienta, fingiendo que la IA es una especie de fuerza elemental que no puede ser completamente controlada. El contexto aquí es extremadamente importante. China está actualmente a la vanguardia de la regulación de IA, tratando de encontrar un equilibrio entre apoyar a sus gigantes tecnológicos en la carrera contra Estados Unidos y el control riguroso de la información.

Si el tribunal se pone del lado de Baidu, creará un precedente peligroso. Esencialmente, significaría que cualquier empresa puede lanzar un producto crudo al mercado que genere difamación y usar la complejidad técnica del algoritmo como excusa. Por otro lado, si Baidu pierde, la industria enfrenta una ola de demandas.

Cada palabra incorrecta de un chatbot podría convertirse en razón para acuerdos multimillonarios, obligando a los desarrolladores a "apretar los tornillos" y hacer que los modelos sean lo más cautelosos posible y, muy probablemente, menos útiles. Es interesante cómo Baidu intenta separar la tecnología de la responsabilidad. Afirman que no cometieron ninguna violación de derechos directa o indirecta porque la generación de texto es un proceso automático.

Pero aquí nos encontramos con un punto muerto lógico. Si una empresa se beneficia del funcionamiento de este algoritmo y lo promueve como una fuente confiable de información, ¿por qué debería estar exenta de responsabilidad cuando el algoritmo comete errores? En los medios tradicionales, un editor no puede decir que un artículo falso fue una "alucinación" de la imprenta.

Pero en el mundo de los LLM, las viejas reglas del juego dejan de funcionar, o al menos las empresas quieren mucho que lo creamos. Este juicio en Pekín es solo el primero de muchas batallas legales por venir. Mientras OpenAI y Google se defienden de demandas de derechos de autor, Baidu enfrenta un problema más mundano pero no menos importante: proteger el honor y la dignidad de una persona común.

El resultado de este caso mostrará cuán "inteligente" e "irresponsable" se permite que sea la inteligencia artificial en la sociedad moderna. Si las alucinaciones se reconocen como un derecho legal de las máquinas para cometer errores, todos deberíamos estar preparados para que la realidad digital se vuelva aún más impredecible y tóxica. La pregunta clave: ¿Se convertirá la "alucinación" en un término legal que exima a las empresas de responsabilidad, o Baidu tendrá que pagar por cada token falso?