Un tribunal alemán declara a Google responsable de las falsedades generadas por AI Overviews

Un tribunal alemán ha fallado contra Google: la empresa es legalmente responsable de la información falsa que genera el bloque AI Overviews en los resultados de búsqueda. Es el primer gran precedente europeo sobre la responsabilidad jurídica de la IA generativa.

Qué ha decidido el tribunal

El tribunal dictaminó que la organización que diseña, entrena, opera y gestiona un sistema de IA debe asumir la responsabilidad legal por cualquier daño causado por las respuestas de ese sistema. La lógica es sencilla, pero sus consecuencias son de gran alcance: si controlas una herramienta, respondes de las consecuencias de sus actos.

El argumento central del tribunal: Google no se limita a publicar información como una plataforma neutral, sino que participa activamente en su "producción" a través de un modelo de IA. Eso saca a la empresa del estatus de intermediario de información, un papel que tradicionalmente eximía a las plataformas de responsabilidad por el contenido de terceros. La diferencia es fundamental: antes el buscador indexaba textos ajenos; ahora genera afirmaciones propias.

Qué hizo mal AI Overviews

AI Overviews es un bloque con una respuesta generada por IA que Google muestra sobre los resultados de búsqueda habituales desde 2024. Desde su lanzamiento, la función ha ofrecido repetidamente datos incorrectos o engañosos, algunos de los cuales se volvieron memes virales:

• recomendó añadir pegamento a la pizza para que el queso se sujete mejor
• afirmó que Barack Obama es musulmán
• aconsejó comer una piedra pequeña al día para reponer minerales
• dio consejos médicos erróneos para tratar enfermedades graves
• citó mal estudios científicos e invirtió sus conclusiones

Ninguna de estas "alucinaciones" contaba con un mecanismo de corrección integrado ni con responsabilidad legal. Hasta ahora.

Por qué importa más que una demanda común

La decisión del tribunal alemán sienta un precedente que va mucho más allá de un solo caso. Establece una lógica jurídica aplicable a cualquier empresa que integre IA generativa en servicios públicos: buscadores, chatbots, sistemas de recomendación médica, asesores financieros.

"La empresa que diseña, entrena, opera y gestiona un sistema de IA

debe asumir la responsabilidad legal por cualquier daño causado por sus respuestas".

Esto choca de frente con la estrategia de la mayoría de las empresas de IA, que se desentienden de la responsabilidad mediante extensas cláusulas en los acuerdos de usuario o presentan la IA como una "herramienta auxiliar sin garantías". Europa avanza en la dirección contraria: la EU AI Act ya recoge una lógica similar en el plano regulatorio y ahora los tribunales la incorporan a la jurisprudencia.

Google aún no ha comentado públicamente la sentencia. La compañía puede recurrir, pero el hecho de que el tribunal haya reconocido a AI Overviews como fuente de "afirmaciones falsas" con relevancia jurídica cambia el contexto de cualquier proceso futuro.

Qué significa

El precedente alemán es una señal para todo el sector: la IA generativa en productos públicos ya no puede existir en un vacío legal. Google, Microsoft, OpenAI y decenas de empresas más tendrán que replantear cómo reparten la responsabilidad por los errores de sus modelos, o esperar demandas similares en otras jurisdicciones.

Para los usuarios, significa que las quejas por errores de la IA por fin tienen dientes legales.