La IA de Google creyó a un escritor: un gato que habla cantonés

Chuck Wendig, conocido escritor estadounidense, autor de cómics y popular blogger, realizó un experimento curioso que dejó al descubierto la vulnerabilidad de los sistemas de búsqueda actuales basados en inteligencia artificial. Wendig logró convencer a la IA de Google de que tiene un gato llamado Sir Mewlington von Pissbret que, además, lleva sombrero de copa y habla un poco de cantonés, un dialecto del chino. Esta broma, aparentemente inofensiva, pone de manifiesto graves problemas de confianza en la información que ofrece la IA.

Wendig no quiso revelar los métodos concretos con los que consiguió "alimentar" a Google con esta historia inventada. Sin embargo, al parecer utilizó una combinación de técnicas de optimización para buscadores (SEO) y la difusión de información a través de redes sociales y otras plataformas en línea. Conviene entender que los buscadores actuales basados en IA no tienen pensamiento crítico y no pueden comprobar por sí solos la veracidad de la información. Solo analizan enormes volúmenes de datos e identifican patrones a partir de los cuales construyen sus respuestas.

El caso ilustra con claridad lo fácil que es manipular los algoritmos de IA con información falsa o distorsionada. En esencia, Wendig creó una "burbuja informativa" en torno a su gato inventado, llenando internet de menciones de sus extraordinarias habilidades. La IA de Google encontró esas menciones, las dio por buenas y las incorporó a su base de conocimiento.

Las consecuencias de este tipo de manipulaciones pueden ser muy graves. Si los sistemas de IA se apoyan en información poco fiable, esto puede derivar en la propagación de noticias falsas y desinformación y, en última instancia, en la pérdida de confianza en la tecnología de inteligencia artificial en general. Imaginen que alguien convenciera así a una IA de que ciertos medicamentos causan efectos secundarios peligrosos, o de que unos hechos históricos ocurrieron de forma totalmente distinta. Los resultados podrían ser catastróficos.

El incidente obliga a plantearse la necesidad de desarrollar mecanismos más sólidos para verificar la información en los sistemas de IA. Quizá hagan falta nuevos algoritmos capaces de analizar el contexto, detectar contradicciones y comprobar las fuentes. También es necesario enseñar a los usuarios a evaluar con espíritu crítico la información que reciben de la IA y a no tomarla como verdad absoluta. En definitiva, la responsabilidad de difundir información fiable recae en todos los participantes del intercambio informativo, incluidos los desarrolladores de IA, los usuarios y los periodistas.

En el futuro cabe esperar métodos de manipulación de los sistemas de IA más complejos y sofisticados. Por eso es fundamental empezar ya a desarrollar estrategias eficaces contra la desinformación y garantizar la fiabilidad y la veracidad de la información que ofrece la inteligencia artificial. El experimento de Wendig es una señal de alarma que no se puede ignorar.