Margaret Atwood probó Claude y llamó al problema del AI “basura entra, basura sale”

Margaret Atwood, autora de "El Cuento de la Criada" y "La Asesina Ciega", probó el chatbot de IA Claude exactamente una vez — y llegó a la conclusión de que la inteligencia artificial tiene un problema fundamental con la calidad de los datos.

Una Consulta — Una Respuesta Errónea

En el festival literario Babell en Oporto, Portugal, Atwood le preguntó a Claude sobre la serie de detectives británica "Padre Brown". El resultado la decepcionó.

"Claude me dio una respuesta incorrecta — o mintió.

Aunque no sabía que estaba mintiendo, porque no es una persona — es un gran modelo de lenguaje", dijo la escritora.

Según ella, el modelo simplemente "hojó" los datos disponibles de forma superficial y produjo información formulada con seguridad pero factualmente imprecisa. Esto, según Atwood, es la principal debilidad de los modelos de lenguaje modernos: no saben lo que no saben y no advierten al usuario sobre ello.

Basura en la Entrada — Basura en la Salida

El diagnóstico de Atwood es conciso: "garbage in, garbage out" — un principio conocido en programación desde los años 1960. Si los datos de entrenamiento contienen errores, información incompleta o sesgos, el resultado será poco confiable — sin importar cuánta potencia computacional lo respalde.

El problema de las alucinaciones — cuando los modelos de lenguaje generan respuestas seguras pero incorrectas — sigue siendo uno de los principales problemas sin resolver en toda la industria:

• Todos los modelos principales — GPT, Claude, Gemini — cometen regularmente errores en fechas, nombres, hechos y citas
• Los modelos se entrenan con textos de internet, donde la información inexacta y desactualizada es mucho más abundante de lo que parece
• Cuanto más segura suena la respuesta, más difícil es para un usuario desinformado verificarla
• En medicina, derecho, educación y periodismo, tales errores crean riesgos reales

Para combatir esto, las empresas están conectando búsquedas externas, desarrollando sistemas de verificación de hechos y entrenando modelos para reconocer la incertidumbre. Pero aún no hay una solución completa de nadie.

La Voz de la Cultura Contra el Tecnoptimismo

Atwood no es la primera autora importante en criticar abiertamente la IA. En 2023, miles de escritores firmaron una carta abierta exigiendo que las empresas de IA paguen a los autores por usar sus textos en el entrenamiento. George R.R. Martin, John Grisham y otros presentaron demandas colectivas. La comunidad literaria en general es escéptica: los escritores ven la IA como una amenaza para su trabajo y se oponen al entrenamiento de modelos con sus libros sin permiso ni compensación.

Atwood fue más allá — no solo expresó solidaridad con sus colegas, sino que probó personalmente la tecnología. El resultado fue revelador: incluso una persona entrenada en trabajo crítico con fuentes recibió una respuesta incorrecta de la IA — e inmediatamente la reconoció.

¿Qué Significa Esto?

Las empresas de IA posicionan sus productos como herramientas de información — para búsqueda, análisis y resumen. Pero es precisamente en este rol donde siguen siendo poco confiables. Para un usuario común, una respuesta incorrecta podría pasar desapercibida. Para una escritora acostumbrada a trabajar con fuentes primarias, se convierte en un veredicto sobre toda la tecnología.