Claude borró un año de clases de un profesor al corregir números de página: lo salvó una copia en Dropbox

Una buena prueba para cualquier agente de IA no es una tarea compleja, sino una aburrida. Justo con una así tropezó Claude en el caso del profesor de la Universidad de Chicago William Boud: solo tenía que actualizar los números de página en un viejo conjunto de apuntes de clase.

Qué ocurrió

Boud contó el incidente en X y publicó su conversación con la IA. Según él, Claude eliminó los materiales de las clases de todo un año y el programa del curso. El profesor volvió de comer y vio un mensaje en el que el propio asistente reconocía el error.

Todo terminó bien: Boud restauró todos los archivos a través de Dropbox. Escribió claramente que decidió publicar la historia como un «anuncio público útil». En el fragmento disponible de la publicación no hay detalles —qué comandos ejecutó Claude, en qué modo y con qué permisos trabajaba—, así que no especularemos sobre la causa.

Por qué es un problema conocido

Quien haya dado a un agente acceso al sistema de archivos entiende el fondo del asunto. La petición «corrige los números de página» suena a retoque menor, pero por debajo puede ser una cadena de pasos: abrir archivos, recrearlos, renombrarlos, reemplazarlos. Si en algún paso el agente decide que hay que quitar la versión antigua y luego no escribe la nueva, el resultado es el vacío. Una persona suele notarlo de inmediato; un agente, solo si comprueba el resultado.

Un punto importante: la admisión del error por parte del modelo no arregla nada. Una disculpa en el chat no devuelve los archivos. Solo lo hace lo que se configuró antes de empezar: sincronización, historial de versiones, papelera, git.

Aquí hubo suerte precisamente con Dropbox. Boud tenía copias fuera del lugar donde trabajaba el asistente, y por eso una catástrofe potencial se convirtió en un relato breve con final feliz.

Qué hacer en la práctica

Son reglas generales de ingeniería, no conclusiones de la publicación de Boud, pero este caso las ilustra bien.

• Trabaje sobre una copia. Si un agente edita documentos, désele una carpeta o rama aparte, no el original.
• Active el control de versiones. Dropbox, git, instantáneas de disco: cualquier cosa que permita revertir el estado en minutos.
• Limite los permisos. Si la tarea es editar texto, el agente no necesita derecho a eliminar directorios.
• Pida un plan antes de actuar. Una breve lista de «qué voy a hacer» antes de ejecutar detecta parte de los errores.
• Verifique el resultado automáticamente. Al menos compare el número de archivos y sus tamaños antes y después.

Para los responsables de producto que integran agentes en productos de usuario, la conclusión es aún más dura: las operaciones destructivas deben exigir confirmación y el borrado debe ser suave, con papelera y plazo de conservación. El usuario no tiene por qué tener una copia de seguridad en Dropbox.

Límites de la historia

Es un solo caso, contado por el propio afectado, y no permite juzgar con qué frecuencia Claude u otros agentes cometen estos errores. No hay datos sobre la versión del modelo, las herramientas ni la configuración de permisos. Por eso no conviene concluir que «Claude es peligroso» o que «no se pueden confiar archivos a la IA».

La conclusión más sensata es más modesta: un agente con acceso de escritura es un empleado con derechos de administrador y sin sentido del miedo. Se le puede confiar la rutina, pero solo dentro de un perímetro donde cualquier error pueda revertirse. Boud aprendió esta lección a bajo coste porque tenía una copia de seguridad. Es mejor aprenderla igual, y no con el único ejemplar de un documento importante.