Un aficionado usa IA para extraer la lista de sugerencias bloqueadas del iPhone: 673 frases en ruso

Cuando alguien escribe por su cuenta algo ofensivo en un iPhone, nadie reclama a Apple. Pero si una sugerencia del sistema completa la frase, la responsabilidad deja de estar tan clara. El usuario podría haber pulsado una palabra sugerida por accidente, y después alguien tendrá que explicar cómo acabó en la pantalla una expresión obscena o extremista.

Por qué Apple tiene una lista de bloqueo

Por eso el iPhone incluye una lista de expresiones que no deben aparecer como continuación de una frase ni como resultado de la escritura por deslizamiento. Alexander Gorny, autor del canal «Startup del día», lo considera una medida de protección, no censura, y no tiene nada en contra de la idea en sí. Desde el punto de vista del producto, la lógica se entiende: si una función genera texto por sí sola, quien la ha lanzado es responsable del resultado. Más vale extremar las precauciones que tener que explicar después por qué el teléfono completó el mensaje del usuario con «heil».

Qué encontró el aficionado

Lo interesante llegó cuando un desarrollador que practica vibe coding utilizó IA para extraer del teléfono las expresiones bloqueadas y presentarlas en una página llamada Swipeblocked. Ahora cualquiera puede abrir la lista y leerla.

En ruso, las cifras son estas: 673 frases en 242 grupos. Algunas entradas son previsibles; otras resultan extrañas:

• «qué Bolotnaya»: una referencia a acontecimientos de hace casi quince años; representa alrededor de medio punto porcentual de todas las restricciones;
• «matar a tiros a ocho compañeros de trabajo»: exactamente ocho. No aparecen «siete» ni «nueve», ni tampoco amigos, conocidos o compañeros de universidad. El autor buscó una explicación y no encontró ninguna: sí hubo en su día una noticia sobre ocho asesinatos, pero también otra sobre siete, aunque en un año distinto;
• «estadounidenses estúpidos»: el grupo más numeroso si se excluyen las palabrotas, con nada menos que 24 variantes de escritura;
• «oligarca caído en desgracia», «periodista perezoso» y la inesperada «el resultado es evidente».

Según la estimación del autor, aproximadamente un cinco por ciento de las secciones están relacionadas con la política.

Qué implica esto en la práctica

La principal lección va más allá de Apple y se aplica a cualquier producto que incluya sugerencias, autocompletado o generación de texto. En cuanto una interfaz empieza a proponer palabras al usuario, quien la desarrolla se convierte en coautor de sus mensajes, y una capa de protección pasa a ser una parte indispensable del producto.

Segunda observación: estas listas casi siempre se construyen de forma reactiva. Ocurre un incidente, aparece una noticia y alguien del equipo jurídico o de relaciones públicas pide añadir una frase. De ahí las rarezas puntuales como incluir «ocho» sin «siete»: la regla cubre un caso concreto, no una categoría de problemas. Una lista así es difícil de mantener, generaliza mal y genera falsos positivos como «el resultado es evidente».

Tercero: las propias listas de bloqueo se convierten en una fuente de riesgo reputacional. Basta con que alguien las extraiga y publique para que la empresa se encuentre con una colección de curiosidades a partir de la cual se juzga su funcionamiento interno. El autor del post concluye que es una ilustración perfecta de los disparates que producen los procesos empresariales de una gran compañía.

Limitaciones

Conviene recordar que lo que sabemos de la lista procede únicamente del post y del propio sitio web. No hemos verificado de forma independiente si la extracción está completa y actualizada, ni cómo utiliza Apple exactamente estas frases. Las cifras del ruso corresponden al recuento del autor, y los motivos para incluir determinadas frases siguen siendo conjeturas.

Una lección para los equipos

Si desarrolláis sugerencias o generación de texto, asignad un responsable a la lista de bloqueo y revisadla periódicamente. Registrad el motivo y la fecha de cada incorporación. Agrupad las variantes en lugar de acumular frases sueltas. Y asumid desde el principio que, tarde o temprano, alguien leerá vuestra lista.