Entusiasta usa IA para extrair lista de sugestões bloqueadas do iPhone: 673 frases em russo

Quando alguém escreve algo ofensivo por conta própria em um iPhone, ninguém reclama com a Apple. Mas, se uma sugestão do sistema completa a frase, a responsabilidade deixa de ser tão clara. O usuário pode simplesmente ter tocado em uma palavra sugerida por acidente, e depois alguém terá de explicar como uma declaração obscena ou extremista foi parar na tela.

Por que a Apple tem uma lista de bloqueio

É por isso que o iPhone contém uma lista de expressões que não devem aparecer como continuação de uma frase nem como resultado da digitação por deslizamento. Alexander Gorny, autor do canal “Startup do Dia”, considera isso uma medida de proteção, não censura, e não tem nada contra a ideia em si. Do ponto de vista do produto, a lógica é compreensível: se uma função gera texto por conta própria, quem a lançou responde pelo resultado. É melhor pecar pelo excesso de cautela do que ter de explicar depois por que o telefone completou a mensagem do usuário com “heil”.

O que o entusiasta encontrou

A parte interessante começou quando um desenvolvedor que pratica vibe coding usou IA para extrair do telefone as expressões bloqueadas e apresentá-las em uma página chamada Swipeblocked. Agora, qualquer pessoa pode abrir a lista e lê-la.

Em russo, os números são estes: 673 frases em 242 grupos. Algumas entradas são previsíveis; outras são estranhas:

• “que Bolotnaya” — uma referência a acontecimentos de quase quinze anos atrás; responde por cerca de meio por cento de todas as restrições;
• “matar oito colegas de trabalho a tiros” — exatamente oito. Não há “sete” nem “nove” na lista, tampouco amigos, conhecidos ou colegas de faculdade. O autor procurou uma explicação e não encontrou: de fato, houve uma notícia sobre oito assassinatos, mas também houve uma sobre sete, só que em outro ano;
• “americanos estúpidos” — o maior grupo, excluindo os palavrões, com nada menos que 24 variantes de escrita;
• “oligarca caído em desgraça”, “jornalista preguiçoso” e a inesperada “o resultado é evidente”.

Na estimativa do autor, cerca de cinco por cento das seções têm relação com política.

O que isso significa na prática

A principal lição vai além da Apple e vale para qualquer produto com sugestões, preenchimento automático ou geração de texto. Assim que sua interface começa a sugerir palavras ao usuário, você se torna coautor das mensagens dele, e uma camada de proteção passa a ser parte indispensável do produto.

Segunda observação: listas assim quase sempre são construídas de forma reativa. Acontece um incidente, surge uma notícia, e alguém do jurídico ou de relações públicas pede a inclusão de uma frase. Daí vêm peculiaridades pontuais como “oito” sem “sete”: a regra cobre um caso específico, não uma categoria de problemas. Uma lista dessas é difícil de manter, generaliza mal e gera falsos positivos como “o resultado é evidente”.

Terceiro: as próprias listas de bloqueio acabam se tornando uma fonte de risco à reputação. Basta alguém extraí-las e publicá-las para que a empresa ganhe uma coleção de curiosidades usada para julgar seu funcionamento interno. O autor do post conclui que essa é uma ilustração perfeita dos absurdos produzidos pelos processos de negócio de uma grande empresa.

Limitações

Vale lembrar que tudo o que sabemos sobre a lista vem apenas do post e do próprio site. Não verificamos de forma independente se a extração está completa ou atualizada, nem como exatamente a Apple usa essas frases. Os números referentes ao russo são a contagem do autor, e os motivos para incluir determinadas frases continuam sendo suposições.

Uma lição para as equipes

Se você desenvolve sugestões ou geração de texto, defina um responsável pela lista de bloqueio e revise-a regularmente. Registre o motivo e a data de cada inclusão. Agrupe as variantes em vez de acumular frases isoladas. E parta do princípio de que, mais cedo ou mais tarde, alguém vai ler sua lista.