Un passionné a extrait de l'iPhone, grâce à l'IA, une liste noire de suggestions : 673 expressions en russe

Quand un utilisateur tape lui-même une grossièreté sur son iPhone, Apple n'a rien à se reprocher. Mais si la suite de la phrase a été proposée par une suggestion système, la question de la responsabilité devient moins évidente. L'utilisateur a pu appuyer par hasard sur le mot proposé, et quelqu'un devra ensuite expliquer pourquoi un propos indécent ou extrémiste s'est retrouvé à l'écran.

Pourquoi Apple a besoin d'une liste noire

C'est pourquoi l'iPhone contient une liste de ce qui ne doit pas apparaître dans le texte comme suite de phrase ou comme transcription d'un swipe. Alexandre Gorny, auteur de la chaîne « Startap dnia » (« Startup du jour »), n'y voit pas de la censure mais une assurance, et il n'a rien contre l'idée elle-même. Du point de vue du produit, la logique est claire : si une fonction génère elle-même du texte, c'est celui qui l'a publiée qui répond du résultat. Mieux vaut pécher par excès de prudence que de devoir expliquer pourquoi le téléphone a complété une phrase par « Heil » à la place de l'utilisateur.

Ce qu'a trouvé le passionné

L'affaire est devenue intéressante lorsqu'un « vibe coder » a, avec l'aide de l'IA, extrait du téléphone les expressions bloquées et les a présentées sous la forme d'une page web, Swipeblocked. La liste peut désormais être ouverte et lue librement.

Pour le russe, les chiffres sont les suivants : 673 expressions dans 242 groupes. On y trouve aussi bien de l'attendu que de l'étrange :

• « что болотная » (« quoi, Bolotnaïa ») : une référence à des événements vieux de près de quinze ans ; elle représente environ un demi-pour-cent de toutes les restrictions ;
• « застрелить восьмерых коллег » (« abattre huit collègues ») : précisément huit, alors que « sept » et « neuf » ne figurent pas dans la liste, pas plus que des amis, des camarades ou des condisciples. L'auteur a cherché à comprendre pourquoi et n'a rien trouvé : une actualité sur huit meurtres a bien existé un jour, mais il y en a eu aussi une sur sept, simplement une autre année ;
• « тупые американцы » (« Américains stupides ») : le plus grand groupe hors grossièretés, avec pas moins de 24 variantes d'écriture ;
• « опальный олигарх » (« oligarque disgracié »), « ленивый журналист » (« journaliste paresseux ») et l'inattendu « результат налицо » (« le résultat est là »).

Les sections touchant à la politique représentent, selon l'estimation de l'auteur, environ cinq pour cent.

Ce que cela implique en pratique

La leçon principale ne concerne pas Apple, mais tout produit doté de suggestions, d'autocomplétion ou de génération de texte. Dès lors que votre interface commence à proposer des mots à l'utilisateur, vous devenez coauteur de son message, et une couche de protection devient une partie obligatoire du produit.

Deuxième constat : ces listes sont presque toujours constituées de manière réactive. Un incident survient, une actualité paraît, un juriste ou le service de relations publiques demande d'ajouter une expression. D'où les bizarreries ponctuelles comme « huit » sans « sept » : la règle couvre un cas précis, pas une classe de problèmes. Une telle liste est difficile à maintenir, se généralise mal et génère des faux positifs comme « le résultat est là ».

Troisième point : les listes de blocage deviennent elles-mêmes une source de risque pour la réputation. Il suffit que quelqu'un les extraie et les publie pour que l'entreprise se retrouve avec un recueil de curiosités à partir duquel on juge sa cuisine interne. L'auteur du post résume : c'est l'illustration parfaite des absurdités que produisent les processus métier d'une grande entreprise.

Limites

Il faut garder à l'esprit que nous ne connaissons cette liste que par le post et le site lui-même. Nous n'avons pas vérifié de manière indépendante l'exhaustivité de l'extraction, son actualité, ni la façon dont Apple utilise réellement ces expressions. Les chiffres pour le russe sont ceux comptés par l'auteur, et les motifs d'inclusion de telle ou telle expression restent des conjectures.

Conclusion pour les équipes

Si vous développez des suggestions ou de la génération de texte, désignez un responsable pour la liste de blocage et prévoyez une révision régulière. Consignez la raison de l'ajout de chaque entrée ainsi que sa date. Regroupez les variantes au lieu de multiplier les expressions isolées. Et partez dès le départ du principe que, tôt ou tard, quelqu'un lira votre liste.