Энтузиаст с помощью ИИ вытащил из iPhone чёрный список подсказок: 673 фразы на русском

Когда человек сам набирает на iPhone какую-нибудь гадость, к Apple претензий нет. Но если продолжение фразы предложила системная подсказка, вопрос об ответственности уже не такой очевидный. Пользователь мог просто случайно нажать на предложенное слово, а потом кому-то придётся объяснять, откуда на экране взялось неприличное или экстремистское высказывание.

Зачем Apple чёрный список

Поэтому внутри iPhone лежит перечень того, что не должно появляться в тексте как продолжение фразы или расшифровка свайпа. Автор канала «Стартап дня» Александр Горный называет это не цензурой, а страховкой, и против самой идеи он ничего не имеет. С точки зрения продукта логика понятна: если функция сама генерирует текст, за результат отвечает тот, кто её выпустил. Лучше перестраховаться, чем потом разбираться, почему телефон дописал «хайль» за пользователя.

Что нашёл энтузиаст

Интересное началось, когда один вайбкодер с помощью ИИ извлёк из телефона заблокированные словосочетания и оформил их в виде лендинга Swipeblocked. Теперь список можно просто открыть и читать.

По русскому языку цифры такие: 673 фразы в 242 группах. Среди них есть и вполне ожидаемое, и странное:

• «что болотная» — отсылка к событиям почти пятнадцатилетней давности; на неё приходится около полупроцента всех ограничений;
• «застрелить восьмерых коллег» — именно восьмерых, а «семерых» и «девятерых» в списке нет, как нет ни друзей, ни приятелей, ни однокурсников. Автор поискал, почему так, и ничего не нашёл: новость про восемь убийств когда-то действительно была, но была и про семь, только в другой год;
• «тупые американцы» — самая большая группа без учёта мата, целых 24 варианта написания;
• «опальный олигарх», «ленивый журналист» и неожиданный «результат налицо».

Околополитических разделов, по оценке автора, процентов пять.

Что из этого следует на практике

Главный урок не про Apple, а про любой продукт, где есть подсказки, автодополнение или генерация текста. Как только ваш интерфейс начинает предлагать пользователю слова, вы становитесь соавтором его сообщения, и защитный слой превращается в обязательную часть продукта.

Второе наблюдение: такие списки почти всегда собираются реактивно. Случился инцидент, появилась новость, кто-то из юристов или PR-отдела попросил добавить фразу. Отсюда и точечные странности вроде «восьмерых» без «семерых»: правило закрывает конкретный случай, а не класс проблем. Такой список трудно поддерживать, он плохо обобщается и порождает ложные срабатывания вроде «результата налицо».

Третье: блок-листы и сами оказываются источником репутационного риска. Достаточно, чтобы кто-то их извлёк и опубликовал, и компания получает подборку курьёзов, по которой судят о её внутренней кухне. Автор поста резюмирует, что это идеальная иллюстрация той дичи, которую рождают бизнес-процессы большой компании.

Ограничения

Стоит помнить, что мы знаем о списке только из поста и самого сайта. Полноту выгрузки, её актуальность и то, как именно Apple использует эти фразы, независимо мы не проверяли. Цифры по русскому языку — это то, что насчитал автор, а мотивы включения конкретных фраз остаются догадками.

Вывод для команд

Если вы делаете подсказки или генерацию текста, заведите у блок-листа владельца и регулярный пересмотр. Фиксируйте причину добавления каждой записи и дату. Группируйте варианты вместо россыпи отдельных фраз. И сразу исходите из того, что рано или поздно ваш список кто-нибудь прочитает.