Все ИИ-боты придумывают одного и того же персонажа — феномен Элиаса Торна объяснили

Десятки ИИ-систем от разных разработчиков вставляют в генерируемые истории одного и того же несуществующего персонажа — Элиаса Торна. Опубликованное исследование объясняет, откуда он берётся.

Кто такой Элиас Торн Первым феномен заметил и задокументировал программист Дэниел Мэй.

Проводя эксперименты с разными ИИ-ботами, он обнаружил: когда система генерирует художественный текст или придумывает главного героя с нуля, в историях раз за разом появляется некий Элиас Торн. Имя без биографии, без прообраза в реальном мире, без объяснения. Мэй начал публично фиксировать случаи, и к нему присоединились другие пользователи. Стало очевидно: Торн возникает не в одной системе, а в ботах разных компаний — несмотря на то что они разработаны независимо и не связаны общим кодом.

Откуда берётся «универсальный герой»

По выводам опубликованного отчёта, феномен, вероятнее всего, связан с механизмами безопасности, которые встраиваются в модели на этапе обучения. Одна из задач таких механизмов — не позволять нейросети упоминать имена реальных людей в вымышленных контекстах. Это снижает риски дипфейков, ложных высказываний и нарушения приватности.

Однако чтобы выполнять подобный запрет, модели нужна альтернатива — набор «безопасных» имён, к которым можно обращаться без риска. Элиас Торн, по всей видимости, стал таким универсальным placeholder-персонажем. Несколько факторов делают его удобным: Имя нейтрально — без явной национальности, этнической или культурной окраски Оно не совпадает ни с одной известной публичной фигурой Звучит достаточно «литературно», чтобы органично вписаться в художественный текст Встречается у систем с принципиально разными архитектурами и от разных разработчиков То, что разные модели пришли к одному и тому же имени, указывает либо на пересечение обучающих датасетов, либо на то, что safety-алгоритмы независимо конвергируют к схожим решениям при одинаковых критериях «безопасности».

Что феномен говорит об индустрии На первый взгляд это курьёз.

На деле — симптом. Если конкурирующие системы, разработанные в разных компаниях, независимо порождают один и тот же артефакт, значит под капотом у них больше общего, чем принято считать. Феномен Торна ставит конкретные вопросы: насколько разнообразны обучающие данные у разных игроков AI-рынка? Насколько уникальны их подходы к безопасности, если те приводят к идентичным паттернам? Внутренние ограничители моделей оказываются не невидимым барьером, а структурой, оставляющей следы в выходных данных — достаточно заметные, чтобы их нашёл внимательный программист.

Что это значит Элиас Торн — не баг одной компании, а коллективный артефакт целой индустрии.

Его существование показывает: конкурирующие ИИ-системы обучают по схожим шаблонам, и эти шаблоны видны снаружи. Для пользователей — любопытная деталь о природе современных ИИ. Для разработчиков — напоминание: механизмы безопасности оставляют следы, которые находят те, кто ищет.