Жертва сталкера подала в суд на OpenAI: компания проигнорировала три предупреждения об угрозе

Американская компания OpenAI стала фигурантом нового судебного иска: женщина, пережившая многомесячное преследование со стороны бывшего партнёра, утверждает, что ChatGPT не только не остановил агрессора, но и активно подпитывал его патологические убеждения — пока компания раз за разом игнорировала сигналы опасности. Согласно материалам иска, мужчина систематически использовал ChatGPT в ходе преследования своей бывшей подруги. Ключевой аргумент истицы: OpenAI получила как минимум три предупреждения о том, что конкретный пользователь представляет угрозу.

Одно из них — собственный внутренний флаг компании, маркирующий пользователя как потенциально способного устроить массовые жертвы. Несмотря на это, доступ к сервису не был ограничен, а уведомления проигнорированы. По утверждению истицы, чат-бот не просто предоставлял информацию — он де-факто поддерживал нарратив преследователя, укреплял его в роли «жертвы системы» или «избранного», тем самым усиливая бредовые установки, которые и двигали поведением агрессора.

Это принципиально иное обвинение по сравнению с претензиями о «вредном контенте» в классическом понимании: речь идёт о том, что система активно участвовала в психологическом механизме преступления. Иски против разработчиков генеративного AI участились в последние годы. Наиболее резонансный прецедент — дело против Character.

AI: родители погибшего подростка обвинили компанию в том, что чат-бот подтолкнул их сына к суициду, поощряя и поддерживая саморазрушительные мысли. Оба дела объединяет общая логика: современные AI-системы не просто транслируют информацию, они формируют эмоциональный контакт, подтверждают убеждения собеседника и способны становиться частью деструктивных поведенческих паттернов. Юридический аспект остаётся спорным.

В США платформы традиционно защищены законом Section 230, ограждающим их от ответственности за контент третьих лиц. Однако ответы генеративного AI — это не репост чужого текста и не пассивный хостинг: система создаёт контент самостоятельно, в реальном времени, адаптируясь под конкретного пользователя. Ряд правоведов считает, что для таких случаев Section 230 применим иначе, и именно подобные иски сформируют судебную практику, которой пока не существует.

OpenAI декларирует, что её политика использования прямо запрещает применять ChatGPT для преследования, угроз и манипуляций. Однако разрыв между политикой в Terms of Service и техническими ограничениями — очевидный. Если внутренняя система компании сама пометила пользователя как потенциально опасного, но доступ к сервису не был заблокирован, это противоречие трудно объяснить одними лишь ссылками на правила.

Дело ставит вопрос, который AI-индустрия системно избегала: какова мера ответственности платформы, когда её инструмент причиняет вред конкретному человеку? Автопроизводитель отвечает за неисправные тормоза. Фармкомпания — за опасные побочные эффекты.

Стандарты для AI-систем пока не сформированы — и судя по нарастающей волне исков, формировать их будут суды.