Procurador-Geral da Flórida investiga OpenAI: ChatGPT teria ajudado a planejar tiroteio em universidade

Генеральный прокурор штата Флорида объявил о начале официального расследования в отношении OpenAI. Поводом стала трагедия в кампусе Университета штата Флорида: в апреле прошлого года неизвестный открыл огонь по студентам, убив двух человек и ранив ещё пятерых. По имеющимся данным, перед совершением нападения преступник активно использовал ChatGPT — и следствие намерено выяснить, могла ли компания предотвратить трагедию.

Инцидент произошёл в одном из крупнейших университетов Юга США — Florida State University в Таллахасси. Апрельская стрельба мгновенно стала поводом для общенациональных дискуссий о безопасности в кампусах. Когда же выяснилось, что нападавший предположительно использовал ChatGPT при планировании атаки, дискуссия вышла на новый уровень: под вопросом оказалась ответственность технологических компаний за действия своих пользователей.

Семья одного из погибших объявила о намерении подать гражданский иск против OpenAI. По словам адвокатов, компания создала продукт, который мог быть использован для причинения вреда, и не предприняла достаточных мер для предотвращения подобного сценария. Теперь к делу присоединяется государство: расследование генерального прокурора носит официальный характер и может повлечь юридические последствия для компании.

OpenAI пока не прокомментировала начало расследования. Компания давно сталкивается с критикой защитных механизмов своих продуктов: несмотря на многочисленные фильтры, исследователи и журналисты периодически демонстрируют способы получить от ChatGPT потенциально опасный контент. Ключевой вопрос для следствия: знала ли компания о подобных рисках и что предприняла.

С юридической точки зрения дело непростое. В США действует раздел 230 Закона о приличиях в коммуникациях, традиционно защищающий интернет-платформы от ответственности за контент пользователей. Однако ChatGPT — не пассивная платформа: он сам генерирует контент в ответ на запросы.

Именно этот нюанс открывает правовую нишу, которую пытаются использовать истцы. Эксперты расходятся во мнениях о применимости раздела 230 к генеративным ИИ-системам. Расследование во Флориде выделяется на фоне других попыток привлечь разработчиков ИИ к ответственности: масштаб трагедии и степень предполагаемой вовлечённости ИИ-системы в подготовку насилия беспрецедентны.

Если следствие установит прямую связь между ChatGPT и планированием атаки, прецедент способен изменить регуляторный ландшафт для всей отрасли. Для OpenAI происходящее — серьёзный вызов. Компания активно позиционирует себя как создателя безопасного ИИ и сотрудничает с регуляторами по всему миру.

Уголовное расследование на уровне штата способно нанести репутационный ущерб, не менее болезненный, чем финансовые санкции. Гражданский иск семьи погибшего, если его примет суд, создаст прецедент для потока аналогичных дел. Вопрос об ответственности разработчиков ИИ за криминальное использование их систем становится одним из ключевых для будущего регулирования отрасли.