OpenAI подтверждает увольнение трёх исследователей: это о доверии, не о безопасности

OpenAI отстоит своё решение об увольнении трёх исследователей безопасности ИИ. По словам компании, Jasmine Wang, Tomek Korbak и Mikita Balesni были уволены за 'серьёзное нарушение доверия' и нарушение внутренней политики обращения с чувствительной информацией. При этом OpenAI подчёркивает, что решение не связано с попытками сотрудников говорить о проблемах безопасности. Корпорация опубликовала официальное заявление в пятницу через пост в X, непосредственно ответив на критику уволенных сотрудников.

Позиция исследователей и открытое письмо

Уволенные Jasmine Wang, Tomek Korbak и Mikita Balesni опубликовали открытое письмо в четверг, заявив, что 'действовали в соответствии с миссией OpenAI и в соответствии с рабочими нормами того времени'. Они требовали от компании большей прозрачности о причинах увольнения и просили публичного признания их работы. По версии исследователей, они не совершали никакого серьёзного нарушения — всё дело было исключительно в том, что они критиковали политику безопасности ИИ и поднимали вопросы о потенциальных рисках разработки саморазвивающихся систем, которые могут стать опасными для человечества.

Ответ OpenAI: расширенное расследование

OpenAI в своём ответе заявила, что её внутреннее расследование обнаружило нарушения, выходящие 'сверх того, что указано в письме' исследователей. Однако компания отказалась раскрыть детали этих нарушений. Вместо этого компания лишь указала на то, что уволенные сотрудники нарушили 'ясные политики по обращению с чувствительной информацией'. Такой подход OpenAI вызвал недовольство, так как читается как попытка скрыть истинные мотивы расставания с критиками.

Давление на AI-индустрию: безопасность в фокусе

История с OpenAI происходит на фоне растущих требований к политикам безопасности в AI-компаниях и усилившихся дебатов о том, как должна развиваться искусственный интеллект. После резонансных инцидентов, включая взлом платформы Hugging Face, сотрудники ведущих AI-лабораторий всё чаще требуют замедления темпов разработки и более серьёзного подхода к последствиям создания саморазвивающихся систем.

Много специалистов внутри AI-компаний теперь открыто говорят о необходимости тщательного анализа потенциальных рисков при развёртывании передовых ИИ-систем. Они указывают на опасность систем, способных к самосовершенствованию без должного контроля и понимания их реальных возможностей.

Разрастающийся конфликт между OpenAI и исследователями Jasmine Wang, Tomek Korbak и Mikita Balesni отражает более широкую дискуссию в индустрии о том, как компании должны реагировать на внутренних критиков, поднимающих вопросы безопасности ИИ. Это столкновение символизирует напряжение между необходимостью инноваций и требованиями обеспечения безопасности развивающихся технологий искусственного интеллекта.