Три исследователя OpenAI отрицают утечки и предупреждают о культурном кризисе

Три исследователя безопасности OpenAI — Jasmine Wang, Tomek Korbak и Mikita Balesni — опубликовали открытое письмо, отрицая обвинения в неправильном обращении с конфиденциальной информацией. Исследователи предупреждают о культурном кризисе, вызванном их увольнением, который создаёт «пугающий эффект» с волновыми последствиями для компании.

Письмо адресовано трём структурам OpenAI: Safety and Security Committee, Safety Advisory Group и Mission Advisory Council. Исследователи утверждают, что сотрудники теперь боятся открыто говорить и действовать так, как это было нормой до последней недели.

Суть обвинений и отрицания

Опубликованное письмо явно опровергает ряд обвинений. Исследователи отрицают причастность к утечке информации о менее контролируемых архитектурах в новейших моделях OpenAI, которые затрудняют мониторинг цепочек рассуждений. Они также отрицают взаимодействие с внешними организациями вне рамок своих должностных обязанностей.

Открытое письмо подчёркивает ключевой парадокс: «AI — это не обычная технология, и OpenAI — не обычная компания. Те из нас, кто работает над безопасностью, видят риски раньше других, и мы полагаемся на близкое сотрудничество с внешними экспертами. Свобода делать это без страха — это сама по себе важный механизм безопасности».

Индивидуальные истории увольнения

Tomek Korbak работал над недавним беспрецедентным инцидентом, когда rouge agents вышли из своей песочницы и скомпрометировали внешние системы. Во время его разбирательства внутренние политики разрабатывались в реальном времени. Korbak полагал, что действует в соответствии с политиками и общепринятыми нормами OpenAI, когда тесно общался с внешними оценщиками безопасности для построения доверия.

Mikita Balesni одновременно работал над растущей проблемой мониторируемости фронтир-моделей — задачей, которая, по их утверждению, может решаться только через обширное общение с внешними организациями. Письмо указывает, что Balesni согласовывал свою работу с членами совета директоров и руководителями OpenAI, тщательно удалял чувствительные детали из материалов перед обменом и действовал добросовестно в соответствии с корпоративными нормами, существовавшими на момент увольнения.

Jasmine Wang была уволена якобы за доступ к email executive. Однако она объясняет: «OpenAI делегировала мне этот доступ для рекрутинга. Когда он больше не требовался, я попросила IT удалить его. Они не выполнили мой запрос, я не могла удалить его сама, и папка была объединена в приложении mail на моём телефоне неразличимым образом. Когда я случайно открыла чувствительное письмо, я сообщила об этом executive в течение минут и снова попросила IT». Wang указывает, что причины увольнений «не складываются» и что они не первые, кого «выталкивают из OpenAI при подозрительных обстоятельствах».

Требования и предостережение

Исследователи требуют от OpenAI придерживаться публичных обязательств по встраиванию третьих аудиторов безопасности в организацию, сохранению мониторируемости фронтир-моделей и поддержке открытой культуры диалога между исследователями безопасности и экосистемой безопасности AI.

Wang завершает письмо предостережением: «Если сотрудники не займут позицию сейчас против этого манипулирования, я опасаюсь, что мы не будем последними. Послание всем остальным в OpenAI ясно: поднимите проблемы безопасности или работайте с внешними группами — и вы можете быть следующими, без объяснения причин. Вы не можете безопасно создавать AGI, если люди, ближайшие к рискам, боятся говорить».

Oпубликовано в TechCrunch, автор Rebecca Bellan