OpenAI и Anthropic попросили запрещать опасные модели ИИ на государственном уровне

OpenAI и Anthropic направили открытое письмо в Управление по науке и технологической политике Белого дома. Это необычный шаг: две крупнейшие компании в области ИИ сами просят государство их жестче контролировать и регулировать.

Суть письма и просьба

Компании просят ввести государственные ограничения на разработку и внедрение моделей ИИ, которые несут определенные риски. Фактически OpenAI и Anthropic просят, чтобы у американского правительства было право и механизм для запрета разработчикам внедрять новые модели, если они представляют угрозу для безопасности или национальных интересов. Это не просьба о мягком регулировании или самокодексе индустрии. Компании просят именно запреты — когда государство может сказать "нет, вы не можете выпустить эту модель". Похоже на то, как работает контроль над ядерными технологиями, авиацией, лекарствами или пищевыми добавками: прежде чем запустить в массовое производство, нужна проверка и одобрение. Такой подход гарантирует, что мощные системы не попадут в руки тех, кто может их использовать во вред.

Почему они это предлагают

Дарио Амодеи, главный исполнительный директор Anthropic, подчеркнул, что недостаточный государственный контроль и слабая проверка заказчиков могут привести к серьезным угрозам для общества. Компания видит проблему в том, что сейчас любой может получить доступ к мощной модели без достаточной проверки того, как её будут использовать, для каких целей и кто именно будет работать с системой. Речь идёт не только о маргинальных случаях или теоретических сценариях.

OpenAI и Anthropic смотрят на экосистему стартапов и компаний, которые быстро растут и конкурируют друг с другом в гонке к финансированию и рыночной доле. Без государственных ограничений эта конкуренция может привести к тому, что кто-то выпустит опасную модель без проверок, просто чтобы быстрее выйти на рынок и привлечь инвестиции. Спешка — враг безопасности.

Основные риски, которые волнуют обе компании: Использование моделей для создания дезинформации, манипуляции и фейков в масштабах общества Внедрение без проверки целей, честности заказчика и фактических намерений Отсутствие механизма штрафов, запретов и ответственности за нарушения и утечки Утечка технологий в руки криминальных организаций и враждебных государств * Применение для автоматизированного кибератак, фишинга и взлома систем критической инфраструктуры ## Парадокс конкуренции и барьеры входа Здесь срабатывает интересный экономический парадокс. Компании, которые вкладывают миллиарды в R&D и достигли мирового лидерства в ИИ, просят государство ввести высокие барьеры входа для конкурентов. Если потребуется государственное одобрение для каждой новой модели, маленькие стартапы просто не смогут конкурировать — у них нет ресурсов и связей в Вашингтоне для прохождения бюрократического процесса.

А OpenAI и Anthropic уже имеют отношения с властями и могут договориться о более мягких условиях или ускоренном рассмотрении. Но это не только откровенная бизнес-стратегия. Амодеи, Альтман и руководство обеих компаний, похоже, действительно верят, что очень мощный ИИ требует государственного надзора.

Если они правы в этой оценке, то регулирование было бы логично — как для авиации, фармацевтики или ядерной энергетики.

Что будет дальше Реакция Белого дома пока неизвестна.

Но письмо попадает в момент, когда администрация США активнее внимания к ИИ-политике и возможных рисков. Если власти прислушаются к этому обращению, индустрия ИИ изменится кардинально. Малые стартапы будут ждать месяцы или годы государственного одобрения. Процесс выпуска новой модели замедлится. Быстрые инновации могут стать медленнее. Но одновременно снизятся риски безконтрольного выпуска действительно опасных систем, которые могут быть использованы для дезинформации или нанесения вреда. Альтернатива — продолжить нынешнюю дикую конкуренцию и надеяться, что внутренняя ответственность компаний будет достаточной. История показывает, что в быстро растущих и перспективных областях (социальные сети, финтех, беспилотные авто) такая надежда часто обманывает. Рынок не всегда самораспределяется оптимально для общества.