Пентагон против Anthropic: кто установит правила для военного ИИ?

Пентагон против Anthropic: кто установит правила для военного ИИ?

Напряженный конфликт между Министерством обороны США и стартапом Anthropic достиг своей кульминации, поставив острый, но крайне важный вопрос: кто должен устанавливать рамки для применения искусственного интеллекта в военных целях — исполнительная власть, частные компании или Конгресс и более широкий демократический процесс? Ситуация вокруг отказа Anthropic предоставить Пентагону неограниченный доступ к своим системам ИИ, включая возможность использования для внутренней слежки и автономного наведения оружия, выявила глубокие разногласия в подходах к регулированию этой перспективной технологии.

Конфликт разгорелся, когда министр обороны Пит Хегсет, как сообщается, поставил генеральному директору Anthropic Дарио Амодеи ультиматум: либо компания снимает ограничения на использование своих ИИ-систем Министерством обороны, либо сталкивается с последствиями. Anthropic отказалась пересечь две принципиальные линии: позволить своим моделям использоваться для внутренней слежки за гражданами США и для полностью автономного военного наведения. Хегсет, в свою очередь, выразил несогласие с тем, что он назвал «идеологическими ограничениями», встроенными в коммерческие ИИ-системы, утверждая, что определение законного военного применения должно быть ответственностью правительства, а не поставщика. «Мы не будем использовать модели ИИ, которые не позволят вам вести войны», — заявил он на недавней конференции.

В своей основе этот спор можно рассматривать как разногласие по поводу закупок. В условиях рыночной экономики американские военные определяют, какие продукты и услуги они хотят приобрести, а компании решают, что они готовы продать и на каких условиях. Ни одна из сторон не может быть названа неправой, когда она занимает свою позицию. Если продукт не соответствует оперативным потребностям, правительство может обратиться к другому поставщику. Если компания считает определенные виды использования своей технологии небезопасными, преждевременными или несовместимыми со своими ценностями или допустимым уровнем риска, она может отказаться от их предоставления. Например, коалиция компаний подписала открытое письмо с обязательством не использовать роботов общего назначения в военных целях. Такая базовая симметрия является неотъемлемой чертой свободного рынка.

Ситуация становится более сложной и тревожной, когда речь заходит о решении признать Anthropic «риском для цепочки поставок». Этот инструмент предназначен для устранения реальных угроз национальной безопасности, таких как действия иностранных противников. Он не должен использоваться для внесения в черный список американской компании за отказ от предпочтительных условий контракта, предложенных правительством. Использование этой власти в таком ключе знаменует собой значительный сдвиг — от разногласия по поводу закупок к применению принудительного рычага. Хегсет объявил, что «незамедлительно ни один подрядчик, поставщик или партнер, ведущий бизнес с Министерством обороны США, не может осуществлять какую-либо коммерческую деятельность с Anthropic». Эти действия почти наверняка столкнутся с юридическими вызовами, но они повышают ставки далеко за пределы потери одного контракта с Пентагоном.

Важно также различать два существенных вопроса, поднятых Anthropic. Первое — противодействие внутренней слежке за гражданами США — затрагивает хорошо установленные права и свободы. Второе — отказ от автономного наведения оружия — связано с более сложными этическими и практическими соображениями, касающимися ответственности за военные действия и риска непреднамеренной эскалации. Оба эти вопроса требуют глубокого общественного обсуждения и законодательного регулирования, а не кулуарных решений между представителями оборонного ведомства и технологическими компаниями.

Данный конфликт подчеркивает острую необходимость в установлении четкой законодательной базы и демократического надзора за разработкой и применением военного искусственного интеллекта. Вместо того чтобы полагаться на ультиматумы и скрытые механизмы, подобные обозначению «риска для цепочки поставок», Конгресс должен взять на себя ведущую роль в разработке прозрачных правил. Эти правила должны гарантировать, что развитие передовых технологий в военной сфере не будет происходить в ущерб гражданским свободам и этическим принципам. Баланс между необходимостью поддержания обороноспособности и защитой фундаментальных прав граждан является критически важным, и его достижение требует открытого диалога и ответственного законодательного контроля, а не односторонних решений исполнительной власти или технологических гигантов.