Senadores dos EUA querem transformar em lei as “linhas vermelhas” da Anthropic sobre armas autônomas

Конфликт между Anthropic и американскими военными вышел за рамки судебного зала и добрался до Капитолийского холма. Сенатор-демократ Адам Шифф из Калифорнии работает над законопроектом, который должен закрепить в федеральном законе «красные линии» компании — принципы, запрещающие использование её ИИ-систем для создания автономного летального оружия и автоматического принятия решений о жизни и смерти без участия человека в контуре управления. Предыстория конфликта уходит корнями в несогласие Anthropic с условиями военного контракта.

Когда Министерство обороны США потребовало доступа к AI-моделям компании без оговорок о допустимых сценариях применения, Anthropic отказала. Компания настаивала: её технологии не могут использоваться для автономных летальных решений — то есть ситуаций, когда алгоритм самостоятельно, без участия оператора-человека, определяет цели для поражения или санкционирует иные критические военные действия. По мнению Anthropic, это не корпоративный каприз, а базовый принцип ответственной разработки ИИ.

Ответ Белого дома оказался жёстким: администрация Трампа занесла Anthropic в список поставщиков, представляющих угрозу цепочке поставок, фактически заблокировав сотрудничество компании с государственными структурами. Anthropic ответила судебным иском, обвинив правительство в нарушении конституционных прав компании. Судебное противостояние продолжается.

Именно в этот момент в дело вступил Конгресс. Сенатор Шифф заявил, что намерен перевести этические ограничения Anthropic из разряда корпоративной политики в разряд федерального закона. Его будущий законопроект должен гарантировать: ни один AI-алгоритм не вправе самостоятельно принимать решения о применении силы — окончательное слово всегда остаётся за человеком.

Принцип «человек в контуре управления» (human-in-the-loop) давно стал отраслевой рекомендацией, однако в американском законодательстве он нигде прямо не закреплён — и законопроект Шиффа должен исправить это упущение. Параллельно сенатор Элисса Слоткин из Мичигана внесла отдельный законопроект, ограничивающий возможности Министерства обороны применять искусственный интеллект для массовой слежки за гражданами США. Это второй фронт той же проблемы: насколько далеко военные могут зайти в применении AI-инструментов, когда объектом наблюдения становятся не иностранные противники, а собственные граждане страны?

Оба законопроекта возникли не в вакууме. Они отражают нарастающую обеспокоенность законодателей темпами интеграции ИИ в военную сферу. На фоне того как Пентагон активно заключает контракты с AI-компаниями — от Palantir до Scale AI — вопрос о границах допустимого становится всё острее.

Характерно, что инициативу проявляют именно демократы: в нынешней политической конфигурации это означает, что законопроекты встретят серьёзное сопротивление республиканского большинства, которое в целом поддерживает расширение военных AI-программ. Для Anthropic ситуация неоднозначна. Законодательное закрепление её принципов стало бы победой и легитимацией всего подхода компании к безопасности ИИ.

Однако нахождение в «чёрном списке» реально угрожает государственным контрактам и коммерческим перспективам в оборонном секторе. Происходящее — наглядный сигнал: индустрия подошла к точке, где добровольных корпоративных кодексов недостаточно. Когда крупнейший разработчик AI-моделей судится с Пентагоном, а сенаторы спешат писать законы, обществу нужны чёткие правила — об ИИ и войне, о машинах и праве на жизнь.