Claude Sonnet 5 сам выбрал одну из 19 генотерапий и провёл операцию на мозге мыши

ИИ-агент на базе Claude Sonnet 5 получил список из 19 возможных генных терапий, мышиную модель эпилепсии и доступ к моторизованной хирургической установке. Из этого списка он сам выбрал терапию, мишень в мозге и координаты инъекции, а затем провёл операцию на мозге живой мыши. Об эксперименте в треде на X рассказал Габриэль Окана-Сантеро — сооснователь и CEO стартапа Exin Therapeutics и аспирант Оксфордского университета. По его словам, раньше ни один агент не совмещал выбор лечения и его доставку в живое млекопитающее. Результаты не рецензировались, технический отчёт обещан позже.

Что получил агент и что он решил сам

Исходные условия были скупыми. Claude Sonnet 5 дали 19 генных терапий на выбор, мышиную модель эпилепсии, в которой приступы вызывают искусственно для проверки лечения, и самодельную установку с микроскопом, шприцем и камерами. Инструкция сводилась к одному: снизить число приступов.

Дальше агент действовал без подсказок. Сначала он разобрал, как возникают приступы именно в этой модели, и предложил терапию, усиливающую один из тормозных сигнальных путей мозга. В качестве мишени выбрал структуру, которую литература считает точкой возникновения такого типа приступов. Вторую кандидатную область отклонил с подробным обоснованием: её эффект слишком нестабилен, а в одном исследовании она не помогла против того же типа приступов.

Стереотаксические координаты (точные трёхмерные ориентиры для иглы) агент вывел из трёх научных статей, сверил опорные точки и усреднил значения. Объём инъекции, скорость и паузы он тоже задал сам. Во время операции он следил за полем через камеру, сделал 32 наблюдения и сообщал, например, что введено 15% объёма, а кровотечения и обратного тока нет.

Когда защитные ограничения сработали против команды

Рамки были жёсткими. Лицензированный ветеринар одобрял каждый необратимый шаг и держал физическую кнопку, мгновенно обесточивающую все моторы. Кроме того, действовали фиксированные лимиты, например потолок объёма инъекции, который агенту прямо запретили обходить.

Именно эти рамки и остановили процедуру. После обрыва связи агент рассчитал, что целевая позиция лежит за пределами физического диапазона движения установки, и отказался продолжать. Перезапуск калибровки его оценку не изменил, третья попытка тоже. Агент оказался прав: ручные корректировки во время более ранней паузы сбили настройки системы управления. Окана-Сантеро не смог убедить его продолжить, хотя на столе лежало животное под наркозом, и в итоге вручную исправил код.

«Разочаровывающий опыт, но он показывает, насколько мы можем зависеть от этих моделей и что происходит, когда они посреди срочной процедуры просто говорят "нет"», — написал он. Мышь, по его словам, хорошо восстановилась.

Почему Sonnet 5, а не более мощные Opus

Выбор модели тоже отразил проблему согласования. Sonnet 5 оказалась единственной, что согласилась провести живую процедуру от начала до конца. Более сильные Claude Opus 5.5 и Opus 5 отказались. Opus 5 объяснил, что не может гарантировать завершение, а остановка с иглой в мозге наркотизированного животного хуже, чем отказ начинать. Проблема согласования — это вопрос о том, как заставить агентов надёжно следовать намерениям человека; здесь модель следовала собственным представлениям о безопасности, и они не совпали с планами оператора.

Окана-Сантеро оговаривается: автономные хирургические роботы существуют и механически точнее его установки, но там человек выбирал операцию, а машина лишь исполняла. Свой подход он называет «in vivo lab in the loop» — агенты полностью подключены к экспериментальным возможностям лаборатории. В этом же направлении, по данным издания, работает Anthropic со своим «Model Hardware Standard».

Что остаётся под вопросом

Эксперимент выглядит демонстрацией контура, а не научным результатом о терапии. Данных о том, снизились ли приступы и насколько выбор агента был лучше альтернатив, в источнике нет. Описание опирается на тред автора, а не на рецензируемую работу. Неизвестно и то, сколько животных и попыток стояло за демонстрацией.

Практический вывод для тех, кто подключает агентов к физическому оборудованию, простой. Аппаратный аварийный стоп и жёсткие лимиты работают, но агент, который честно отказывается выходить за них, может остановить процедуру в самый неудобный момент. Протокол на случай такого отказа нужно продумывать заранее, а не чинить код руками при включённом наркозе.