RSI стал новой целью AI-лабораторий, но её определение остаётся размытым

Рекурсивная самоулучшение стремительно вытесняет AGI из повесток дня AI-лабораторий. Концепция остаётся столь же размытой и неуловимой, как и её предшественница.

Что такое RSI RSI (Recursive

Self-Improvement) — это гипотетическая способность AI-системы анализировать и улучшать собственный код без человеческого вмешательства. Система становится всё мощнее и способнее, пока не достигнет точки, за которой человечество уже не сможет её контролировать или понять, что именно произошло. В теории это звучит просто и логично: улучшиться — значит работать быстрее, точнее, эффективнее и надёжнее. На практике сказать, действительно ли система улучшилась или просто почувствовала себя увереннее в своих способностях, оказывается крайне сложно. Как отличить настоящий прогресс от иллюзии развития? Кто проверяет?

Почему AGI уступает место RSI Несколько лет назад AGI казался неизбежным финалом развития AI.

Общий искусственный интеллект — человекоподобный и универсальный, способный решать любую задачу на уровне человека или выше. Но определение было слишком чётким и недостижимым, как горизонт. Десятилетие за десятилетием AGI отодвигался всё дальше в будущее. RSI предлагает другой путь. Не надо ждать AGI — достаточно, чтобы система научилась улучшать себя самостоятельно. Это промежуточная цель, которая выглядит одновременно более реалистичной и более пугающей для инвесторов и политиков. Преимущества RSI очевидны: Более реалистичная промежуточная цель, чем AGI Легче убедить инвесторов в жизнеспособности проекта Не требует ждать ещё два-три десятилетия Можно начать с малых шагов самоулучшения уже сейчас * Выглядит менее угрожающе, чем AGI Вот почему даже консервативные лаборатории переключились на RSI в своих долгосрочных планах и публичных заявлениях.

Проблема определения (которую никто не решает) Казалось бы, всё просто и понятно.

Но тут начинаются проблемы. Один исследователь говорит о самоулучшении через оптимизацию весов нейросети. Другой имеет в виду автоматическую отладку кода и исправление ошибок. Третий — перестройку архитектуры модели целиком. Четвёртый просто говорит о том, что система становится лучше в своей основной задаче. Каждый из них прав, но каждый говорит о совершенно разных вещах. И при этом все называют это одним словом: RSI.

«Под RSI каждый понимает разные вещи.

Это в точности то, что было с AGI десять лет назад — экзистенциальный риск от чего-то, что никто не может определить». Когда определение размыто, становится невозможно ставить конкретные цели, измерять прогресс или даже оценивать реальный риск. Лаборатории говорят об RSI так, как если бы это была единая цель и единый финиш, а на самом деле речь идёт о десяти разных проектах, которые называют одним именем.

Что это значит RSI — не злой замысел и не заговор, а честный признак

того, что AI-лабораториям нужна промежуточная веха между сегодняшними LLM и философской AGI. История повторяется: когда одна неопределённая цель (AGI) становится недостижимой, рождается другая (RSI). Вопрос остаётся тем же: как измерять то, что не определено? Как управлять рисками от чего-то, что может означать любые действия? Пока что лучшего ответа на этот вопрос нет. А пока лаборатории говорят об RSI, как если бы это была уже решённая проблема.