Дарио Амодеи: AI-подросток вот-вот разнесет наш уютный мир

Дарио Амодеи, кажется, решил, что коротких постов в соцсетях недостаточно для того, чтобы подготовить нас к грядущим переменам. Когда глава одной из самых дорогих и влиятельных AI-лабораторий мира выпускает текст объемом с небольшую повесть, это повод как минимум отложить дела и вчитаться. Сооснователь Anthropic опубликовал эссе под названием «Подростковый возраст технологий», и это не просто размышления на досуге, а полноценный манифест человека, который видит код будущего раньше остальных.

Амодеи не новичок в вопросах безопасности. Он ушел из OpenAI именно потому, что считал подход Сэма Альтмана слишком беспечным в плане рисков. Теперь, стоя у руля Anthropic, он открыто заявляет: человечество входит в фазу, которая проверит нас как биологический вид. Его метафора «подросткового возраста» технологий идеально описывает текущий хаос. Мы уже дали искусственному интеллекту огромную силу, но еще не научили его (и себя) ответственности. Это тот самый момент, когда подросток уже может сесть за руль спорткара, но еще не осознает, что бетонная стена впереди — это не декорация в видеоигре.

Главный вопрос, который ставит Амодеи: готовы ли наши социальные и государственные институты к «почти невообразимой мощи», которая станет реальностью в самое ближайшее время. Он говорит об этом не как о теоретической возможности через пятьдесят лет, а как о событии, которое буквально стучится в дверь. Пока общественность обсуждает, заменит ли нейросеть копирайтера или дизайнера, Амодеи смотрит на фундаментальные сдвиги в биологии, кибербезопасности и государственном управлении. Он видит в AI инструмент, способный как ускорить научный прогресс на столетия вперед, так и создать риски, к которым мы не выработали иммунитета.

Ирония ситуации заключается в том, что именно Anthropic создает одни из самых мощных моделей на рынке. Claude 3.5 Sonnet уже заставил многих разработчиков усомниться в лидерстве GPT-4. Получается странный парадокс: человек строит самую быструю машину в мире и одновременно пишет 19 тысяч слов о том, почему быстрая езда может нас убить. Это не лицемерие, а скорее попытка усидеть на двух стульях — оставаться коммерчески успешным игроком и при этом сохранить статус «совести индустрии».

Британские опросы тем временем показывают, что четверть населения страны всерьез опасается потерять работу из-за AI в ближайшую пятилетку. Но для Амодеи это лишь верхушка айсберга. Его беспокоит не просто рынок труда, а экзистенциальная устойчивость человеческих систем. Сможем ли мы контролировать интеллект, который превосходит наш собственный? Не превратятся ли наши демократические процедуры в медленный и бесполезный балласт в мире, где решения принимаются за миллисекунды? Амодеи не дает простых ответов, но его тон не оставляет сомнений: время спокойного созерцания закончилось.

Этот манифест выглядит как попытка задать повестку для регуляторов. Амодеи понимает, что если индустрия не создаст правила игры сейчас, то последствия будут неконтролируемыми. Он призывает мир «проснуться», намекая, что мы все еще находимся в состоянии приятной полудремы, наслаждаясь тем, как нейросети пишут за нас стихи и рисуют картинки. Но реальная мощь, о которой он предупреждает, не имеет ничего общего с развлечениями. Это вопрос перераспределения власти в глобальном масштабе.

Главное: Anthropic окончательно закрепляет за собой роль «взрослого в комнате», который не боится портить вечеринку страшными историями. Вопрос лишь в том, услышат ли этот призыв другие гиганты Кремниевой долины, или гонка вооружений AI окончательно перейдет в стадию неуправляемого пике?