السباق نحو AGI: يجادل Hassabis و Amodei حول تاريخ نهاية عالمنا المعروف

В швейцарских горах, где обычно решают судьбы мировой экономики, на этот раз пытались понять, когда эта самая экономика перестанет быть чисто человеческим делом. В Давосе случилось событие, которое в индустрии ждали давно: Демис Хассабис из Google DeepMind и Дарио Амодеи из Anthropic сели за один стол. Модератор, не скупясь на пафос, сравнил их с Beatles и Rolling Stones. Сравнение хромает, потому что в отличие от рок-звезд, эти двое не спорят о чартах, а пытаются вычислить дату, когда искусственный интеллект сравняется с нами или перепрыгнет через голову человечества. Тема была заявлена амбициозно: «День после AGI». Но прежде чем планировать завтрак в мире сверхразума, нужно понять, когда наступит этот самый рассвет.

Контекст здесь важнее самих слов. Еще пару лет назад термин AGI (общий искусственный интеллект) считался уделом гиков и авторов научной фантастики. Сегодня это пункт в квартальных отчетах крупнейших корпораций мира. Хассабис, человек, который фактически запустил современную волну ИИ, купив DeepMind для Google, всегда был осторожным оптимистом. Он строит системы, которые играют в го, предсказывают структуру белков и теперь пытаются рассуждать. Его видение AGI — это инструмент, который решит проблемы физики и биологии. Для него это эволюция, пусть и очень быстрая. Он видит в этом мощный рычаг, который поможет человечеству справиться с тем, что нам самим не под силу.

Дарио Амодеи из Anthropic играет в другую игру. Его компания родилась из раскола в OpenAI именно на почве безопасности. Если Хассабис — это инженер-исследователь, то Амодеи — это человек, который смотрит на экспоненциальные кривые и видит в них не только прогресс, но и угрозу. В Давосе он вновь напомнил о законах масштабирования. Мы вливаем миллиарды долларов в вычислительные мощности, и нейросети послушно становятся умнее. Проблема в том, что этот рост не линейный. Мы можем проснуться в мире, где модель следующего поколения внезапно проявит способности, к которым мы не готовы ни законодательно, ни морально. Амодеи подчеркивает, что точка невозврата ближе, чем кажется многим регуляторам.

Разница в их подходах обнажает главный конфликт индустрии. С одной стороны — вера в то, что мы сможем контролировать процесс и постепенно интегрировать ИИ в науку и быт. С другой — опасение, что скорость развития технологий уже превысила скорость адаптации социальных институтов. Когда модератор спросил о конкретных сроках, в воздухе повисло напряжение. Хассабис ставит на конец десятилетия, Амодеи же намекает, что сюрпризы могут начаться гораздо раньше. И это не просто гадание на кофейной гуще. От этих дат зависит, куда потекут следующие триллионы долларов инвестиций и какие законы примут в ЕС и США в ближайшие месяцы.

Почему это важно именно сейчас? Потому что эпоха «игрушечных» чат-ботов заканчивается. Мы переходим к агентам, которые могут действовать самостоятельно. Если лидеры двух компаний, которые фактически держат ключи от этой технологии, расходятся в оценках фундаментальных рисков, это повод задуматься. Мы находимся в ситуации, когда создатели двигателя спорят о том, есть ли у машины тормоза и где находится обрыв. Ирония в том, что оба продолжают давить на газ, потому что остановиться в этой гонке означает проиграть всё. Давосская встреча показала, что консенсуса нет даже на самом верху, и «день после AGI» может наступить внезапно для всех участников процесса.

Главное: Хассабис и Амодеи согласны в одном — AGI неизбежен и близок. Но если Google видит в нем супер-ассистента для ученых, то Anthropic предупреждает о тектоническом сдвиге, к которому мир не готов. Удастся ли нам договориться о правилах игры до того, как ИИ начнет писать их сам?