Karpathy оценил: к самому передовому ИИ имеют доступ около 5000 человек

Андрей Karpathy, один из основателей OpenAI и бывший директор по ИИ в Tesla, оценил в своём посте, сколько людей на планете действительно имеют доступ к самым передовым внутренним ИИ-системам: примерно 5000. Для сравнения, ChatGPT и его аналоги ежедневно используют сотни миллионов людей. Разрыв между тем, что видит публика, и тем, с чем работают сотрудники ведущих лабораторий, по этой оценке огромен.

Оценка принадлежит самому Karpathy. Методики подсчёта нет, подтверждений от лабораторий тоже. Цифра работает скорее как ориентир порядка величины. Но на неё обратили внимание, потому что Karpathy редко говорит о таких вещах наугад: он видел внутреннюю кухню и OpenAI, и Tesla.

Что происходит внутри лабораторий

По описанию Karpathy, внутри frontier-лабораторий уже не один ассистент помогает одному разработчику. Тысячи агентов собираются в кооперативные кластеры и работают без перерыва неделями. Это другой режим, чем привычный чат, где человек задаёт вопрос и ждёт ответа за секунды.

Список задач, который он называет, выглядит так:

• крупные программные проекты, которые ведутся агентами в течение недель;
• поиск уязвимостей нулевого дня, то есть дыр, о которых не знают разработчики;
• участие в кибератаках и киберзащите на машинной скорости;
• вклад в научные открытия;
• работа над задачами фронтирной математики.

Отдельно стоит присмотреться к срокам. Непрерывная работа в течение недель означает, что агенты удерживают контекст проекта, распределяют между собой подзадачи, исправляют собственные ошибки и не требуют человека на каждом шаге. Публичные агентные продукты пока чаще работают в рамках часов и ограниченных сценариев.

Почему цифра в 5000 важна

Если оценка близка к реальности, получается узкий круг людей, которые формируют представление об ИИ у остальных. Сотрудники лабораторий, несколько исследователей снаружи с особым доступом, часть людей в госструктурах и безопасности. Все остальные судят о прогрессе по публичным моделям, которые вышли с задержкой и обычно с урезанными возможностями.

Отсюда несколько последствий. Дискуссии о рисках и пользе ведутся на разном уровне информированности: одни спорят о чат-ботах, другие работают с кластерами агентов. Регуляторам сложнее оценивать то, чего они не видят. А компаниям, которые строят продукты поверх публичных API, трудно планировать дорожную карту, когда реальный потолок возможностей скрыт.

Особняком стоит кибербезопасность. Если агенты действительно находят zero-day и действуют в защите и нападении на машинной скорости, то время реакции у людей-аналитиков перестаёт быть решающим. Для защитников это шанс закрывать уязвимости быстрее, для атакующих тоже. Какой из эффектов перевесит, из одного поста не понять.

Как использовать эту информацию

К таким заявлениям полезно относиться как к сигналу, а не как к факту. Практические шаги для команд и разработчиков:

1. Закладывайте в планы, что публичные агенты будут дорастать до нынешних внутренних возможностей с задержкой, и проектируйте продукты так, чтобы их можно было переключить на более сильную модель без переписывания. 2. Начните сейчас строить инфраструктуру для долгоживущих агентов: журналирование действий, ограничения прав, откат изменений. Через год-два это станет обязательным. 3. Если вы отвечаете за безопасность, пересмотрите модель угроз. Исходите из того, что поиск уязвимостей автоматизируется, а цикл «нашли дыру — написали эксплойт» сокращается. 4. Следите за первичными источниками: заявлениями лабораторий, системными картами моделей и отчётами независимых оценщиков. Слова отдельных экспертов, включая Karpathy, остаются мнением, пока их не подтвердили данные.

Главный вопрос на ближайшее время: насколько быстро закрытые возможности станут публичными и кто успеет к ним подготовиться.