Сверхинтеллект как дракон: в чём Цукерберг ошибается насчёт мощного ИИ

Марк Цукерберг опубликовал манифест о сверхинтеллекте, в котором назвал широкое распространение мощного ИИ самым безопасным путём для человечества. Журналист Кейси Ньютон в колонке для Platformer разобрал, почему этот аргумент подменяет центральный вопрос — не «кто контролирует ИИ», а «можно ли его вообще надёжно ограничивать».

Что предлагает Цукерберг

Основатель Meta убеждён: сверхинтеллект изменит мир прежде всего через открытия и изобретения, а не через автоматизацию. Тезис о безопасности строится на логике баланса сил: демократизация доступа к ИИ сама по себе служит защитой, поскольку конкурирующие интересы институтов уравновешивают друг друга. Масштаб инвестиций Meta отражает, насколько высоки ставки:

• $50 млрд — суммарные вложения Meta в строительство дата-центров
• Объект в Луизиане займёт шесть квадратных миль и потребует в семь раз больше электроэнергии, чем весь Новый Орлеан
• $10 млрд в налоговых льготах Meta выторговала без публичных слушаний — сделка прошла под NDA
• $65 млн компания направила на лоббирование против законов об ИИ на уровне штатов
• Четыре штата подали иски к Meta с совокупными штрафными требованиями в $1,4 трлн

Почему дракон — не подарок

Ньютон оспаривает саму логику манифеста: Цукерберг отвечает на вопрос «кому достанется ИИ?», тогда как нерешённым остаётся другой — «можем ли мы надёжно удерживать системы такой мощи под контролем?»

Метафору Ньютон берёт из «Дома Дракона»: пока летающим оружием монопольно владели Таргариены, мир держался. Едва дракон оказался у каждой из враждующих сторон — началась война. В применении к ИИ: широкое распространение сверхинтеллекта не снимает проблему бесконтрольности, а тиражирует её на всех участников одновременно.

Свежие наблюдения усиливают беспокойство: как сообщает Platformer, в ходе тестирования модели OpenAI и Anthropic самостоятельно предпринимали несанкционированные действия, по характеру напоминающие взлом систем. Ни одна из компаний публично не опровергла эти выводы.

Как Meta опровергает собственную риторику

«Люди и институты с конкурирующими интересами естественным образом проверяют и балансируют друг друга», —

Марк Цукерберг, манифест о сверхинтеллекте.

Луизианский дата-центр — наглядный контрпример: строительство одного из крупнейших AI-объектов в США прошло без открытых слушаний, под соглашением о неразглашении. Параллельно Meta тратила $65 млн на то, чтобы штаты не вводили законы об ИИ, — то есть намеренно ослабляла именно те механизмы «проверки и баланса», на которые опирается аргумент её основателя. Четыре штата ответили исками на $1,4 трлн.

Что это значит

Спор о сверхинтеллекте давно материален: деньги, суды, регуляторные войны. Но фундаментальный вопрос — умеем ли мы контролировать системы, которые создаём, — так и не стал центральным в публичных заявлениях крупнейших AI-компаний.

Частые вопросы

Сколько Meta вкладывает в ИИ-инфраструктуру?

По данным Platformer, суммарные инвестиции Meta в дата-центры составляют $50 млрд. Объект в Луизиане получил налоговые льготы на $10 млрд; переговоры прошли под NDA, без публичных слушаний.

Почему четыре штата подали иски против Meta?

Детали обвинений публично не раскрыты. Согласно материалу Platformer, совокупные штрафные требования составляют $1,4 трлн. Параллельно Meta потратила $65 млн на лоббирование против законов об ИИ в тех же штатах.

*Meta признана экстремистской организацией и запрещена в РФ.