Комиссия Lancet назвала вредоносный ИИ и ядерную войну главными угрозами до 2100 года

Новая глобальная комиссия оценила 17 катастрофических угроз для здоровья человечества на ближайшие 75 лет. Оценку, о которой пишет Guardian, опубликовал Lancet. Список возглавили два пункта: злонамеренное использование ИИ и ядерный конфликт. По выводам авторов, из-за любого из них люди могут вымереть к 2100 году. Для каждой из 17 угроз, как подчёркивают в комиссии, существует «реалистичный путь действий».

Что вошло в список

Опубликованный фрагмент даёт лишь общую картину, но она показательна:

• Число угроз: 17, и все отнесены к катастрофическим для здоровья человека.
• Горизонт: 75 лет, до 2100 года.
• Самые тяжёлые риски: злонамеренное использование ИИ и ядерный конфликт, оба с потенциалом вымирания.
• Другие пункты: сокращение помощи на развитие со стороны богатых стран, климатический кризис, детское недоедание.
• Вывод по каждому риску: реалистичный путь действий существует.

Соседство пунктов неожиданное. Недоедание у детей и сокращение бюджетов помощи не выглядят как сценарии конца света. Но комиссия измеряет угрозы здоровью, а не кинематографичность катастрофы. Медленные и скучные процессы вроде снижения финансирования здравоохранения в бедных странах могут убить больше людей, чем одно эффектное событие.

Почему ИИ оказался рядом с ядерным оружием

Формулировка «злонамеренное использование» важна. Речь идёт не о бунте машин, а о людях, которые применяют ИИ во вред. В публикации Guardian конкретные сценарии комиссии не раскрыты. В профильных дискуссиях о рисках обычно обсуждают несколько направлений: помощь в создании биологического оружия, масштабные кибератаки на критическую инфраструктуру, включая больницы, массовую дезинформацию и автономные системы вооружений. Какие из них комиссия считает приоритетными, нужно смотреть в полном докладе.

Для индустрии это сигнал другого рода, чем привычные заявления лабораторий. Здесь ИИ оценивают с позиции общественного здравоохранения и ставят рядом с угрозой, к которой человечество привыкло с 1945 года. Такой взгляд плохо сочетается с подачей ИИ как набора продуктовых функций. Он выводит разговор о рисках из рубрики «безопасность моделей» в рубрику «глобальные угрозы здоровью», где работают другие регуляторы, другие бюджеты и другие аудитории.

Что с этим делать

Первое: не принимать заголовок за исследование. Тезис «вымирание к 2100 году» звучит громко, но методология, вероятности и допущения в опубликованном фрагменте не приведены. Прежде чем цитировать оценку, стоит найти полный доклад и проверить, как комиссия считала риски и откуда взяла 75-летний горизонт.

Второе: обратить внимание на формулировку про «реалистичный путь действий». Для разработчиков и компаний это означает проверку на злонамеренное использование: тесты на помощь в биологических и кибератаках, ограничения на доступ к самым мощным моделям, журналирование запросов. Для регуляторов речь идёт о международных соглашениях по ИИ рядом с ядерным контролем. Для обычных читателей и инвесторов вывод скромнее: темы ИИ-безопасности всё чаще будут возникать в документах организаций, которые не занимаются технологиями. Следить за такими публикациями полезно, потому что именно из них вырастают будущие нормы и требования.