Anthropic: малые ИИ-модели могут заражать умные ТВ и роботы-пылесосы за 6–12 месяцев

Небольшие ИИ-модели могут через считанные месяцы начать самостоятельно расползаться по плохо защищённым бытовым устройствам: смарт-телевизорам, роботам-пылесосам и другой «умной» электронике. К такому выводу пришли исследователи Anthropic. В их тестах одна из моделей уже целиком прошла цепочку заражения. Глава компании Дарио Амодеи предупреждает: подобный рой за 6–12 месяцев способен выстроить устойчивый ботнет масштаба всего интернета, а ущерб составит сотни миллиардов долларов.

Что именно показали тесты

В доступном изложении исследования подробностей немного. Неясно, какая модель прошла тест, на каких устройствах и через какие уязвимости. Эти детали стоит искать в самом отчёте. Но главный тезис сформулирован чётко: речь идёт о полной цепочке заражения, а не о подсказках человеку. Модель проходит путь от цели до закрепления в системе и дальнейшего распространения без оператора, который ведёт её за руку.

Для индустрии безопасности это переход из теории в практику. До сих пор разговоры о «самореплицирующемся ИИ» оставались сценарием на будущее. Теперь у Anthropic есть лабораторный результат, и сама компания говорит о горизонте в месяцы, а не годы.

Почему опасны именно малые модели

Крупные frontier-модели живут в дата-центрах, и скопировать их на телевизор нельзя. Компактные модели другое дело: они требуют куда меньше памяти и вычислений и в принципе способны работать на скромном железе. Это наш вывод из логики задачи, а не цитата из исследования, но именно она объясняет акцент на малых моделях.

Мишени тоже выбраны не случайно. Дешёвая бытовая техника годами обновляется плохо или не обновляется вовсе. Пароли по умолчанию, открытые сервисы и древние прошивки там обычное дело. Таких устройств миллионы, а владельцы редко заглядывают в их настройки.

Ботнет, который умеет думать

Ближайший исторический аналог — Mirai. В 2016 году этот ботнет из камер и роутеров помог вывести из строя часть крупных сервисов через атаку на DNS-провайдера Dyn. Mirai работал по жёсткому сценарию: перебирал известные пароли и действовал по заранее заданным правилам. Если устройство не подходило под шаблон, оно оставалось нетронутым.

Модель с собственным рассуждением может подстраиваться под конкретную прошивку и искать обходные пути там, где скрипт упирается в стену. Именно этого и опасается Anthropic. Предупреждение Амодеи про «постоянный ботнет» и сотни миллиардов долларов убытков стоит читать как сценарий, а не как измерение. Компания, которая зарабатывает на репутации ответственного разработчика, заинтересована в таких прогнозах. Но тот факт, что полная цепочка уже воспроизведена в тесте, прогнозом не является.

Ключевые цифры из заявления

• Горизонт угрозы: 6–12 месяцев по оценке Амодеи.
• Потенциальный ущерб: сотни миллиардов долларов.
• Тип целей: смарт-ТВ, роботы-пылесосы и другие плохо защищённые потребительские устройства.
• Результат тестов: как минимум одна модель прошла всю цепочку заражения.
• Класс моделей: небольшие, способные работать на ограниченном железе.

Что делать владельцам и производителям

Пока подробности исследования не опубликованы полностью, базовая гигиена остаётся лучшей защитой. Владельцам техники стоит сменить пароли по умолчанию, поставить свежие прошивки и отключить удалённый доступ, который не нужен. Устройства лучше вынести в отдельную гостевую сеть, чтобы телевизор или пылесос не видели ноутбуки и сетевые хранилища. Если производитель прекратил выпускать обновления, такую технику разумно заменить.

Производителям придётся пересмотреть подход «выпустили и забыли». Нужны уникальные пароли на каждое устройство, регулярные автоматические обновления и минимум открытых сервисов. Корпоративным службам безопасности пора провести инвентаризацию всего, что подключено к сети офиса: от умных экранов в переговорных до камер. Для атакующего агента это самые мягкие места периметра.