Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизРазбор · На радарHabr AI→ оригинал

У 98% крупных компаний США есть правила по ИИ, но 47% обходили их в спешке

Бизнес увольняет специалистов ради ИИ-агентов, но не решает, кто ответит за их ошибки. По опросу EY, письменные правила работы с ИИ есть у 98% крупных компаний США, а 47% хотя бы раз их не применили при срочном внедрении. Это как инструкция по технике безопасности, которую откладывают, когда горят сроки. Поэтому до сокращений назначьте ответственного за каждого агента и поставьте рубильник.

AI-обработка оригинала Habr AI; редакция Hamidun News
У 98% крупных компаний США есть правила по ИИ, но 47% обходили их в спешке
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникHabr AI ↗
Главный редактор
На панели в Казаниагенту запрещено всё, что не разрешено явно
Ключевой факт #2Kill-switch — рубильник, который быстро отключает агента
Ключевой факт #3Голосовой ИИ-квалификатор лидов закончился претензиями и расторжением

Компании увольняют маркетологов, SEO-специалистов и программистов в расчёте на ИИ-агентов, но не решают простой вопрос: кто ответит, если агент что-то натворит. Цифры опроса EY показывают, как это выглядит на практике. Письменные правила работы с ИИ есть у 98% крупных американских компаний, то есть почти у всех. Но 47% признались, что при срочном внедрении ИИ хотя бы раз не применяли собственные правила. Представьте инструкцию по технике безопасности, которую убирают в ящик, когда горят сроки. Автор разбора на Habr, консультант, который сам работает с ИИ в аналитике и коде для сайтов, задаёт этот вопрос на каждом проекте. Это личная колонка, а не исследование, но практических идей в ней немало.

Правила на бумаге и реальность

Поводом для текста стала панель по безопасности внедрения ИИ на Kazan Digital Week. Специалисты из банков и компаний по кибербезопасности полтора часа обсуждали, кто понесёт ответственность за действия агента. В комментариях над этим посмеялись, но автору не смешно.

Опрос EY на панели упомянули, а автор нашёл его первоисточник и проверил цифры. Разрыв между 98% и 47% показывает: сам факт наличия правил ничего не гарантирует, их обходят под давлением сроков.

Из выступлений автор вынес несколько практических идей:

  • для агентов действует обратный принцип: запрещено всё, что не разрешено явно;
  • модель, на которой работает агент, могут подменить на «отравленную», и агенты начнут вредить, поэтому нужен внешний мониторинг;
  • нужен kill-switch, то есть рубильник, который быстро выводит агента из работы;
  • у каждого агента должен быть ответственный человек.

Яркий пример с панели: сотрудник просит выдать агенту свою электронную подпись, чтобы тот сам пользовался КриптоПро-плагином. Безопасник отвечает, что можно, но только для одного действия — подписать заявление на увольнение. Шутка, но принцип понятен: права агенту выдают минимальные и под конкретную задачу.

Кто будет ставить задачи ИИ через пять лет

Главный тезис автора: агентов кто-то должен обучать, ставить им задачи и проверять результат. Если уволить тех, кто это умеет, через пять лет таких людей не будет. Надежды на то, что кто-то решит проблему за вас или что модели научатся всё делать сами, автор называет утопией.

Отсюда прогноз: дорожать будет труд узких специалистов и безопасников. Автор ожидает, что интернет разделится на «ИИ-шный» и «живой». Появятся платные площадки со знаниями практиков, закрытые для нейросетей. Косвенный признак — соцсети уже начали помечать сгенерированное: Meta с 2024 года ставит на такие посты метку «AI info». Это именно прогноз автора, а не установленный факт.

Свой опыт он описывает без восторга. ИИ нужен для ускорения процессов, но всё, что уходит на сайт, он перепроверяет, а данные, собранные через API, время от времени сверяет вручную. Идею «контент-завода» с десятками текстов в неделю автор критикует: кто их вычитает и кто проследит, что страницы попадают в индекс и не каннибалят друг друга? В SEO, по его словам, ИИ выдаёт «среднюю температуру по больнице», а результат начинается там, где копают вглубь.

Две истории из практики

Первая — про стажёра. Он пришёл с установкой от вайбкодеров: в SEO главное писать статьи, остальное подскажет ИИ-ассистент. Полгода он вёл так свой проект, и сайт лёг: статьи без собранной семантики, плохая перелинковка, слабые карточки товаров, страницы конкурировали друг с другом. Теперь автор даёт ему базу по SEO-процессам, и тот учится на своём проекте. Вывод: специалистов не найти «ниоткуда», их приходится растить, и выиграют те, кто начнёт сейчас.

Вторая — про голосового ИИ-квалификатора лидов. Собственник нанял двух подрядчиков, которые обещали, что всё будет работать как часы. В итоге были потери на лидах во время тестов, досудебные претензии и расторжение договора. Подрядчики сами признали, что для этой ниши ИИ не подходит.

Что делать на практике

Автор не против внедрения: без ИИ бизнес проиграет конкурентам. Вопрос в том, как это делать. Перед заменой человека агентом он предлагает ответить на три вопроса:

  1. Что будет через три месяца, когда что-то пойдёт не так?
  2. Сколько вы потеряете, пока маркетинг стоит, а вы ищете новую команду или агентство?
  3. Сколько времени уйдёт, чтобы разгрести то, что натворили агенты?

Ограничения очевидны. Это мнение одного практика, цифры опроса EY приведены без деталей методики, а истории из его проектов нельзя считать статистикой. Но чек-лист получается рабочий: назначьте ответственного за каждого агента, давайте ему минимум прав, поставьте внешний мониторинг и рубильник, а ключевые результаты проверяйте руками. И не увольняйте тех, кто умеет ставить задачи и проверять работу ИИ, потому что вернуть их потом будет дороже.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: правила на бумаге и реальность?

Поводом для текста стала панель по безопасности внедрения ИИ на Kazan Digital Week. Специалисты из банков и компаний по кибербезопасности полтора часа обсуждали, кто понесёт ответственность за действия агента. В комментариях над этим посмеялись, но автору не смешно. Опрос EY на панели упомянули, а автор нашёл его первоисточник и проверил цифры. Разрыв между 98% и 47% показывает: сам факт наличия правил ничего не гарантирует, их обходят под давлением сроков.

Что известно по теме: кто будет ставить задачи ИИ через пять лет?

Главный тезис автора: агентов кто-то должен обучать, ставить им задачи и проверять результат. Если уволить тех, кто это умеет, через пять лет таких людей не будет. Надежды на то, что кто-то решит проблему за вас или что модели научатся всё делать сами, автор называет утопией. Отсюда прогноз: дорожать будет труд узких специалистов и безопасников. Автор ожидает, что интернет разделится на «ИИ-шный» и «живой». Появятся платные площадки со знаниями практиков, закрытые для нейросетей.

Что известно по теме: две истории из практики?

Первая — про стажёра. Он пришёл с установкой от вайбкодеров: в SEO главное писать статьи, остальное подскажет ИИ-ассистент. Полгода он вёл так свой проект, и сайт лёг: статьи без собранной семантики, плохая перелинковка, слабые карточки товаров, страницы конкурировали друг с другом. Теперь автор даёт ему базу по SEO-процессам, и тот учится на своём проекте. Вывод: специалистов не найти «ниоткуда», их приходится растить, и выиграют те, кто начнёт сейчас. Вторая — про голосового ИИ-квалификатора лидов.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…