Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоРазбор · На радарWired→ оригинал

Wells Fargo и ещё 4 банка США перестали отвечать за ошибки ИИ-агентов клиентов

Wells Fargo со вторника вводит для миллионов клиентов условие: любой ИИ-агент используется «на ваш собственный риск». Ещё четыре банка США уже сделали похожий шаг: JPMorgan запретил агентов, входящих в счёт по паролю клиента, а Bank of America, Citibank и PNC добавили предупреждения. Если агент по ошибке закажет десять жареных куриц, банк отвечать не станет. Разработчикам агентов для платежей нужны лимиты и подтверждение человеком.

AI-обработка оригинала Wired; редакция Hamidun News
Wells Fargo и ещё 4 банка США перестали отвечать за ошибки ИИ-агентов клиентов
Источник: Wired. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникWired ↗
Главный редактор
Ключевой факт #1Amazon заблокировал агента Meta Muse, United закрыл ботам покупку билетов
Ключевой факт #2American Express обещает возмещать часть ошибок агентов, например лишний заказ
Ключевой факт #3Ассистентом Wells Fargo на генеративном ИИ пользовались более миллиарда раз

Представьте: вы поручили ИИ-агенту заказать продукты, а он купил десять жареных куриц. Кто платит? Магазин скажет, что выполнил обычный заказ. Разработчик агента сошлётся на оговорки об ошибках в условиях. Теперь и банки заявляют, что отвечать не собираются. Wells Fargo со вторника вводит для миллионов клиентов обновлённое соглашение, где прямо сказано: использование любого ИИ-агента происходит «на ваш собственный риск». Это уже пятый крупный банк США, который закрепил такую позицию: до него условия изменили или выпустили предупреждения JPMorgan Chase, Bank of America, Citibank и PNC. Под «ИИ-агентом» здесь понимается бот, который сам кликает по сайтам и совершает действия от вашего имени, например покупки.

Что изменилось в условиях банков

Wells Fargo — не первый. В конце октября JPMorgan Chase изменил условия и запретил сторонних агентов, которые входят в аккаунт по данным клиента, то есть по его логину и паролю. В тот же день Bank of America предупредил клиентов, что нельзя передавать агентам данные для входа. Citibank и PNC тоже добавили в условия предупреждения об агентах.

Логика простая. Агент, который кликает за вас, для банка выглядит как сам клиент. Если он ошибся, а вы ничего не подтверждали вручную, доказать чью-то вину трудно. Как сказала Кейси Ким, профессор маркетинга Bryant University, потребители авторизуют цели, а не каждый клик. Банки не хотят отвечать за последствия таких «целей».

Не только банки: борьба за территорию

Банки не одиноки. Amazon заблокировал агента Meta Muse, одного из самых популярных, и не даёт ему совершать покупки на своей площадке. Авиакомпания United объявила, что личные боты не смогут покупать билеты за пользователя. Сайты и банки хотят видеть живого клиента или хотя бы собственного, проверенного посредника.

Реальных пользователей агентов пока немного. Аналитик Forrester Сучарита Кодали говорит, что большинство людей даже не знают, что такое агенты, не говоря о том, чтобы ими пользоваться. По её мнению, банки по природе осторожны и предпочитают подстраховаться заранее, даже если инциденты остаются редкими. Среди рисков она называет безопасность транзакций и автоматические списания, которые могут навредить владельцу счёта.

Профессор Университета Вирджинии Лука Чан добавляет поведенческую деталь: люди охотно доверяют ИИ покупку туалетной бумаги, то есть рутинные расходы. Дорогие и нестандартные покупки, где нужна осторожность, автоматизировать не спешат.

Свои агенты можно, чужие нельзя

Банки не отказываются от агентов вообще. По словам Чана, они делают две вещи одновременно: закрывают дверь внешним агентам и строят собственных. Ассистентом Wells Fargo на генеративном ИИ пользователи обращались более миллиарда раз. Bank of America в этом году обновил агента EricaAssist, который помогает сотрудникам. Citigroup запустила внутреннюю платформу для разработки агентов.

Есть и первые попытки смягчить удар для клиентов. American Express объявила, что часть ошибок агентов, например заказ слишком большого количества товара, в будущем могут компенсировать, если не удалось вернуть деньги у продавца. Пока это обещание, а не готовая программа с условиями.

Что это значит для тех, кто делает агентов

Во-первых, схема «агент входит в аккаунт по логину и паролю пользователя» становится юридически и технически уязвимой: банки её запрещают или предостерегают от неё. Продуктам для финансовых сценариев придётся опираться на официальные способы доступа с ограниченными правами, если такие появятся.

Во-вторых, продуктовым командам стоит заранее продумать защиту от ошибок: лимиты сумм, обязательное подтверждение человеком на крупных платежах, журнал действий агента. Так проще ответить на вопрос «кто виноват» и не оказаться в позиции «ваш бот, ваша проблема».

Стоит учитывать и скепсис. Кодали замечает, что купить товар на Amazon или Walmart несложно и без агента, поэтому агентные покупки часто выглядят как решение в поисках задачи. По её мысли, одна из целей создателей агентов — со временем зарабатывать на партнёрских комиссиях. Если агенты станут массовыми, банки уже заняли позицию. Если угаснут, договоры всё равно останутся. Пока правило такое: хотите давать агенту деньги, держите контроль над платежами у себя.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что изменилось в условиях банков?

Wells Fargo — не первый. В конце октября JPMorgan Chase изменил условия и запретил сторонних агентов, которые входят в аккаунт по данным клиента, то есть по его логину и паролю. В тот же день Bank of America предупредил клиентов, что нельзя передавать агентам данные для входа. Citibank и PNC тоже добавили в условия предупреждения об агентах. Логика простая. Агент, который кликает за вас, для банка выглядит как сам клиент. Если он ошибся, а вы ничего не подтверждали вручную, доказать чью-то вину трудно.

Что известно по теме: не только банки: борьба за территорию?

Банки не одиноки. Amazon заблокировал агента Meta Muse, одного из самых популярных, и не даёт ему совершать покупки на своей площадке. Авиакомпания United объявила, что личные боты не смогут покупать билеты за пользователя. Сайты и банки хотят видеть живого клиента или хотя бы собственного, проверенного посредника. Реальных пользователей агентов пока немного. Аналитик Forrester Сучарита Кодали говорит, что большинство людей даже не знают, что такое агенты, не говоря о том, чтобы ими пользоваться.

Что известно по теме: свои агенты можно, чужие нельзя?

Банки не отказываются от агентов вообще. По словам Чана, они делают две вещи одновременно: закрывают дверь внешним агентам и строят собственных. Ассистентом Wells Fargo на генеративном ИИ пользователи обращались более миллиарда раз. Bank of America в этом году обновил агента EricaAssist, который помогает сотрудникам. Citigroup запустила внутреннюю платформу для разработки агентов. Есть и первые попытки смягчить удар для клиентов.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…