MIT научил робота обобщать запреты человека: обновление правил занимает около 5 секунд
Роботу приходится объяснять очевидное: если кофе опасен для ноутбука, телефон тоже стоит поберечь. Исследователи MIT и Нью-Йоркского университета разработали FLEX — систему, которая с помощью GPT-4o обобщает такие замечания и обновляет правила движения. В трёх виртуальных задачах робот учитывал запреты на контакт с электроникой, горючими и хрупкими предметами.
AI-обработка оригинала MIT News; редакция Hamidun News
Робот несёт кофе через стол. Вы замечаете ноутбук на его пути и говорите: «Не пролей на компьютер». Но рядом лежит ещё и телефон. Объяснять отдельно, что его тоже нельзя заливать, довольно утомительно. Для разработчика домашнего робота это конкретная продуктовая проблема: сколько правил пользователь должен перечислить, прежде чем помощником станет удобно пользоваться?
Исследователи MIT и Нью-Йоркского университета предложили FLEX — систему, которая извлекает из такого замечания более общее правило и меняет план движения. В примере с кофе запрет распространяется на электронику. Полный цикл обновления занимает около пяти секунд. Пока подход проверили на виртуальной роботизированной руке: результаты показывают направление для разработки, но ещё не доказывают надёжность в квартире.
Как одно замечание становится правилом
FLEX работает в три шага. Сначала система добавляет в список важных для задачи признаков то, на что указал человек. Если робот переносит шар для боулинга и получает замечание «Не урони на мою кружку», кружка становится объектом, который нужно учитывать при выборе траектории.
Сам по себе этот шаг знаком робототехнике. Его неудобство в том, что список отдельных запретов постепенно растёт. Пользователю приходится указывать всё новые предметы, а часть старых ограничений теряет смысл после изменения обстановки.
На втором шаге подключается языковая модель. В исследовании использовали GPT-4o. Она рассматривает указанные человеком объекты и предлагает обобщение: например, беречь хрупкие вещи. Тогда робот может учитывать другие предметы этой категории, хотя пользователь их не называл.
Третий шаг отвечает за актуальность списка. Компьютерное зрение определяет, каких объектов больше нет в окружении, и система исключает их из списка учитываемых объектов. Это помогает планировщику работать с текущей обстановкой.
Здесь важно устройство всей связки. Языковая модель помогает сформулировать ограничение, зрение оценивает окружение, а планировщик рассчитывает движение. Для инженера ценность представляет именно такой способ связать разговорную поправку с конкретным изменением поведения.
Что проверили и чего пока не знаем
Авторы описали три задачи в симуляции: перенос чашки кофе, свечи и шара для боулинга. Добровольцы вводили команды текстом. В ответ система учитывала как конкретный запрет, так и более широкую категорию: электронику, горючие материалы или хрупкие предметы.
Эти примеры хорошо объясняют замысел, однако границы результата существенны. В предоставленном материале нет показателей успешности, сравнения частоты ошибок или данных о работе физического робота. Поэтому нельзя заключить, что FLEX уже делает бытовые манипуляторы безопаснее на измеренную величину.
Пять секунд тоже нужно понимать правильно: столько занимает весь описанный цикл из трёх шагов. Это не заявленная задержка экстренной остановки. Если чашка уже падает, из публикации нельзя сделать вывод, что FLEX успеет предотвратить происшествие.
Есть и вопрос к самим обобщениям. Человек может просить беречь конкретную кружку из-за её личной ценности, а не хрупкости. Это возможная неоднозначность подхода; представленный текст не объясняет, как система выясняет такие намерения и исправляет неверные предположения.
Что взять разработчику и продакту
Практическая идея FLEX — сократить число повторных объяснений при настройке робота под человека. Вместо длинного списка исключений пользователь даёт короткую поправку, из которой система получает правило для похожих ситуаций. Это особенно интересно для домашних помощников, которым предстоит работать среди разных предметов и учитывать разные предпочтения владельцев.
Для прототипа полезно разделить три задачи: извлечение предпочтения из фразы, проверку его применимости к окружению и изменение траектории. Такая архитектура позволяет отдельно разбирать, где возникла ошибка: модель неверно поняла человека, зрение перепутало предмет или планировщик выбрал неудачный путь.
Следующий продуктовый вопрос — как показать человеку полученное правило и дать его поправить. Это уже вывод из устройства FLEX, а не проверенный результат исследования. Но именно здесь проходит путь от впечатляющего примера с кофе к помощнику, чьё поведение пользователь может понять и настроить.
- 12 окт. 2026 г.Т-Банк научил AI-агента писать iOS unit-тесты через AGENTS.md и SKILL.md
- 16 июн. 2026 г.NVIDIA объясняет разницу между VLA и WAM — двумя подходами к управлению роботами
- 24 окт. 2026 г.Anthropic впервые за год обновила правила: нельзя жестоко обращаться с Claude
- 27 окт. 2026 г.SkeLAM научил робота повторять движения человека, обучившись на 10 часах данных
Вопросы и ответы по материалу
Что известно по теме: как одно замечание становится правилом?
FLEX работает в три шага. Сначала система добавляет в список важных для задачи признаков то, на что указал человек. Если робот переносит шар для боулинга и получает замечание «Не урони на мою кружку», кружка становится объектом, который нужно учитывать при выборе траектории. Сам по себе этот шаг знаком робототехнике. Его неудобство в том, что список отдельных запретов постепенно растёт. Пользователю приходится указывать всё новые предметы, а часть старых ограничений теряет смысл после изменения обстановки.
Что известно по теме: что проверили и чего пока не знаем?
Авторы описали три задачи в симуляции: перенос чашки кофе, свечи и шара для боулинга. Добровольцы вводили команды текстом. В ответ система учитывала как конкретный запрет, так и более широкую категорию: электронику, горючие материалы или хрупкие предметы. Эти примеры хорошо объясняют замысел, однако границы результата существенны. В предоставленном материале нет показателей успешности, сравнения частоты ошибок или данных о работе физического робота.
Что известно по теме: что взять разработчику и продакту?
Практическая идея FLEX — сократить число повторных объяснений при настройке робота под человека. Вместо длинного списка исключений пользователь даёт короткую поправку, из которой система получает правило для похожих ситуаций. Это особенно интересно для домашних помощников, которым предстоит работать среди разных предметов и учитывать разные предпочтения владельцев. Для прототипа полезно разделить три задачи: извлечение предпочтения из фразы, проверку его применимости к окружению и изменение траектории.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.