Moonbounce привлёк $12 млн на движок для модерации контента в эпоху ИИ

Moonbounce привлёк $12 млн инвестиций на развитие AI-движка, который решает одну из самых болезненных задач корпоративного ИИ — как заставить языковую модель стабильно и предсказуемо соблюдать правила контентной модерации вне зависимости от специфики запроса. Компания создана выходцем из Facebook. Это важный сигнал: именно Facebook первым столкнулся с задачей промышленной контентной модерации в масштабах миллиардов постов.

Годами компания выстраивала сложнейшие системы, управляя тысячами живых модераторов и классификаторами машинного обучения. Накопленный там опыт понимания того, что значит «соблюдать политику» при сотнях тысяч пограничных кейсов в секунду, теперь переосмысляется применительно к ИИ-системам нового поколения. Продукт Moonbounce — это то, что компания называет AI control engine.

Принцип работы прост в описании и сложен в реализации: вы описываете политику модерации в человекочитаемом формате — что разрешено, что запрещено, какие контексты создают исключения, как трактовать пограничные случаи. Движок преобразует эти правила в операционные параметры поведения языковой модели. На выходе — ИИ-система, которая реагирует на контент консистентно и предсказуемо, без ситуативных сюрпризов и логических противоречий.

Проблема, которую решает Moonbounce, стремительно обостряется. Компании массово интегрируют LLM в реальные продукты: чат-боты для клиентской поддержки, системы автоматической обработки пользовательского контента, внутренние помощники для сотрудников. Но языковые модели по своей природе вероятностны — они не «следуют правилам» в детерминированном смысле, как это делает традиционный код.

Одна и та же формулировка запроса может дать разные ответы в разных сессиях. Модель может по-разному трактовать границы допустимого при незначительных изменениях контекста. Это делает стандартные корпоративные политики модерации практически неприменимыми к LLM без специального промежуточного слоя.

Традиционный подход — ручное написание системных промптов, списков запрещённых слов и эвристических правил — не масштабируется: команды тратят недели на «отлов» непредвиденных реакций модели, а потом всё равно сталкиваются с регрессиями при обновлении базовой модели или расширении сценариев использования. Rынок корпоративного управления ИИ формируется сейчас, и делает это быстро. Регуляторы в Европейском союзе, США и ряде других юрисдикций требуют от компаний документировать и контролировать поведение ИИ-систем.

EU AI Act вводит обязательный аудит высокорисковых ИИ-систем и требует доказуемой управляемости поведения. Это создаёт структурный инфраструктурный спрос: бизнесу нужны инструменты, которые не просто «стараются» соблюдать правила, а способны это доказать регулятору. Инвестиции в $12 млн позволят Moonbounce масштабировать команду, ускорить развитие движка и приступить к активному привлечению корпоративных клиентов.

Стартап работает в сегменте, где прямых конкурентов с аналогичным подходом пока немного — несмотря на то что крупные платформенные игроки предлагают собственные инструменты безопасности ИИ, они в первую очередь ориентированы на интеграцию с собственными облачными экосистемами, а не на независимую прослойку управления поведением. Контентная модерация перестаёт быть исключительно задачей человека-ревьюера или разового промпт-инжиниринга и превращается в инфраструктурный слой, который должен существовать в каждой ИИ-системе, работающей с пользовательским контентом. Компании, которые сегодня инвестируют в инструменты управления поведением ИИ, получат структурное преимущество: меньше инцидентов, предсказуемое соответствие требованиям регуляторов и более быстрое масштабирование продуктов.

Moonbounce претендует на то, чтобы стать именно таким слоем.