TechCrunch→ оригинал

Французский стартап ZML выпустил бесплатный инструмент для ускорения AI-инференса на любых чипах

Французский стартап ZML, поддержанный лауреатом премии Тьюринга Янном ЛеКуном, выпустил бесплатный инструмент ZML/LLMD для ускорения инференса языковых моделей на широком спектре AI-чипов. Программа снижает операционные затраты на запуск AI в продакшне и уводит от привязки к конкретному производителю — прежде всего NVIDIA. Актуально для команд на AMD, Intel и других ускорителях.

AI-обработка оригинала TechCrunch; редакция Hamidun News
Французский стартап ZML выпустил бесплатный инструмент для ускорения AI-инференса на любых чипах
Источник: TechCrunch. Коллаж: Hamidun News.
◐ Слушать статью

Французский стартап ZML 8 июля 2026 года открыл бесплатный доступ к ZML/LLMD — программному инструменту для ускорения инференса AI-моделей на широком спектре аппаратных ускорителей. Проект поддержал Янн ЛеКун — лауреат премии Тьюринга и главный AI-учёный Meta.

Что умеет ZML/LLMD

ZML/LLMD — программный слой, позволяющий запускать языковые модели быстрее и дешевле вне зависимости от производителя чипов. Кросс-платформенность здесь — ключевое преимущество: сегодняшний рынок инструментов для инференса сильно перекошен в сторону NVIDIA. Популярные библиотеки — TensorRT-LLM, CUDA-ориентированные сборки vLLM — по умолчанию оптимизированы под GPU «зелёного» производителя. Команды на AMD, Intel Gaudi, AWS Trainium и других ускорителях вынуждены либо мириться с меньшей производительностью, либо тратить инженерные ресурсы на собственную адаптацию стека.

ZML/LLMD позиционирует себя как единый инструмент, работающий одинаково хорошо на разном железе и снижающий стоимость запуска AI-продуктов в продакшне.

  • Продукт: ZML/LLMD — оптимизационный слой для инференса LLM
  • Лицензия: бесплатная (free to use)
  • Охват: широкий спектр AI-чипов от разных производителей
  • Цель: снизить операционные затраты на инференс в продакшне

Почему имя ЛеКуна меняет восприятие стартапа

Янн ЛеКун — один из трёх лауреатов премии Тьюринга 2018 года (вместе с Джеффри Хинтоном и Йошуа Бенджио) и главный AI-учёный Meta с 2018 года. Его работы в области свёрточных нейронных сетей стали фундаментом современного компьютерного зрения и заложили базу для нынешней волны глубокого обучения.

Публичная поддержка ЛеКуна — сигнал для рынка и инвесторов: ZML как минимум привлёк внимание исследователей верхнего уровня. Для разработчиков, которые ещё не слышали о стартапе, такое имя в числе сторонников заметно снижает барьер недоверия к новому инструменту.

Контекст: почему инференс стоит дороже обучения

Для большинства AI-продуктов в зрелом продакшне расходы на инференс — буквально на ответы модели миллионам запросов — давно превышают расходы на тренировку. По отраслевым оценкам, соотношение затрат смещается к 10 к 90 в пользу инференса. Именно поэтому оптимизация скорости и стоимости запуска моделей — одна из наиболее конкурентных ниш AI-инфраструктуры в 2026 году.

Кросс-чиповая совместимость ZML/LLMD потенциально даёт компаниям рычаг в переговорах с вендорами и снижает риски привязки к одному поставщику.

Что это значит

ZML/LLMD попадает в реальную боль рынка: операционные затраты на инференс растут вместе с масштабом AI-продуктов. Бесплатная модель распространения снижает порог входа и может привлечь широкое инженерное сообщество. Насколько инструмент выигрывает у специализированных решений на конкретном железе — покажут независимые бенчмарки по мере роста числа пользователей.

*Meta признана экстремистской организацией и запрещена в РФ.

ЖХ
Hamidun News
AI‑новости без шума. Ежедневный редакторский отбор из 400+ источников. Продукт Жемала Хамидуна, Head of AI в Alpina Digital.

Хотите не читать про ИИ, а внедрить его?

«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.

Что вы думаете?
Загружаем комментарии…