Французский стартап ZML выпустил бесплатный инструмент для ускорения AI-инференса на любых чипах
Французский стартап ZML, поддержанный лауреатом премии Тьюринга Янном ЛеКуном, выпустил бесплатный инструмент ZML/LLMD для ускорения инференса языковых моделей на широком спектре AI-чипов. Программа снижает операционные затраты на запуск AI в продакшне и уводит от привязки к конкретному производителю — прежде всего NVIDIA. Актуально для команд на AMD, Intel и других ускорителях.
AI-обработка оригинала TechCrunch; редакция Hamidun News
Французский стартап ZML 8 июля 2026 года открыл бесплатный доступ к ZML/LLMD — программному инструменту для ускорения инференса AI-моделей на широком спектре аппаратных ускорителей. Проект поддержал Янн ЛеКун — лауреат премии Тьюринга и главный AI-учёный Meta.
Что умеет ZML/LLMD
ZML/LLMD — программный слой, позволяющий запускать языковые модели быстрее и дешевле вне зависимости от производителя чипов. Кросс-платформенность здесь — ключевое преимущество: сегодняшний рынок инструментов для инференса сильно перекошен в сторону NVIDIA. Популярные библиотеки — TensorRT-LLM, CUDA-ориентированные сборки vLLM — по умолчанию оптимизированы под GPU «зелёного» производителя. Команды на AMD, Intel Gaudi, AWS Trainium и других ускорителях вынуждены либо мириться с меньшей производительностью, либо тратить инженерные ресурсы на собственную адаптацию стека.
ZML/LLMD позиционирует себя как единый инструмент, работающий одинаково хорошо на разном железе и снижающий стоимость запуска AI-продуктов в продакшне.
- Продукт: ZML/LLMD — оптимизационный слой для инференса LLM
- Лицензия: бесплатная (free to use)
- Охват: широкий спектр AI-чипов от разных производителей
- Цель: снизить операционные затраты на инференс в продакшне
Почему имя ЛеКуна меняет восприятие стартапа
Янн ЛеКун — один из трёх лауреатов премии Тьюринга 2018 года (вместе с Джеффри Хинтоном и Йошуа Бенджио) и главный AI-учёный Meta с 2018 года. Его работы в области свёрточных нейронных сетей стали фундаментом современного компьютерного зрения и заложили базу для нынешней волны глубокого обучения.
Публичная поддержка ЛеКуна — сигнал для рынка и инвесторов: ZML как минимум привлёк внимание исследователей верхнего уровня. Для разработчиков, которые ещё не слышали о стартапе, такое имя в числе сторонников заметно снижает барьер недоверия к новому инструменту.
Контекст: почему инференс стоит дороже обучения
Для большинства AI-продуктов в зрелом продакшне расходы на инференс — буквально на ответы модели миллионам запросов — давно превышают расходы на тренировку. По отраслевым оценкам, соотношение затрат смещается к 10 к 90 в пользу инференса. Именно поэтому оптимизация скорости и стоимости запуска моделей — одна из наиболее конкурентных ниш AI-инфраструктуры в 2026 году.
Кросс-чиповая совместимость ZML/LLMD потенциально даёт компаниям рычаг в переговорах с вендорами и снижает риски привязки к одному поставщику.
Что это значит
ZML/LLMD попадает в реальную боль рынка: операционные затраты на инференс растут вместе с масштабом AI-продуктов. Бесплатная модель распространения снижает порог входа и может привлечь широкое инженерное сообщество. Насколько инструмент выигрывает у специализированных решений на конкретном железе — покажут независимые бенчмарки по мере роста числа пользователей.
*Meta признана экстремистской организацией и запрещена в РФ.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.