Старт 23 ноябряЖивой Поток 3 интенсива «Вайбкодинг и ИИ-агенты»: 3 недели практики, 9 живых занятийПоток 3 (23.11) →
ИнфраструктураКод / SDK · В работуHabr AI→ оригинал

Q.ANT и AMD запустили LLM на 1 млрд параметров с оптическим чипом вместо внимания

Чем длиннее текст в запросе к LLM, тем быстрее растут вычисления и память видеокарты под KV-кэш — запоминание уже прочитанного. Q.ANT и AMD заменили часть слоёв внимания в модели на 1 млрд параметров оптическим чипом, считающим преобразование Фурье светом. Скорость и качество не раскрыты, а «первыми» они не были: в апреле LLM на оптике запустила британская Lumai. Для разработчика это пока демо, стек менять рано.

AI-обработка оригинала Habr AI; редакция Hamidun News
Q.ANT и AMD запустили LLM на 1 млрд параметров с оптическим чипом вместо внимания
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникHabr AI ↗
Главный редактор
Ключевой факт #1Серийные системы Q.ANT обещает во второй половине 2027 года
Ключевой факт #2Открытый SDK на C и Python с эмуляцией на CPU выложен в сентябре 2026
Ключевой факт #3Google FNet в 2021 году сохранял 92–97% точности BERT на GLUE

Представьте чат-бот, который отвечает по сотням страниц договоров или агента с длинной историей переписки. Чем длиннее текст, который получает языковая модель (LLM), тем тяжелее ей приходится: механизм внимания, где каждое слово сверяется со всеми остальными, требует квадратично больше вычислений, а KV-кэш — область памяти видеокарты, где модель хранит уже прочитанное, — разрастается и вытесняет всё остальное. Немецкая компания Q.ANT попыталась обойти это ограничение светом: на конференции SC26 в Чикаго она вместе с AMD показала гибридный инференс (запуск готовой модели) на модели примерно в 1 млрд параметров. Часть работы внимания там выполняет не видеокарта, а фотонный сопроцессор. Если вы платите за GPU под длинные контексты, это стоит знать, но покупать пока нечего: цифр скорости и качества нет.

Что именно показали

Часть слоёв модели перенесли с видеокарты на фотонный сопроцессор Q.ANT NPU Gen 2+. Он считает дискретное преобразование Фурье (математическую операцию, которая перемешивает информацию между словами по фиксированной формуле) оптически, за один проход светового сигнала. По данным технического отчёта, в эксперименте работала языковая модель примерно на 1 млрд параметров на ускорителе AMD Instinct MI210 в паре с фотонным чипом. Вице-президент Q.ANT по программному обеспечению Ютц Бахер называет подход «Фурье-слоями внимания» и говорит о раннем прототипе.

Идея на бытовом уровне такая. Обычное внимание похоже на встречу, где каждый участник по очереди переговорил с каждым. Преобразование Фурье перемешивает информацию по готовой схеме, без попарных сверок, поэтому это дешевле, а на оптике считается почти мгновенно. Все остальные слои трансформера остаются на классической видеокарте AMD.

Что компания не раскрыла и почему «первый в мире» спорно

В пресс-релизе запуск назван «первым в мире», но ещё в апреле 2026 года британский стартап Lumai запустил полноценную LLM на своём сервере Iris. Архитектура у него другая: не плоские кремниевые волноводы, как у Q.ANT, а трёхмерная оптика с линзами и пучками света в свободном пространстве. По заявлению Lumai, модели уровня Llama 70B работают в реальном времени с экономией 90% энергии.

У демонстрации Q.ANT пробелов больше, чем данных:

  • Конкретная модель не названа. Неясно, как решена проблема каузальной маски (запрета «подглядывать» в будущие слова при пошаговой генерации) и какие слои остались на GPU.
  • Нет ни перплексии (меры того, насколько модель «удивляется» тексту), ни результатов на стандартных бенчмарках. Ждём тестов на Artificial Analysis.
  • Не раскрыты ни прирост токенов в секунду, ни реальное сжатие KV-кэша. Снижение энергозатрат описано лишь как «потенциально значительное».

Ранее, в июне 2026 года на конференции ISC в Гамбурге, Q.ANT показывала на чипе прошлого поколения диффузионную модель на 59 млн параметров для генерации изображений и архитектуру TiRex на базе xLSTM. Тогда заявляли о 30-кратной энергоэффективности, но речь шла о самой оптической схеме, и цифры были расчётными.

Что будет с качеством

Заменить внимание слоем Фурье придумали ещё до фотоники: в 2021 году Google сделала это в архитектуре FNet. Обучение ускорилось на 70–80%, но модель сохраняла лишь 92–97% точности BERT на тесте GLUE. К тому же FNet была энкодером, а не генеративной моделью, которая пишет текст слово за словом.

У оптической версии те же архитектурные ограничения плюс накладные расходы: на каждом слое тензоры нужно переводить из цифры в свет и обратно, а ещё пересылать между GPU и сопроцессором. Если эти пересылки съедят выигрыш, ускорения не будет.

Что делать разработчику

Серийные системы Q.ANT планирует вывести на рынок во второй половине 2027 года. Ускорители предыдущего поколения с 9 ноября доступны в закрытой бете на выделенных серверах IONOS в Германии. Чипы также отправлены в немецкие суперкомпьютерные центры LRZ и JSC, но независимых публичных отчётов оттуда пока нет.

Поэкспериментировать с идеей можно уже сейчас: в сентябре 2026 года компания выложила открытый SDK с API на C и Python и эмуляцией на CPU. Его обновляют под Фурье-слои Gen 2+.

Жизнеспособность гибрида покажут две цифры: перплексия в сравнении с такой же моделью на 1 млрд параметров с классическим вниманием и честный прирост токенов в секунду на реальном инференсе. Без них говорить о замене attention рано. Остаётся вопрос, что окажется сложнее: довести оптическое железо до серии или убедить разработчиков переписать под него свои модели.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что именно показали?

Часть слоёв модели перенесли с видеокарты на фотонный сопроцессор Q.ANT NPU Gen 2+. Он считает дискретное преобразование Фурье (математическую операцию, которая перемешивает информацию между словами по фиксированной формуле) оптически, за один проход светового сигнала. По данным технического отчёта, в эксперименте работала языковая модель примерно на 1 млрд параметров на ускорителе AMD Instinct MI210 в паре с фотонным чипом.

Что известно по теме: что компания не раскрыла и почему «первый в мире» спорно?

В пресс-релизе запуск назван «первым в мире», но ещё в апреле 2026 года британский стартап Lumai запустил полноценную LLM на своём сервере Iris. Архитектура у него другая: не плоские кремниевые волноводы, как у Q.ANT, а трёхмерная оптика с линзами и пучками света в свободном пространстве. По заявлению Lumai, модели уровня Llama 70B работают в реальном времени с экономией 90% энергии. У демонстрации Q.ANT пробелов больше, чем данных: Конкретная модель не названа.

Что известно по теме: что будет с качеством?

Заменить внимание слоем Фурье придумали ещё до фотоники: в 2021 году Google сделала это в архитектуре FNet. Обучение ускорилось на 70–80%, но модель сохраняла лишь 92–97% точности BERT на тесте GLUE. К тому же FNet была энкодером, а не генеративной моделью, которая пишет текст слово за словом. У оптической версии те же архитектурные ограничения плюс накладные расходы: на каждом слое тензоры нужно переводить из цифры в свет и обратно, а ещё пересылать между GPU и сопроцессором.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…