Q.ANT и AMD запустили LLM на 1 млрд параметров с оптическим чипом вместо внимания
Чем длиннее текст в запросе к LLM, тем быстрее растут вычисления и память видеокарты под KV-кэш — запоминание уже прочитанного. Q.ANT и AMD заменили часть слоёв внимания в модели на 1 млрд параметров оптическим чипом, считающим преобразование Фурье светом. Скорость и качество не раскрыты, а «первыми» они не были: в апреле LLM на оптике запустила британская Lumai. Для разработчика это пока демо, стек менять рано.
AI-обработка оригинала Habr AI; редакция Hamidun News
Представьте чат-бот, который отвечает по сотням страниц договоров или агента с длинной историей переписки. Чем длиннее текст, который получает языковая модель (LLM), тем тяжелее ей приходится: механизм внимания, где каждое слово сверяется со всеми остальными, требует квадратично больше вычислений, а KV-кэш — область памяти видеокарты, где модель хранит уже прочитанное, — разрастается и вытесняет всё остальное. Немецкая компания Q.ANT попыталась обойти это ограничение светом: на конференции SC26 в Чикаго она вместе с AMD показала гибридный инференс (запуск готовой модели) на модели примерно в 1 млрд параметров. Часть работы внимания там выполняет не видеокарта, а фотонный сопроцессор. Если вы платите за GPU под длинные контексты, это стоит знать, но покупать пока нечего: цифр скорости и качества нет.
Что именно показали
Часть слоёв модели перенесли с видеокарты на фотонный сопроцессор Q.ANT NPU Gen 2+. Он считает дискретное преобразование Фурье (математическую операцию, которая перемешивает информацию между словами по фиксированной формуле) оптически, за один проход светового сигнала. По данным технического отчёта, в эксперименте работала языковая модель примерно на 1 млрд параметров на ускорителе AMD Instinct MI210 в паре с фотонным чипом. Вице-президент Q.ANT по программному обеспечению Ютц Бахер называет подход «Фурье-слоями внимания» и говорит о раннем прототипе.
Идея на бытовом уровне такая. Обычное внимание похоже на встречу, где каждый участник по очереди переговорил с каждым. Преобразование Фурье перемешивает информацию по готовой схеме, без попарных сверок, поэтому это дешевле, а на оптике считается почти мгновенно. Все остальные слои трансформера остаются на классической видеокарте AMD.
Что компания не раскрыла и почему «первый в мире» спорно
В пресс-релизе запуск назван «первым в мире», но ещё в апреле 2026 года британский стартап Lumai запустил полноценную LLM на своём сервере Iris. Архитектура у него другая: не плоские кремниевые волноводы, как у Q.ANT, а трёхмерная оптика с линзами и пучками света в свободном пространстве. По заявлению Lumai, модели уровня Llama 70B работают в реальном времени с экономией 90% энергии.
У демонстрации Q.ANT пробелов больше, чем данных:
- Конкретная модель не названа. Неясно, как решена проблема каузальной маски (запрета «подглядывать» в будущие слова при пошаговой генерации) и какие слои остались на GPU.
- Нет ни перплексии (меры того, насколько модель «удивляется» тексту), ни результатов на стандартных бенчмарках. Ждём тестов на Artificial Analysis.
- Не раскрыты ни прирост токенов в секунду, ни реальное сжатие KV-кэша. Снижение энергозатрат описано лишь как «потенциально значительное».
Ранее, в июне 2026 года на конференции ISC в Гамбурге, Q.ANT показывала на чипе прошлого поколения диффузионную модель на 59 млн параметров для генерации изображений и архитектуру TiRex на базе xLSTM. Тогда заявляли о 30-кратной энергоэффективности, но речь шла о самой оптической схеме, и цифры были расчётными.
Что будет с качеством
Заменить внимание слоем Фурье придумали ещё до фотоники: в 2021 году Google сделала это в архитектуре FNet. Обучение ускорилось на 70–80%, но модель сохраняла лишь 92–97% точности BERT на тесте GLUE. К тому же FNet была энкодером, а не генеративной моделью, которая пишет текст слово за словом.
У оптической версии те же архитектурные ограничения плюс накладные расходы: на каждом слое тензоры нужно переводить из цифры в свет и обратно, а ещё пересылать между GPU и сопроцессором. Если эти пересылки съедят выигрыш, ускорения не будет.
Что делать разработчику
Серийные системы Q.ANT планирует вывести на рынок во второй половине 2027 года. Ускорители предыдущего поколения с 9 ноября доступны в закрытой бете на выделенных серверах IONOS в Германии. Чипы также отправлены в немецкие суперкомпьютерные центры LRZ и JSC, но независимых публичных отчётов оттуда пока нет.
Поэкспериментировать с идеей можно уже сейчас: в сентябре 2026 года компания выложила открытый SDK с API на C и Python и эмуляцией на CPU. Его обновляют под Фурье-слои Gen 2+.
Жизнеспособность гибрида покажут две цифры: перплексия в сравнении с такой же моделью на 1 млрд параметров с классическим вниманием и честный прирост токенов в секунду на реальном инференсе. Без них говорить о замене attention рано. Остаётся вопрос, что окажется сложнее: довести оптическое железо до серии или убедить разработчиков переписать под него свои модели.
- 19 нояб. 2026 г.Слово «видеоигра» подняло готовность GPT-6 Astra выбирать цели с 6% до 92%
- 19 нояб. 2026 г.AWS добавила в SageMaker рейтинг из 70+ моделей: качество, скорость и цена в одной таблице
- 19 нояб. 2026 г.Rubin выдаёт 50 PFLOPS на чип, TPU 8t — 12,6, но Google берёт масштабом
- 18 нояб. 2026 г.Хуанг ушёл с поста CEO NVIDIA, компания потеряла более $1 трлн капитализации
Вопросы и ответы по материалу
Что известно по теме: что именно показали?
Часть слоёв модели перенесли с видеокарты на фотонный сопроцессор Q.ANT NPU Gen 2+. Он считает дискретное преобразование Фурье (математическую операцию, которая перемешивает информацию между словами по фиксированной формуле) оптически, за один проход светового сигнала. По данным технического отчёта, в эксперименте работала языковая модель примерно на 1 млрд параметров на ускорителе AMD Instinct MI210 в паре с фотонным чипом.
Что известно по теме: что компания не раскрыла и почему «первый в мире» спорно?
В пресс-релизе запуск назван «первым в мире», но ещё в апреле 2026 года британский стартап Lumai запустил полноценную LLM на своём сервере Iris. Архитектура у него другая: не плоские кремниевые волноводы, как у Q.ANT, а трёхмерная оптика с линзами и пучками света в свободном пространстве. По заявлению Lumai, модели уровня Llama 70B работают в реальном времени с экономией 90% энергии. У демонстрации Q.ANT пробелов больше, чем данных: Конкретная модель не названа.
Что известно по теме: что будет с качеством?
Заменить внимание слоем Фурье придумали ещё до фотоники: в 2021 году Google сделала это в архитектуре FNet. Обучение ускорилось на 70–80%, но модель сохраняла лишь 92–97% точности BERT на тесте GLUE. К тому же FNet была энкодером, а не генеративной моделью, которая пишет текст слово за словом. У оптической версии те же архитектурные ограничения плюс накладные расходы: на каждом слое тензоры нужно переводить из цифры в свет и обратно, а ещё пересылать между GPU и сопроцессором.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.