NVIDIA DAQIRI: реальный ИИ-инференс при высокоскоростном сборе данных

NVIDIA представила DAQIRI — фреймворк для встраивания ИИ-инференса непосредственно в конвейер высокоскоростного сбора данных. Цель: ИИ должен работать там, где рождаются данные, а не ждать, пока их запишут и передадут на обработку.

Зачем нужен реальный ИИ в потоке

Когда в 2020 году AlphaFold2 произвёл революцию в поиске лекарств, его успех полностью зависел от ~170 000 структур белков, собранных учёными с 1971 года и хранящихся в Protein Data Bank. Это показательный пример: хорошие данные — фундамент любой ИИ-модели. Но у классической схемы «собрал — сохранил — обучил» есть принципиальный изъян: между появлением данных и моментом, когда ИИ на них реагирует, проходит время. В задачах научного эксперимента, промышленного контроля или медицинской диагностики это время может стоить результата.

Что такое DAQIRI DAQIRI (Data

AcQuisition with Intelligent Real-time Inference) — это программный слой от NVIDIA, который подключает GPU-ускоренный инференс прямо к высокоскоростному потоку с приборов и датчиков. Фреймворк решает несколько задач одновременно: Приём и буферизация потоковых данных без потерь Запуск ИИ-модели на GPU в режиме реального времени Фильтрация и маркировка событий на лету — до записи на диск Интеграция с научными инструментами через стандартные интерфейсы * Поддержка рабочих процессов, где объём сырых данных превышает пропускную способность хранилища Последний пункт особенно важен: в физических экспериментах и геномных исследованиях детекторы генерируют терабайты в секунду. Записать всё невозможно — нужно выбирать что сохранять. DAQIRI делает этот выбор в реальном времени, используя ИИ как фильтр.

Для каких задач это актуально

Фреймворк ориентирован прежде всего на научные и промышленные сценарии с высокоскоростными источниками данных: ускорители частиц и физические детекторы, геномное секвенирование, промышленный контроль качества на производственных линиях, медицинская визуализация в потоковом режиме.

«Измеренные данные — это фундамент всех ИИ-моделей и рабочих

процессов, которые обрабатывают данные в момент создания, реагируют на важное в реальном времени и анализируют данные для получения глубоких выводов», — из блога NVIDIA Developer. В каждом из этих случаев ценность события падает со временем. DAQIRI сдвигает ИИ как можно ближе к источнику сигнала.

Что это значит НАВИДИА последовательно продвигает концепцию «ИИ везде»

— не только в дата-центрах, но и на краю инфраструктуры, прямо в измерительных приборах. DAQIRI — ещё один шаг в этом направлении: инференс перемещается туда, где данные возникают, а не туда, где их удобно хранить.