Optimización de redes neuronales en GPU: cómo Together AI acelera la IA
El equipo de Together AI adaptó en una semana los núcleos CUDA para las nuevas GPU Blackwell, un trabajo en el que NVIDIA invirtió un año. La base fueron FlashAttention (2022) y ThunderKittens. El resultado reduce la distancia entre las matemáticas de los modelos y la potencia real del hardware.
Procesado por IA desde Together AI Blog; editado por Hamidun News
Together AI aplicó la optimización de redes neuronales en GPU para demostrar que la brecha entre la teoría y la práctica en la IA no es inevitable, sino un desafío directo para los ingenieros.
¿Por qué las redes neuronales funcionan lentas en las GPU?
Porque existe una brecha entre la teoría y la práctica: los desarrolladores no siempre tienen en cuenta todos los matices de la interacción entre el modelo y el hardware. Los ingenieros de Together AI cerraron esa brecha al adaptar en una semana los núcleos para las GPU Blackwell, un trabajo al que NVIDIA dedicó un año entero.
¿Qué es FlashAttention?
Es una optimización de la atención de los transformers, publicada en mayo de 2022. Su idea central: la optimización de la atención en los transformers estaba lejos de haber terminado y existían vías significativas para acelerarla.
¿Qué es FlashAttention y quién la desarrolló?
FlashAttention es un artículo sobre la optimización de la atención en los transformers, publicado en mayo de 2022 por Dan Fu y Tri Dao. La idea principal: la optimización del mecanismo de atención estaba lejos de haber terminado.
¿Cuánto tardó
Together AI en adaptar los núcleos para las GPU Blackwell? Una semana. A modo de comparación, NVIDIA trabajó en ello un año entero con decenas de especialistas.
¿Cómo hacer que una red neuronal funcione más rápido?
Together AI usa optimizaciones de núcleos para la atención de los transformers con el fin de adaptar los modelos a las nuevas GPU. En una semana, el equipo terminó un trabajo en el que NVIDIA invirtió un año entero con decenas de especialistas.
Preguntas frecuentes sobre la noticia
¿Por qué las redes neuronales funcionan lentas en las GPU?
Porque existe una brecha entre la teoría y la práctica: los desarrolladores no siempre tienen en cuenta todos los matices de la interacción entre el modelo y el hardware. Los ingenieros de Together AI cerraron esa brecha al adaptar en una semana los núcleos para las GPU Blackwell, un trabajo al que NVIDIA dedicó un año entero.
¿Qué es FlashAttention?
Es una optimización de la atención de los transformers, publicada en mayo de 2022. Su idea central: la optimización de la atención en los transformers estaba lejos de haber terminado y existían vías significativas para acelerarla.
¿Qué es FlashAttention y quién la desarrolló?
FlashAttention es un artículo sobre la optimización de la atención en los transformers, publicado en mayo de 2022 por Dan Fu y Tri Dao. La idea principal: la optimización del mecanismo de atención estaba lejos de haber terminado.
¿Cuánto tardó Together AI en adaptar los núcleos para las GPU Blackwell?
Una semana. A modo de comparación, NVIDIA trabajó en ello un año entero con decenas de especialistas.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.