Las redes neuronales funcionan el doble de rápido: FlashAttention-3 de NVIDIA

Together AI ha presentado FlashAttention-3, un nuevo algoritmo para acelerar los transformers en los grandes modelos de lenguaje. Funciona el doble de rápido que FlashAttention-2. La GPU H100 se aprovecha ahora al 75%, frente al 35% anterior. El algoritmo admite cálculo en FP8, de baja precisión, y mantiene la exactitud de los resultados. Esto permite a los LLM procesar con más eficiencia secuencias largas de texto sin ralentizar el cálculo, y reduce los costes.

Procesado por IA desde Together AI Blog; editado por Hamidun News
Las redes neuronales funcionan el doble de rápido: FlashAttention-3 de NVIDIA
Fuente: Together AI Blog. Collage: Hamidun News.
Escuchar artículo

Las redes neuronales ya funcionan entre 1,5 y 2 veces más rápido: Together AI, NVIDIA y Meta han lanzado FlashAttention-3, un algoritmo que acelera la atención en los transformers y aprovecha el 75% de la capacidad de la GPU, en lugar del 35% anterior.

¿Por qué acelerar las redes neuronales ahorra dinero?

La computación en la nube se encarece y los LLM exigen cada vez más recursos. Cada punto porcentual de eficiencia se traduce ahora en dinero.

Historia
ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…