Redes neurais rodam 2 vezes mais rápido: FlashAttention-3, da NVIDIA

A Together AI apresentou o FlashAttention-3, um novo algoritmo para acelerar transformers em grandes modelos de linguagem. Ele roda duas vezes mais rápido que o FlashAttention-2. A GPU H100 agora é aproveitada em 75%, contra 35% antes. O algoritmo suporta cálculos em FP8, de baixa precisão, mantendo a exatidão dos resultados. Isso permite que os LLMs processem sequências longas de texto com mais eficiência, sem desacelerar os cálculos, e reduz custos.

Processado por IA de Together AI Blog; editado por Hamidun News
Redes neurais rodam 2 vezes mais rápido: FlashAttention-3, da NVIDIA
Fonte: Together AI Blog. Colagem: Hamidun News.
Ouvir artigo

As redes neurais agora rodam de 1,5 a 2 vezes mais rápido: Together AI, NVIDIA e Meta lançaram o FlashAttention-3, algoritmo que acelera a atenção em transformers e usa 75% da capacidade da GPU, em vez dos 35% anteriores.

Por que acelerar redes neurais economiza dinheiro?

A computação em nuvem está mais cara, e os LLMs exigem cada vez mais recursos. Cada ponto percentual de eficiência agora vira dinheiro.

História
ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…