Otimização de redes neurais em GPU: como a Together AI acelera a IA
A equipe da Together AI adaptou em uma semana os kernels CUDA para as novas GPUs Blackwell, trabalho que a NVIDIA levou um ano para concluir. A base veio do FlashAttention (2022) e do ThunderKittens. O resultado diminui a distância entre a matemática dos modelos e o poder real do hardware.
Processado por IA de Together AI Blog; editado por Hamidun News
A Together AI aplicou a otimização de redes neurais em GPU para mostrar que a distância entre teoria e prática na IA não é inevitável, mas um desafio direto para os engenheiros.
Por que as redes neurais rodam devagar em GPUs?
Porque existe uma distância entre teoria e prática: os desenvolvedores nem sempre levam em conta todas as nuances da interação entre o modelo e o hardware. Os engenheiros da Together AI fecharam essa lacuna ao adaptar os kernels para as GPUs Blackwell em uma semana, trabalho que a NVIDIA levou um ano inteiro para fazer.
O que é o FlashAttention?
É uma otimização da atenção dos transformers, publicada em maio de 2022. Sua ideia central: a otimização da atenção dos transformers estava longe de terminar, e havia caminhos significativos para acelerá-la.
O que é o FlashAttention e quem o desenvolveu?
O FlashAttention é um artigo sobre otimização da atenção dos transformers, publicado em maio de 2022 por Dan Fu e Tri Dao. A ideia principal: a otimização do mecanismo de atenção estava longe de terminar.
Quanto tempo a
Together AI levou para adaptar os kernels para as GPUs Blackwell? Uma semana. Para comparar, a NVIDIA trabalhou nisso por um ano inteiro, com dezenas de especialistas.
Como fazer uma rede neural rodar mais rápido?
A Together AI usa otimizações de kernel na atenção dos transformers para adaptar modelos às novas GPUs. Em uma semana, a equipe concluiu um trabalho em que a NVIDIA passou um ano inteiro com dezenas de especialistes.
Perguntas frequentes sobre a notícia
Por que as redes neurais rodam devagar em GPUs?
Porque existe uma distância entre teoria e prática: os desenvolvedores nem sempre levam em conta todas as nuances da interação entre o modelo e o hardware. Os engenheiros da Together AI fecharam essa lacuna ao adaptar os kernels para as GPUs Blackwell em uma semana, trabalho que a NVIDIA levou um ano inteiro para fazer.
O que é o FlashAttention?
É uma otimização da atenção dos transformers, publicada em maio de 2022. Sua ideia central: a otimização da atenção dos transformers estava longe de terminar, e havia caminhos significativos para acelerá-la.
O que é o FlashAttention e quem o desenvolveu?
O FlashAttention é um artigo sobre otimização da atenção dos transformers, publicado em maio de 2022 por Dan Fu e Tri Dao. A ideia principal: a otimização do mecanismo de atenção estava longe de terminar.
Quanto tempo a Together AI levou para adaptar os kernels para as GPUs Blackwell?
Uma semana. Para comparar, a NVIDIA trabalhou nisso por um ano inteiro, com dezenas de especialistas.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.