Sutton, autor da «lição amarga»: escalar LLMs sozinho não basta para chegar à inteligência

Se você constrói um produto sobre grandes modelos de linguagem, quase certamente tem uma aposta implícita: os modelos continuarão evoluindo graças a dados e computação, e seu produto crescerá junto com eles. Esta semana, a pessoa cujo ensaio costuma ser citado como principal argumento a favor dessa aposta disse que não é tão simples.

O que Sutton disse

Richard Sutton, vencedor do Prêmio Turing, escreveu «A lição amarga» em 2019. Sua ideia: métodos gerais que escalam com a computação acabam vencendo soluções engenhosas criadas por humanos. Desde então, o ensaio virou quase um texto sagrado para os defensores do escalonamento.

Agora Sutton escreve que só computação não é suficiente e que a ciência da IA está «longe de estar completa». Para ele, isso não é uma reviravolta, mas a continuação de sua linha anterior. Ele já havia criticado a ênfase no escalonamento de LLMs e chamado os dados sintéticos de «um grande erro»: o mundo real é infinitamente complexo, e qualquer simulação continua «microscópica». Outro gargalo, em sua visão, é a expertise humana, que impede o sistema de escalar de verdade.

Sua alternativa são agentes com modelos de mundo que aprendem continuamente com a própria experiência. Os modelos de linguagem atuais não aprendem nada novo após o treinamento, e o texto da internet descreve apenas uma pequena parte da realidade. É preciso um aprendizado contínuo que não apague o conhecimento antigo.

O que os colegas responderam

Jerry Tworek, que deixou a OpenAI para explorar novas abordagens, considera que a «lição amarga» continua válida, com uma ressalva: quanto mais computação se investe no treinamento, mais o algoritmo influencia. Alguns algoritmos escalam, outros chegam a um beco sem saída, e muitas direções de escalonamento nem sequer foram exploradas. Segundo ele, o sucesso temporário dos transformers, somado a uma leitura equivocada de Sutton, «hackeou a recompensa» na mente de toda uma geração de cientistas.

Jayden Teo traz um ângulo acadêmico. Ele viu mais de uma vez a «lição amarga» frear pesquisas: ideias promissoras são descartadas porque supostamente não se encaixam em seu espírito. Mas isso é erro de leitura, não culpa de Sutton. Uma ideia não precisa sobreviver ao escalonamento para sempre para contribuir com o progresso.

O outro lado

Sam Altman acredita que o potencial do escalonamento de LLMs está longe de se esgotar e acusa os críticos de frear uma geração inteira de pesquisadores com excesso de certeza sobre os limites do método. Como argumento, cita um modelo da OpenAI que recentemente refutou uma conjectura matemática que resistia aos matemáticos. Ele considera os modelos de mundo úteis, por exemplo em robótica, mas diz que, por ora, os dados favorecem continuar escalando LLMs. Dario Amodei fala de modo semelhante: para ele, o progresso do escalonamento é um arco-íris sem fim.

No entanto, vale lembrar que ambas as empresas construíram toda a sua tecnologia sobre essa aposta, então é difícil considerá-las objetivas.

O que isso significa na prática

O debate já está virando dinheiro. Segundo o The Decoder, a última edição do Frontier Radar acompanha 45 novos laboratórios de IA que apostam em abordagens alternativas. Tworek lançou a Core Automation, que busca algoritmos de aprendizado além do pré-treinamento e do RL. Sutton trabalha com a Oak Lab. O que une esses fundadores é a crença em uma IA muito mais capaz e a dúvida de que a receita atual, sozinha, leve até lá.

O que desenvolvedores e product managers devem fazer:

• Não coloquem no roadmap a suposição de que o próximo modelo resolverá seus problemas sozinho. Projetem o produto para se beneficiar das melhorias sem depender de um único cenário.
• Acompanhem o aprendizado contínuo. Se funcionar, será preciso repensar as abordagens de memória, ajuste fino e personalização de agentes.
• Separem posição de interesse. As declarações dos CEOs da Anthropic e da OpenAI sobre escalonamento também são uma defesa de seus modelos de negócio.

Isso não é prova, mas uma disputa de opiniões. Ninguém mostrou até agora que o escalonamento atingiu um teto, e ninguém apresentou um substituto que funcione. Mas o fato de a crítica vir do autor do principal argumento a favor do escalonamento é um sinal sério: apostar tudo em uma única receita é arriscado.