Fora, diploma: como o “caminho selvagem” leva à OpenAI e à Anthropic

Esqueça tudo o que já te disseram sobre a necessidade de um PhD para trabalhar na primeira divisão da inteligência artificial. Antes, o passe de entrada para o clube fechado da OpenAI ou da DeepMind era uma pilha de publicações em conferências de ponta como a NeurIPS. Hoje, as regras mudaram tanto que os acadêmicos de ontem cedem espaço, cada vez mais, para quem na China é chamado de “yeluzi”.

O termo significa “caminho selvagem”, ou a trajetória do autodidata, e são justamente essas pessoas que hoje formam a espinha dorsal das equipes que criam os modelos da próxima geração. Por muito tempo, acreditou-se que a entrada na indústria de IA era protegida por um muro intransponível de credenciais acadêmicas. Era preciso passar anos estudando matemática avançada, escrevendo artigos e esperando revisões só para ter a chance de uma entrevista.

Mas aqui está o paradoxo: os sucessos mais barulhentos dos últimos anos não são uma vitória da teoria pura, e sim um triunfo da escala (Scaling Laws). Para criar o GPT-4, ficou claro que não era tanto preciso inventar um novo tipo de neurônio, e sim ter habilidades excepcionais em infraestrutura, preparação de dados e otimização de computação. É trabalho para hackers e engenheiros, não para teóricos.

Empresas como a OpenAI perceberam isso antes das outras. Em seus quadros aparecem cada vez mais pessoas que largaram a universidade ou nem chegaram a entrar nela, mas passaram anos mergulhadas em código aberto e participando de competições no Kaggle. Esses profissionais do “caminho selvagem” têm uma qualidade que muitas vezes falta aos formados em Stanford: sabem fazer o código funcionar com recursos limitados.

Numa época em que o custo de treinar um modelo é medido em centenas de milhões de dólares, qualquer erro de engenharia sai caro demais. Aqui, valoriza-se quem entende como o hardware interage com o software no nível mais profundo. A mudança de paradigma aconteceu porque a IA deixou de ser uma disciplina científica e virou uma indústria.

A aviação também já foi coisa de cientistas solitários, mas hoje aviões são construídos em fábricas gigantescas. A IA entrou na fase das “fábricas”. Para treinar um modelo do nível do Claude 3, você não precisa reescrever a arquitetura do transformer.

Precisa saber distribuir a carga entre milhares de GPUs de forma que elas não fiquem ociosas nem por um segundo. É por isso que engenheiros de infraestrutura e especialistas em dados viraram os novos rock stars, e seus salários se igualaram aos dos principais pesquisadores. Além disso, o próprio formato de desenvolvimento mudou.

A OpenAI e suas concorrentes estão cada vez mais fechadas. Elas não publicam mais artigos detalhados sobre seus métodos, por medo da concorrência. Nesse clima de sigilo, a habilidade acadêmica de escrever relatórios bonitos em LaTeX se torna inútil.

O que passa a importar são os bastidores: como exatamente você limpa o ruído dos dados e que truques usa no aprendizado por reforço (RLHF). Esse conhecimento não é ensinado nas universidades; só dá para adquiri-lo na prática, trabalhando em projetos reais. O que isso significa para o futuro?

Estamos vendo uma democratização dos talentos acompanhada de uma monopolização dos recursos. A barreira de entrada em termos de conhecimento está caindo: você não precisa mais gastar sete anos num doutorado. Por outro lado, as exigências de habilidades práticas crescem exponencialmente.

Se você consegue mostrar um projeto funcional que resolve um problema concreto de otimização ou processamento de dados, seu GitHub vai pesar mais para um recrutador do Vale do Silício do que qualquer diploma. O principal: a era dos teóricos na IA está dando lugar à era dos construtores. Será que as universidades vão conseguir se adaptar a um mundo em que a prática está anos à frente da teoria?