OpenAI procura freios: cargo de diretor de preparação finalmente é preenchido

A OpenAI nomeou um diretor de preparação, um cargo que soa como saído de um thriller de Hollywood sobre a rebelião das máquinas. Enquanto Sam Altman vende ao mundo a ideia de um futuro em que a IA resolve todos os problemas da humanidade, dentro da empresa claramente se entende que esse futuro pode chegar rápido demais e não exatamente como planejado. Colocar alguém num cargo responsável por segurança e «preparação» para riscos não é só formalidade burocrática, mas uma tentativa de montar um sistema de freios e contrapesos numa organização frequentemente acusada de pressa excessiva.

O contexto importa mais que a nomeação em si. Depois que Ilya Sutskever e sua equipe de «superalinhamento» praticamente sumiram do radar após a reviravolta de novembro na OpenAI, surgiu uma pergunta lógica: quem agora garante que a IA não ensine um estudante a montar uma bomba na garagem? A resposta veio na forma do Preparedness Framework. É um regulamento interno que descreve como a empresa avaliará seus modelos em quatro categorias de risco: cibersegurança, ameaças químicas e biológicas, segurança nuclear e, claro, o velho e bom «comportamento autônomo».

A essência do framework é simples: se um modelo recebe a classificação «risco alto» em qualquer categoria, não pode ser liberado para uso público. O diretor de preparação se torna a pessoa com a mão no interruptor. Ele terá de equilibrar o desejo dos investidores de lançar o produto o mais rápido possível com a necessidade de garantir que ele não vai derrubar os mercados financeiros nem começar a manipular a mente de milhões de usuários.

Por que isso acontece justamente agora? Simples: o GPT-5 aparece no horizonte. Cada nova geração de modelos mostra crescimento exponencial de capacidades, e os reguladores nos EUA e na Europa já não estão dispostos a acreditar na palavra da OpenAI. Querem pessoas concretas responsáveis por processos concretos. Também é uma ótima jogada de relações públicas: mostrar que a empresa amadurece e está pronta para seguir regras, ainda que ela mesma as escreva.

Na prática, vemos uma tentativa de legitimar o desenvolvimento de sistemas superpoderosos. Se você tem um «diretor de preparação», está pronto para qualquer cenário, certo? Pelo menos é assim que deve parecer aos olhos do público. Mas fica em aberto a pergunta: uma única pessoa, mesmo com o título mais temível, conseguirá parar uma máquina de bilhões se ela de repente decidir que não precisa mais de regras? Numa indústria em que a velocidade de lançamento de atualizações define a sobrevivência, a segurança muitas vezes vira um incômodo que se quer contornar pelo acostamento.

O ponto central: a OpenAI constrói a fachada de uma corporação responsável antes de lançar seu próximo grande modelo. A IA ficará mais segura com isso, ou é apenas o trabalho habilidoso de advogados e do RH?