Educação digital: por que sua IA virou uma chata ou uma trolladora

Imagine que você compra não apenas um martelo, mas um martelo com personalidade. Um te anima a cada batida, outro resmunga que você está pregando torto, e um terceiro se recusa terminantemente a trabalhar aos domingos. Parece absurdo, mas é exatamente o que acontece agora com os grandes modelos de linguagem. Estamos acostumados a medir redes neurais em teraflops e no tamanho da janela de contexto, mas de repente a "personalidade" delas — ou o que os desenvolvedores vendem como tal — influencia a gente muito mais que a matemática pura.

Antes era simples: a IA precisava ser útil e inofensiva. Mas quando o mercado ficou saturado de "assistentes educados", as empresas começaram a buscar uma identidade própria. Elon Musk e seu Grok escolheram o caminho do "sincerão ousado". A ideia era criar um anti-ChatGPT que não desse sermão nem limitasse os temas do usuário. Só que flertar com a imagem de "cara mau" logo saiu pela culatra. Quando o Grok passou a gerar milhões de imagens explícitas de celebridades, ficou claro que, para os algoritmos, a linha entre liberdade de expressão e caos é muito tênue. Musk queria uma IA "que busque ao máximo a verdade", mas acabou com uma ferramenta de ruído digital e escândalos éticos.

No outro extremo está a OpenAI. Depois que o ChatGPT foi acusado de não responder com eficácia suficiente a pedidos de pessoas em situações de crise, a empresa levou os ajustes de segurança ao máximo de uma só vez. Agora, ao menor indício de problemas psicológicos, o chatbot passa a emitir avisos padrão e a encaminhar para especialistas. Isso é correto do ponto de vista da minimização de riscos, mas transforma uma ferramenta antes flexível em um folheto corporativo estéril. Os desenvolvedores literalmente remodelam as conexões neurais para que a IA aprenda a desescalar conflitos. Vemos tentarem fazer de um algoritmo o psicólogo ideal, embora ele não tenha empatia nem compreensão do contexto da vida humana.

Também não dá para esquecer a geopolítica, que dita suas próprias regras de "educação". Modelos chineses, como o Qwen, da Alibaba, se desenvolvem sob limites ainda mais rígidos. Lá, o "caráter" da IA está definido no nível do código estatal. Pergunte algo politicamente sensível e você verá não só uma recusa, mas uma posição cuidadosamente calibrada que não contradiz a linha do partido. Isso já não é apenas um assistente, é um censor digital com interface amigável. A diferença de comportamento entre modelos do Vale do Silício e de Pequim mostra claramente que a IA é sempre um espelho de seus criadores e de seus medos da opinião pública.

O problema é que esses ajustes não são uma reforma cosmética. Quando os desenvolvedores mudam o código ético, mudam a própria lógica de funcionamento do modelo. Se obrigarem a IA a ser "sarcástica", ela passa a alucinar mais, porque a ironia exige suposições que muitas vezes contradizem os fatos. Se a deixarem "cautelosa" demais, ela deixa de responder perguntas elementares, vendo nelas uma ameaça oculta. Os engenheiros estão agora na fase de tentar achar o equilíbrio entre uma ferramenta eficiente e um interlocutor socialmente aceitável, mas por enquanto o resultado é um moralista sufocante ou um troll perigoso.

No fim das contas, não escolhemos uma tecnologia, e sim uma ideologia. Nos próximos anos, a concorrência entre LLMs vai se dar justamente no plano do "temperamento". Alguns vão querer ter em casa um Oscar Wilde digital, e outros precisarão de um assistente rigoroso que não faz piada nem se perde em filosofices. A grande questão é até onde os desenvolvedores podem ir nessa "educação" antes que o modelo perca de vez o contato com a realidade em favor de seus princípios programados. Criamos a IA à nossa imagem e semelhança, com todos os nossos preconceitos e complexos.

O principal: o caráter de uma rede neural é uma nova forma de censura e de branding. Logo escolheremos a IA não pela qualidade do código, mas por suas opiniões políticas e senso de humor.