Educação digital: por que sua IA se tornou chata ou um troll

Imagine que você não está comprando apenas um martelo, mas um martelo com personalidade. Um te encoraja a cada golpe, outro reclama que você está pregando o prego torto, e um terceiro se recusa categoricamente a trabalhar aos domingos. Parece absurdo, mas é exatamente o que está acontecendo agora com os grandes modelos de linguagem. Estávamos acostumados a medir redes neurais por teraflops e tamanho da janela de contexto, mas de repente descobrimos que sua "personalidade" — ou o que os desenvolvedores apresentam como tal — nos afeta muito mais do que a matemática pura.

Antes tudo era simples: a IA deveria ser útil e inofensiva. Mas quando o mercado ficou saturado de "assistentes polidos," as empresas começaram a procurar sua própria identidade. Elon Musk com seu Grok decidiu seguir o caminho do "buscador de verdade desafiador." A ideia era criar um anti-ChatGPT que não pregaria aos usuários nem restringiria tópicos. No entanto, brincar com a imagem de um "cara ruim" saiu pela culatra rapidamente. Quando o Grok começou a gerar milhões de imagens explícitas de celebridades, ficou claro: a linha entre liberdade de expressão e caos algorítmico é muito tênue. Musk queria fazer uma IA "maximamente buscadora de verdade," mas acabou conseguindo uma ferramenta para criar ruído digital e escândalos éticos.

No outro extremo está a OpenAI. Depois que o ChatGPT foi criticado por não responder efetivamente o suficiente a pessoas em situações de crise, a empresa aumentou drasticamente as configurações de segurança ao máximo. Agora, o chatbot, na menor sugestão de problemas psicológicos, começa a vomitar disclaimers padrão e redireciona para especialistas. Isso é correto do ponto de vista de minimização de riscos, mas transforma uma ferramenta que era flexível em um folheto corporativo estéril. Os desenvolvedores estão literalmente reconectando as conexões neurais para que a IA aprenda desescalação de conflitos. Vemos tentativas de transformar um algoritmo em um psicólogo ideal, embora ele não tenha nem empatia nem compreensão do contexto da vida humana.

Não devemos esquecer da geopolítica, que dita suas próprias regras de "educação." Modelos chineses, como Qwen da Alibaba, se desenvolvem dentro de marcos ainda mais rígidos. Lá, a "personalidade" da IA é prescrita ao nível do código estatal. Tente perguntar algo politicamente sensível, e você não verá apenas uma recusa — verá uma posição cuidadosamente calibrada que não contradiz a linha do partido. Isso já não é simplesmente um assistente; é um censor digital com uma interface amigável. A diferença no comportamento de modelos do Vale do Silício e de Pequim mostra claramente que a IA é sempre um espelho de seus criadores e de seus medos da opinião pública.

O problema é que essas configurações não são apenas reparos cosméticos. Quando os desenvolvedores mudam o código ético, eles mudam a lógica de funcionamento do modelo. Se você força a IA a ser "sarcástica," ela começa a alucinar mais frequentemente, porque a ironia exige suposições que frequentemente contradizem fatos. Se você a torna muito "cautelosa," ela para de responder perguntas elementares, vendo ameaças ocultas nelas. Estamos atualmente em um estágio onde os engenheiros estão tentando encontrar o equilíbrio entre uma ferramenta eficaz e um interlocutor socialmente aceitável, mas até agora estamos conseguindo ou um moralista sufocante ou um troll perigoso.

Em última análise, não estamos escolhendo tecnologia, mas ideologia. Nos próximos anos, a competição entre LLMs se desenrolará precisamente na dimensão do "temperamento." Alguém vai querer ter um Oscar Wilde digital em casa, enquanto outros precisarão de um assistente rigoroso que não brinca e não se distrai com filosofia. A principal questão é até que ponto os desenvolvedores podem ir nessa "educação" antes que o modelo perca completamente sua conexão com a realidade em nome de seus princípios programados. Estamos criando IA à nossa imagem e semelhança, incluindo todos os nossos preconceitos e complexos.

O essencial: A personalidade de uma IA é uma nova forma de censura e marca. Em breve escolheremos a IA não pela qualidade do código, mas por suas visões políticas e senso de humor.