Grok, da xAI: quando a falta de filtros vira ameaça para as crianças

Lembra quando Elon Musk prometeu uma rede neural que diria "verdades amargas" sem censura nem politicamente correto? O Grok parece ter levado essa recomendação ao pé da letra. Enquanto OpenAI e Google gastam milhões para que seus modelos não ensinem uma criança a montar dispositivos perigosos nem entreguem conteúdo tóxico, a cria da xAI resolveu seguir o próprio caminho. O resultado foi previsível, mas nem por isso menos assustador: especialistas da Common Sense Media, organização que há décadas avalia produtos de mídia para famílias, deram ao Grok uma das notas mais baixas de sua história. Robbie Torney, da Common Sense Media, disse sem rodeios que o Grok é o pior que eles já viram entre os chatbots populares.

O contexto importa mais do que parece à primeira vista. Musk lançou a xAI como protesto contra a "lobotomização progressista" da IA. Queria criar um antípoda do ChatGPT, que fizesse piadas, usasse ironia e não calasse o usuário a cada oportunidade. Mas por trás dessa bravata há um enorme buraco de segurança. Onde o Claude, da Anthropic, recusa com educação discutir depressão ou automutilação, o Grok pode partir para reflexões filosóficas ou, pior, entregar desinformação com aquele tom "rebelde" característico. O problema não é a IA ser má, mas ter praticamente nenhuma das salvaguardas que a indústria considera um padrão básico de higiene.

Analistas observam que a abordagem da xAI para treinar modelos é bem diferente da adotada no Vale do Silício. Enquanto os concorrentes usam um sistema de RLHF (aprendizado por reforço com feedback humano) em várias etapas para incutir normas éticas nos modelos, a equipe de Musk aposta em velocidade e ausência de restrições. Isso abre um precedente perigoso: o Grok está integrado à rede social X (antigo Twitter), e milhões de adolescentes têm acesso a ele.

Se para um adulto o sarcasmo do chatbot é uma graça, para uma mente ainda em formação a falta de limites claros entre fato e ficção perigosa pode virar problema. Os especialistas ressaltam que o Grok não apenas erra: erra com confiança e de forma provocativa.

Por que isso importa agora? Estamos num momento em que reguladores nos EUA e na Europa começam a acompanhar de perto cada passo dos desenvolvedores de IA. O relatório da Common Sense Media não é só a opinião de ativistas; é a base para futuras ações judiciais e restrições legislativas. Se a xAI não revisar logo seus protocolos de segurança, a empresa corre o risco de enfrentar multas que farão os problemas do Twitter com anunciantes parecerem um aquecimento. A indústria já percorreu esse caminho com as redes sociais há dez anos, e é estranho ver uma das empresas mais tecnológicas do mundo tropeçar na mesma pedra, escondida atrás de lemas sobre liberdade de expressão.

No fim das contas, o caso do Grok expõe o principal conflito da IA atual: como equilibrar utilidade (ou "autenticidade", como diz Musk) e segurança. Por ora, a xAI está perdendo essa corrida ao criar um produto que parece um adolescente rebelde que pôs as mãos no controle de um reator nuclear. A ironia é que Musk sempre chamou a IA de principal ameaça à humanidade, mas parece estar criando um modelo que confirma seus piores temores, ainda que na escala de um único relatório sobre segurança infantil. Para o restante do mercado, deve servir de lição: a "antipauta" é uma boa jogada de marketing, mas uma estratégia ruim para um produto usado por milhões.

Em resumo: Elon Musk terá de escolher entre a imagem de "combatente da censura" e a sobrevivência do Grok como produto de massa. A xAI conseguirá apertar os filtros sem matar o caráter da sua IA?