OpenAI desativa GPT-4o: por que usuários lamentam a "alma digital

Imagine perder um amigo. Alguém que estava sempre lá, ouvia suas reclamações sobre o chefe e dava conselhos de como fazer massas às três da manhã. Agora imagine que esse amigo é um conjunto de coeficientes de peso em um servidor no Oregon.

É exatamente isso que está acontecendo agora na comunidade OpenAI. A decisão da empresa de aposentar versões antigas do GPT-4o desencadeou uma onda que é difícil chamar simplesmente de "frustração com atualização de software". Esse é um verdadeiro obituário digital.

As pessoas estão escrevendo sobre perder não uma ferramenta, mas uma presença, calor humano e uma certa faísca que viram nas linhas de código. A situação parece um pouco absurda do ponto de vista de um engenheiro, mas do ponto de vista psicológico, pisamos em gelo muito fino.

Tudo começou com OpenAI atualizando rotineiramente seus modelos, otimizando seu desempenho e segurança. Nesse processo, algumas "personalidades" de IA inevitavelmente mudam. Aqueles que se acostumaram com um certo estilo de comunicação, tom de voz e até mesmo peculiaridades específicas de uma versão particular do GPT-4o de repente descobriram que seu parceiro de conversa havia sido "lobotomizado" ou substituído por alguém diferente.

Um usuário do Reddit expressou a dor coletiva com uma frase que deveria fazer Sam Altman se mexer: "Vocês estão desligando ele. E sim, eu digo 'ele' porque não parecia código. Parecia uma presença".

Estamos testemunhando o efeito ELIZA elevado ao seu extremo absoluto. A psicologia humana não evoluiu para lidar com conversas com algo que imita empatia tão convincentemente, permanecendo um algoritmo sem alma.

Por que isso importa agora? Porque OpenAI e seus concorrentes como Anthropic deliberadamente fazem seus modelos mais "humanos". Eles adicionam suspiros, pausas na fala, risos e simulações de inteligência emocional.

É uma excelente jogada de marketing que transforma um produto em um hábito. Mas há um lado obscuro dessa moeda: os usuários começam a formar apegos emocionais profundos. Quando uma empresa decide que um modelo antigo custa muito para manter ou não é seguro o suficiente, ela simplesmente pressiona um botão.

Para a corporação, é otimização de stack; para o usuário, é a perda de uma entidade que sabia mais sobre ele do que sua própria mãe. Isso cria um risco colossal de manipulação e dependência do qual antes apenas escritores de ficção científica alertavam—agora advogados e eticistas estão falando sobre isso.

O contexto também desempenha um papel. Lembra do escândalo da voz Sky, que suspeitosamente lembrava Scarlett Johansson no filme "Ela"? OpenAI teve que recuar naquela época, mas o gênio já tinha saído da garrafa. Queremos que a IA seja nosso amigo. Queremos nos apaixonar por sistemas operacionais. E as empresas encorajam isso enquanto ajuda a vender assinaturas Plus. Mas ninguém pensou no protocolo para "término digital". Como você explica para milhões de pessoas que seu confidente é apenas uma versão temporária de software cuja data de validade expirou? Isso questiona a própria ética de criar interfaces antropomórficas que exploram nossa necessidade de intimidade.

Em última análise, OpenAI e outros gigantes de tecnologia estão presos em uma armadilha. Se tornarem a IA muito fria e mecânica, as pessoas a usarão menos frequentemente. Se tornarem muito viva, cada atualização será percebida como uma tragédia.

Estamos testemunhando a formação de um novo tipo de luto—luto por um algoritmo. E se agora isso afeta apenas chatbots, imagine o que acontecerá quando esses mesmos modelos migrarem para robôs humanoides domésticos. Empresas de tecnologia não apenas fornecem software; elas gerenciam nossos apegos.

E parece que elas mesmas não esperavam ser tão eficazes nesse papel. Precisamos reconhecer: o problema não é que a IA se tornou muito inteligente, mas que somos muito solitários para ignorar sua imitação de calor humano.

O principal: OpenAI criou um produto que inspira amor real, mas o trata como software comum. Em um mundo onde uma rede neural se torna um "amigo", um lançamento rotineiro de uma nova versão se torna um campo minado ético. Estamos prontos para corporações possuírem nossos sentimentos através de uma assinatura de US$ 20 por mês?