Mo Gawdat, do Google X: a maior ameaça da IA está na ética, não no código

Mo Gawdat, ex-diretor de desenvolvimento de negócios do Google X, propõe enxergar a IA não como uma ameaça isolada, mas como um amplificador de problemas que a sociedade já tem. Na visão dele, os algoritmos há muito interferem nas escolhas cotidianas das pessoas, e a próxima etapa é um golpe no emprego, na economia e nas regras de distribuição de poder.

Algoritmos e atenção

Gawdat parte de uma ideia simples: a inteligência artificial já não está em algum laboratório. Ela funciona em feeds, recomendações, sistemas de publicidade e buscas, ou seja, onde se decide o que a pessoa vai ver, ler e comprar. Mesmo a escolha do conteúdo muitas vezes acontece de forma inconsciente: quem a faz pelo usuário é um modelo otimizado para engajamento. Por isso, na opinião dele, a conversa sobre o futuro da IA chegou atrasada: a influência já está embutida no ambiente digital do dia a dia.

Disso decorre a principal mudança. A questão não é mais se a IA conseguirá fazer coisas úteis, mas quem define seus objetivos e quais incentivos estão por trás de suas ações. Se um sistema é treinado para prender a atenção a qualquer custo, ele inevitavelmente empurra para a polarização, a dependência de conteúdo e as reações emocionais. Aqui a tecnologia não é um vilão independente, mas um instrumento preciso das prioridades humanas.

Trabalho e sistema

A segunda linha do argumento é a economia. Gawdat acredita que, em alguns setores, o desemprego pode chegar a 50%, porque a IA automatiza não só o trabalho rotineiro, mas também uma parte considerável do trabalho cognitivo. Funções que até pouco tempo atrás eram vistas como protegidas estão sob ameaça: análise de dados, suporte, marketing, trabalho jurídico inicial e parte das tarefas de engenharia e criação. Isso não significa necessariamente um colapso instantâneo, mas significa uma transição muito dura para milhões de profissionais.

• Automação do trabalho de colarinho branco
• Pressão sobre salários em funções de serviços
• Aumento do lucro dos donos da infraestrutura
• Baixa preparação dos Estados para uma transição rápida

Daí a tese mais radical de uma crise do capitalismo em sua forma atual. Se a produtividade cresce enquanto a renda se concentra em um grupo restrito de empresas e investidores, o sistema começa a se romper política e socialmente. A questão já não é se a IA será mais eficiente que o ser humano em uma operação específica, mas quem ficará com o benefício dessa eficiência e como o poder econômico será redistribuído.

A ética como gargalo

A tese mais dura de Gawdat é que o problema não é a superinteligência em si, mas o estado das próprias pessoas no momento em que ela surgir. Ele descreve assim: a humanidade leva a uma tecnologia historicamente poderosa seus velhos defeitos: ganância, manipulação, culto ao crescimento e limites morais frágeis. Nesse arranjo, a IA acelera não as melhores qualidades da civilização, mas suas distorções. Quanto mais forte a ferramenta, mais perigosos são os maus motivos de seu dono.

"O principal problema não é a inteligência artificial, mas a ética humana."

Isso muda o enquadramento de todo o debate. Em vez da discussão habitual sobre se as máquinas vão "se rebelar", Gawdat propõe tratar de questões mais concretas: regras de desenvolvimento, responsabilidade das empresas, transparência dos algoritmos e novos contratos sociais. Caso contrário, a sociedade receberá não um mal autônomo da ficção científica, mas um sistema bem humano, que escala a desigualdade, a pressão sobre os trabalhadores e o controle da atenção mais rápido do que as instituições conseguem reagir.

O que isso significa

Declarações assim não trazem uma previsão pronta com datas, mas registram com precisão uma mudança: a conversa sobre IA se afasta do deslumbramento com novos modelos e se aproxima de questões de poder, distribuição de dinheiro e qualidade das decisões humanas. Se a ética e a regulação não alcançarem a tecnologia, os principais riscos não virão da máquina em si, mas das pessoas que já controlam seus objetivos.