Mo Gawdat, do Google X: por que a principal ameaça da AI não está no código, mas na ética

Mo Ghadir, antigo diretor de desenvolvimento de negócios do Google X, propõe enxergar a IA não como uma ameaça separada, mas como um amplificador de problemas já existentes na sociedade. Segundo sua visão, algoritmos há muito interferem nas escolhas cotidianas das pessoas, e o próximo estágio é um golpe no emprego, na economia e nas regras de distribuição do poder.

Algoritmos e Atenção

Ghadir começa com uma ideia simples: a inteligência artificial não está mais em algum laboratório. Ela funciona em feeds, recomendações, sistemas de anúncios e buscas—ou seja, onde se decide exatamente o que uma pessoa verá, lerá e comprará. Até mesmo a escolha do conteúdo frequentemente acontece de forma inconsciente—um modelo otimizado para engajamento a toma em nome do usuário. Por isso, segundo ele, a conversa sobre o futuro da IA chegou tarde demais: a influência já está embutida no ambiente digital cotidiano.

Disso decorre a principal mudança. Não se trata mais de saber se a IA consegue fazer coisas úteis, mas de quem estabelece seus objetivos e quais incentivos estão por trás de suas ações. Se um sistema é treinado para reter atenção a qualquer custo, ele inevitavelmente impulsiona a polarização, dependência de conteúdo e reações emocionais. A tecnologia aqui atua não como um vilão independente, mas como um instrumento preciso das prioridades humanas.

Trabalho e o Sistema

A segunda linha de seu argumento é a economia. Ghadir acredita que em certos setores o desemprego pode chegar a 50%, porque a IA automatiza não apenas trabalho rotineiro, mas também uma parcela significativa do trabalho cognitivo. Funções que ainda pouco tempo atrás eram consideradas protegidas estão sob ameaça: análise, suporte, marketing, trabalho jurídico inicial, parte das tarefas de engenharia e criativas.

Isso não significa necessariamente um colapso imediato, mas significa uma transição muito áspera para milhões de profissionais.

• Automação de trabalhos de colarinho branco
• Pressão nos salários em funções de serviço
• Aumento de lucros para proprietários de infraestrutura
• Fraca prontidão dos estados para uma transição rápida

Disso emerge uma tese mais radical sobre a crise do capitalismo em sua forma atual. Se a produtividade cresce mas a renda se concentra em um grupo restrito de empresas e investidores, o sistema começa a se desintegrar politicamente e socialmente. A questão já não é se a IA será mais eficiente que os humanos em uma operação específica, mas quem se beneficiará dessa eficiência e como o poder econômico será redistribuído.

Ética como Gargalo

A tese mais dura de Ghadir é que o problema não está na superinteligência como tal, mas no estado dos próprios humanos no momento de seu surgimento. Ele descreve a situação assim: a humanidade está levando para uma tecnologia historicamente poderosa seus próprios defeitos antigos—ganância, manipulação, culto ao crescimento e restrições morais fracas. Nessa construção, a IA acelera não as melhores qualidades da civilização, mas suas distorções. Quanto mais poderosa a ferramenta, mais perigosos são os motivos ruins de seu proprietário.

"O principal problema não está na inteligência artificial, mas na ética humana."

Isso muda o enquadramento de toda a discussão. Em vez do debate habitual sobre se as máquinas "se rebelarão", Ghadir propõe discutir coisas mais práticas: regras de desenvolvimento, responsabilidade corporativa, transparência de algoritmos e novos contratos sociais. Caso contrário, a sociedade terá não um mal autônomo da ficção científica, mas um sistema completamente humano que amplia a desigualdade, a pressão sobre trabalhadores e o controle da atenção mais rápido do que as instituições conseguem reagir.

O Que Isto Significa

Tais afirmações não fornecem uma previsão pronta com datas específicas, mas certamente fixam uma mudança: a conversa sobre IA está saindo do entusiasmo com novos modelos para questões sobre poder, distribuição de dinheiro e qualidade das decisões humanas. Se a ética e a regulação não acompanharem a tecnologia, os principais riscos serão criados não pela máquina em si, mas pelas pessoas que já controlam seus objetivos.