Yoshua Bengio e LawZero: por que o medo da IA do futuro distrai das ameaças de hoje

O debate sobre o futuro da inteligência artificial gira cada vez mais em torno de cenários em que as máquinas um dia se tornam inteligentes e escapam do controle. A tese central deste texto é outra: não é preciso esperar por uma superinteligência hipotética, porque os principais riscos da IA já aparecem na economia e na política reais. Não se trata de uma rebelião das máquinas, mas de concentração de poder, vigilância, pressão sobre trabalhadores e uso da tecnologia em benefício de grandes estruturas.

O autor afirma de forma direta que não considera inteligentes os sistemas de IA atuais e não vê motivo para supor que modelos estatísticos impressionantes levem automaticamente a uma inteligência plena. Por isso, ele encara conversas do tipo «o que fazer se a IA se tornar consciente» como uma distração conveniente ou como um enquadramento de marketing que permite discutir catástrofes futuras espetaculares em vez dos problemas incômodos do presente. Daí a referência à «aposta de Pascal»: o medo de um evento improvável, mas grandioso, passa a ditar a pauta com mais força do que as consequências já observáveis.

A posição do autor, porém, não se resume a um tecnootimismo incondicional. Pelo contrário, ele admite compartilhar parte das preocupações dos chamados «doomers» da IA, mas vê a origem da ameaça não no despertar de uma mente de máquina, e sim nas pessoas e instituições que já controlam esses sistemas. Preocupa-o que as ferramentas digitais estejam concentradas nas mãos de corporações cuja escala dificulta o controle público. Preocupa-o que a tecnologia seja usada contra usuários e trabalhadores: para reforçar o monitoramento, automatizar a pressão, endurecer métricas de produtividade e inclinar ainda mais o equilíbrio de forças a favor de empregadores e do Estado.

É aqui que surge o principal conflito com a corrente mais futurista da segurança em IA. O estopim foi um debate público em Montreal, onde o autor participou ao lado de Astra Taylor e Yoshua Bengio. Bengio é um dos pesquisadores mais respeitados em aprendizado profundo, vencedor do Prêmio Turing e um cientista cujo trabalho ajudou a moldar o atual boom da IA. Hoje ele participa da iniciativa LawZero, que propõe criar um consórcio internacional e desenvolver a IA como bem público digital: aberta, transparente, verificável e segura. Para os defensores dessa abordagem, os riscos de longo prazo são sérios o bastante para justificar a construção antecipada de instituições de proteção.

O autor, no entanto, discute menos a ideia de se precaver do que a ordem das prioridades. Na lógica dele, falar de uma superinteligência hipotética vira com muita facilidade uma abstração conveniente, enquanto os sistemas atuais de reconhecimento, recomendação, geração e avaliação do trabalho já estão embutidos em mecanismos de controle aqui e agora. Eles influenciam contratação, produtividade, moderação, acesso à informação e as relações entre Estado, empresas e cidadãos. Quando o poder se concentra nas gigantes de tecnologia e o Estado se apoia de bom grado em suas ferramentas, o problema deixa de ser ficção científica: torna-se político, social e trabalhista.

Essa visão importa também porque muda a linguagem do próprio debate. Em vez de «como salvar a humanidade de uma supermáquina autônoma», surge um conjunto de temas mais concreto: quem é dono dos recursos computacionais, quem define as regras de acesso a dados, quais mecanismos de auditoria realmente funcionam e quem responde pelos danos de decisões automatizadas. É uma pauta menos espetacular que as previsões apocalípticas, mas é ela que determina se a tecnologia vai ampliar a desigualdade ou servir ao interesse público.

Essa é a conclusão prática. O debate sobre o futuro da IA é importante, mas não deve substituir a conversa sobre transparência dos modelos, responsabilização das plataformas, direitos dos trabalhadores e limites da vigilância digital. Se a atenção da sociedade ficar presa apenas a um cenário raro de catástrofe futura, corporações e governos ganharão ainda mais espaço para decisões que pioram a vida hoje.

O texto propõe uma ótica simples, porém incômoda: a questão principal não é se a IA algum dia ficará inteligente demais, mas quem usa a IA atual, em favor de quem e com quais consequências para a sociedade.