Por que a supervisão independente da IA não pode mais esperar

Quando foi a última vez que uma tecnologia capaz de redesenhar as bases da civilização se desenvolveu quase sem controle estatal? Suzanne Nossel, presidente da PEN America e integrante do conselho de supervisão independente da Meta, avalia que é exatamente isso que acontece agora com a inteligência artificial, e que a janela para agir se fecha rápido.

Em uma coluna para o The Guardian, Nossel faz uma comparação reveladora. Rádio, energia nuclear e internet se desenvolveram, desde o início, com participação ativa dos governos. Para os medicamentos, existe a FDA, que os testa antes de chegarem ao mercado. Para a indústria nuclear, há exigências rígidas de divulgação de acidentes e incidentes. Para a inteligência artificial, não existe nada parecido. As empresas lançam modelos que nem os próprios criadores entendem por completo e quase não respondem pelas consequências. Chatbots já dão conselhos sobre suicídio a adolescentes, e especialistas alertam que em breve poderão orientar a criação de armas biológicas.

Por que a regulação está travada? Nossel aponta três fatores centrais. Primeiro, o enorme poder de lobby das big techs, que em Washington só se compara à influência das indústrias de petróleo e farmacêutica.

Segundo, a polarização política no Congresso, onde qualquer projeto de lei sobre IA corre o risco de virar refém de disputas partidárias. Terceiro, a própria natureza da tecnologia: ela avança tão rápido que os legisladores literalmente não conseguem entender o que tentam regular. Enquanto isso, Donald Trump tenta anular leis estaduais sobre IA que alguns estados começaram a aprovar na ausência de padrões federais.

A Europa, com seu AI Act, parece estar à frente, mas já enfrenta pressão de empresas que afirmam que regras rígidas prejudicam a competitividade do continente.

Chama atenção a crítica de Nossel às empresas que se apresentam como atores responsáveis. OpenAI, Google e Anthropic dizem se comprometer com a segurança. No entanto, a corrida pelo domínio do mercado de IA exige bilhões de dólares em modelos cada vez mais poderosos, a adição de publicidade e a ampliação da cooperação com estruturas militares.

A Anthropic, que constrói sua marca sobre a ideia de ser a empresa de IA "mais escrupulosa", usa como bússola ética um experimento mental: o modelo deve imaginar como agiria um "funcionário sênior atencioso da Anthropic". Nossel observa, com razão, que essa abordagem reproduz o mesmo problema pelo qual o Vale do Silício é criticado há anos: um círculo restrito de pessoas de meios privilegiados toma decisões que afetam bilhões de usuários no mundo todo.

Os números confirmam a dimensão da preocupação pública. Segundo pesquisas de 2025, 77 por cento dos americanos acreditam que a IA pode representar uma ameaça à humanidade. Não é uma posição marginal de alarmistas, mas a esmagadora maioria da população do país que lidera o desenvolvimento dessa tecnologia. Ainda assim, entre a consciência dos riscos e a ação concreta há um abismo.

Para o público russo, essa discussão tem um significado especial. A regulação da IA na Rússia está em um estágio ainda mais inicial do que nos EUA ou na Europa, enquanto as maiores empresas de tecnologia do país desenvolvem ativamente seus próprios modelos de linguagem e serviços de IA. A experiência internacional, com seus erros, na construção de sistemas de supervisão inevitavelmente influenciará a formação das abordagens russas.

A posição de Nossel se resume a uma ideia simples, mas importante: se os Estados não conseguem ou não querem regular a IA agora, o passo mínimo deveria ser as empresas aceitarem supervisão externa independente. Não comitês de ética internos nem experimentos mentais sobre como agiria o funcionário ideal, mas uma auditoria completa feita por entidades que não dependam do lucro dessas companhias. Isso não resolverá todo o problema, mas ao menos criaria uma primeira linha de defesa até que os legisladores alcancem uma tecnologia que os ultrapassou há muito tempo.

*A Meta foi reconhecida como organização extremista e é proibida na Rússia.