Governo dos EUA revela 3.611 usos de IA na administração federal

O governo Trump divulgou dados sobre o uso em larga escala de inteligência artificial em órgãos federais: 3611 casos ativos ou planejados, 70% a mais do que na administração anterior.

Um reconhecimento discreto

Em 14 de abril, o Escritório de Gestão e Orçamento (OMB) publicou um registro atualizado do uso de IA nos órgãos federais dos EUA. Chama a atenção que isso tenha acontecido sem coletivas de imprensa nem audiências públicas: os dados apareceram como um commit técnico em um repositório governamental no GitHub.

A lista cresceu 70% em relação ao registro equivalente do último ano da presidência de Biden e abrange milhares de cenários em que algoritmos tomam ou apoiam decisões em nome do Estado. Para ter uma noção de escala: poucos anos atrás eram centenas de projetos-piloto, principalmente em gestão de documentos. Hoje o número passa de três mil e quinhentos.

Parte deles são tarefas de apoio relativamente inofensivas: automatizar o processamento de solicitações, buscar em bancos de dados, classificar documentos. Mas uma parcela significativa do registro envolve decisões que afetam diretamente a vida e a liberdade de pessoas concretas.

O que passa para o controle dos algoritmos

O registro abrange um leque amplo e, em alguns pontos, preocupante de funções sensíveis do Estado. Entre as tarefas delegadas à IA:

• Sistemas de avaliação de risco no sistema judicial, que influenciam decisões sobre prisão, fiança e liberdade condicional
• Gestão do acesso a serviços públicos de saúde e previdência social
• Monitoramento da segurança de reatores nucleares e infraestruturas críticas
• Controle de fronteiras e decisões de imigração
• Análise preditiva em órgãos de segurança pública

Não são perspectivas abstratas: os sistemas já estão sendo implantados ou têm lançamento previsto em todos os níveis da administração federal.

A transparência que não existe

Nathan E. Sanders, do Centro Berkman Klein de Harvard, e Bruce Schneier, da Escola de Governo Kennedy, autores do livro Rewiring Democracy: How AI Will Transform Our Politics, Government, and Citizenship, resumem assim o problema central:

"Trata-se da transferência de processos de tomada de decisão de

humanos para máquinas em escala enorme, em questões de liberdade pessoal, saúde e bem-estar das pessoas, segurança de instalações nucleares e muito mais."

A questão central não é o uso de IA em si, mas a falta de mecanismos de responsabilização e de recurso. Quando um algoritmo decide sobre o status migratório ou sobre o risco de soltar um preso, quem responde por um erro? Como contestar uma decisão se os critérios não são divulgados? Muitos algoritmos governamentais funcionam como "caixas-pretas": sua lógica interna é fechada até para os reguladores.

O que isso significa

Revelar 3611 casos é um passo rumo à transparência, mas a forma como isso aconteceu diz muito. O público não soube por audiências no Congresso nem por comunicados oficiais, e sim por um commit técnico no GitHub. Quando a transferência em massa de funções do Estado para algoritmos ocorre sem debate público, o risco de erros sistêmicos cresce e as ferramentas para corrigi-los diminuem.

A questão já não é se a IA vai gerir funções críticas do Estado. Ela já gere. A questão é quem controla a própria IA.