MIT Technology Review: Pequenos modelos de linguagem se tornam a base para implantação de IA no setor público

As estruturas governamentais não podem mais se dar o luxo de discutir IA apenas no nível de pilotos: para que a tecnologia chegue ao trabalho real, elas precisam não dos maiores modelos, mas daqueles que podem ser incorporados em um perímetro rígido de segurança, infraestrutura local e marcos de responsabilidade. É por isso que o interesse está cada vez mais se deslocando para modelos de linguagem pequenos para departamentos e instituições públicas — sistemas especializados que são mais simples de controlar, mais baratos de executar e mais fáceis de verificar contra requisitos de conformidade. Nos negócios, existe uma lógica comum de "plugar um LLM em nuvem e testar cenários", mas para organizações governamentais frequentemente não funciona.

Existem requisitos mais altos para proteção de dados, regras mais rigorosas para movimento de informações, maior importância colocada em tolerância a falhas e auditabilidade de soluções. Em muitos casos, você não pode confiar em acesso constante à internet, nuvens centralizadas ou troca livre de dados entre sistemas. É por isso que, apesar da forte pressão para acelerar a implementação, muitos projetos de IA no setor público ficam presos entre demonstração e lançamento industrial.

Essas barreiras são confirmadas por números. De acordo com a pesquisa da Capgemini, 79% dos líderes no setor público citam segurança de dados como o principal obstáculo, 74% — falta de confiança na qualidade da resposta da IA, e 71% — questões de soberania de dados e localização. Ao mesmo tempo, o interesse na tecnologia é alto: 64% das organizações já estão estudando ou conduzindo iniciativas em IA generativa, mas apenas 21% chegaram a pilotos ou implementação real.

A lacuna entre o desejo de usar IA e a capacidade de introduzi-la com segurança no ciclo de trabalho permanece o principal gargalo. Diante disso, SLMs parecem um compromisso mais realista. Esses modelos podem ser adaptados a uma agência específica, departamento ou conjunto de tarefas, em vez de tentar sobrepor um LLM universal a todo o conjunto de restrições.

Eles exigem menos recursos computacionais, frequentemente podem trabalhar localmente ou em um ambiente isolado, e permitem manter dados sensíveis fora do próprio modelo, alimentando-os sob demanda através de mecanismos de busca e recuperação. Para ambientes com internet limitada e um parque GPU modesto, isso não é uma conveniência, mas uma condição básica para implementação. Isso é especialmente importante onde os dados não podem ser levados para fora do perímetro, e cada resposta deve ser explicável e vinculada a uma fonte verificável.

Na prática, isso significa uma combinação de um modelo pequeno, busca corporativa e regras de acesso rigorosas. Em tal esquema, o sistema não "adivinha" a resposta a partir do conhecimento geral, mas extrai documentos relevantes, fragmentos de PDF, tabelas, imagens ou materiais de arquivo, os classifica e apenas então formula a resposta. Para órgãos governamentais, isso fornece cenários mais úteis: busca em documentos regulatórios, processamento de solicitações de cidadãos, resumo de arquivos e casos, suporte a analistas e pessoal de front-office.

O que importa não é um recorde de benchmark, mas a capacidade de registrar ações, restringir direitos de acesso, reduzir alucinações e reproduzir a lógica da resposta ao verificar. Nesta abordagem, a questão-chave muda de "qual modelo é mais inteligente" para "qual arquitetura é mais confiável". O setor público precisa não apenas de um chatbot, mas de uma camada operacional completa para IA: com contornos de teste, registro de decisões, gerenciamento de riscos, políticas de segurança unificadas e compatibilidade entre contratados e sistemas internos.

Quanto maiores os riscos — de serviços sociais a defesa e investigações — mais importante é que a IA seja não apenas útil, mas gerenciável em cada etapa: desde a solicitação de dados até a resposta final. Sem tal infraestrutura, mesmo um modelo poderoso permanece uma demonstração impressionante mas mal controlada. Isso significa que para o setor público, a próxima onda de implementação de IA provavelmente será construída não em torno dos modelos universais mais conhecidos, mas em torno de sistemas especializados, localmente controlados e verificáveis.

Se este cenário funcionar, podem ser as organizações estatais e públicas que mostrem ao mercado como transformar IA generativa de uma demonstração impressionante em uma ferramenta de infraestrutura com responsabilidade clara, controle e utilidade real.