MIT Technology Review: modelos de linguagem pequenos viram a base da adoção de IA no setor público

Para os órgãos públicos, já não basta discutir IA no nível de pilotos. Para a tecnologia chegar ao trabalho real, eles não precisam dos maiores modelos, mas de modelos que possam ser integrados a um perímetro rígido de segurança, à infraestrutura local e a regras de responsabilização. Por isso, o interesse de órgãos e instituições públicas se volta cada vez mais para os modelos de linguagem pequenos: sistemas especializados que são mais fáceis de controlar, mais baratos de rodar e mais simples de verificar quanto aos requisitos de conformidade.

No mundo corporativo, é comum a lógica de "conectamos um LLM na nuvem e fomos testar cenários", mas para os órgãos públicos isso muitas vezes não funciona. Lá, os requisitos de proteção de dados são maiores, as regras de circulação de informação são mais rígidas e a tolerância a falhas e a auditabilidade das decisões pesam mais. Em muitos casos, não é possível depender de acesso constante à internet, de nuvens centralizadas ou de troca livre de dados entre sistemas. Por isso, mesmo sob forte pressão para acelerar a adoção, muitos projetos de IA no setor público ficam travados entre a demonstração e o lançamento em produção.

Os números confirmam essas barreiras. Segundo pesquisa da Capgemini, 79% dos executivos do setor público apontam a segurança de dados como o principal freio, 74% citam a desconfiança na qualidade das respostas da IA e 71% mencionam questões de soberania e localização de dados. Ainda assim, o interesse pela tecnologia é alto: 64% das organizações já estudam ou conduzem iniciativas de IA generativa, mas apenas 21% chegaram a pilotos ou à implantação real. A distância entre a vontade de usar IA e a capacidade de incorporá-la com segurança à rotina continua sendo o principal gargalo.

Nesse contexto, os SLMs parecem um meio-termo mais realista. Esses modelos podem ser adaptados a um órgão, departamento ou conjunto de tarefas específico, em vez de tentar acrescentar a um LLM universal todo um conjunto de restrições. Eles exigem menos recursos computacionais, com mais frequência podem rodar localmente ou em ambiente isolado e permitem manter dados sensíveis fora do próprio modelo, fornecendo-os sob demanda por meio de mecanismos de busca e retrieval. Para ambientes com internet limitada e um parque modesto de GPUs, isso não é conveniência, mas condição básica para a implantação.

Isso é especialmente importante onde os dados não podem sair do perímetro e cada resposta precisa ser explicável e vinculada a uma fonte verificável. Na prática, isso significa combinar um modelo pequeno, busca corporativa e regras rígidas de acesso. Nesse esquema, o sistema não "adivinha" a resposta com base em conhecimento geral, mas recupera documentos relevantes, trechos de PDF, tabelas, imagens ou materiais de arquivo, ranqueia tudo e só depois gera a resposta.

Para os órgãos, isso abre cenários mais úteis: busca em documentos normativos, tratamento de solicitações de cidadãos, resumo de dossiês e casos, e apoio a analistas e equipes de atendimento. O que importa não é um recorde em benchmark, mas a capacidade de registrar ações em log, restringir permissões de acesso, reduzir alucinações e reproduzir a lógica da resposta durante uma auditoria.

Nessa abordagem, a pergunta central passa de "qual modelo é mais inteligente" para "qual arquitetura é mais confiável". O setor público não precisa apenas de um chatbot, mas de uma camada operacional completa para a IA: com ambientes de teste, registro de decisões, gestão de riscos, políticas de segurança unificadas e compatibilidade entre fornecedores e sistemas internos. Quanto maior o risco, de serviços sociais a defesa e investigações, mais importante é que a IA seja não só útil, mas também controlável em cada etapa, da consulta aos dados até a resposta final. Sem essa estrutura, mesmo um modelo forte continua sendo uma demonstração vistosa, porém mal controlada.

Isso significa que, para o setor público, a próxima onda de adoção de IA provavelmente não será construída em torno dos modelos universais mais badalados, mas de sistemas especializados, gerenciados localmente e verificáveis. Se esse cenário funcionar, as organizações estatais e públicas podem mostrar ao mercado como transformar a IA generativa de uma demo vistosa em uma ferramenta de infraestrutura, com responsabilidade clara, controle e utilidade real.