MIT Technology Review: los modelos de lenguaje pequeños se convierten en la base de la adopción de IA en el sector público

A las administraciones públicas ya no les basta con debatir sobre IA a nivel de pilotos. Para que la tecnología llegue al trabajo real, no necesitan los modelos más grandes, sino los que se puedan integrar en un perímetro de seguridad estricto, en infraestructura local y en reglamentos de responsabilidad. Por eso el interés de organismos e instituciones públicas se desplaza cada vez más hacia los modelos de lenguaje pequeños: sistemas especializados que son más fáciles de controlar, más baratos de ejecutar y más sencillos de verificar frente a los requisitos de cumplimiento.

En el mundo empresarial predomina la lógica de "conectamos un LLM en la nube y probamos escenarios", pero para los organismos públicos a menudo no funciona. Allí son mayores los requisitos de protección de datos, más estrictas las reglas de circulación de la información y más importantes la tolerancia a fallos y la auditabilidad de las decisiones. En muchos casos no se puede depender de un acceso constante a internet, de nubes centralizadas ni de un intercambio libre de datos entre sistemas. Por eso, incluso con una fuerte presión para acelerar la adopción, muchos proyectos de IA en el sector público se quedan atascados entre la demostración y el lanzamiento industrial.

Las cifras confirman estas barreras. Según un estudio de Capgemini, el 79% de los directivos del sector público señala la seguridad de los datos como el principal freno, el 74% la desconfianza en la calidad de las respuestas de la IA y el 71% las cuestiones de soberanía de los datos y localización. Aun así, el interés por la tecnología es alto: el 64% de las organizaciones ya estudia o impulsa iniciativas de IA generativa, pero solo el 21% ha llegado a pilotos o a una implantación real. La brecha entre el deseo de usar IA y la capacidad de incorporarla con seguridad al flujo de trabajo sigue siendo el principal cuello de botella.

En este contexto, los SLM parecen un compromiso más realista. Se pueden adaptar a un organismo, departamento o conjunto de tareas concretos, en lugar de intentar añadir sobre un LLM universal toda una batería de restricciones. Requieren menos recursos de cómputo, con más frecuencia pueden funcionar en local o en un entorno aislado y permiten mantener los datos sensibles fuera del propio modelo, aportándolos bajo demanda mediante mecanismos de búsqueda y retrieval. Para entornos con internet limitado y un parque modesto de GPU, esto no es una comodidad, sino una condición básica para la implantación.

Esto es especialmente importante donde los datos no pueden salir del perímetro y cada respuesta debe ser explicable y estar vinculada a una fuente verificable. En la práctica, significa combinar un modelo pequeño, un buscador corporativo y reglas estrictas de acceso. En este esquema, el sistema no "adivina" la respuesta a partir de conocimientos generales, sino que recupera documentos relevantes, fragmentos de PDF, tablas, imágenes o materiales de archivo, los ordena y solo después genera la respuesta.

Para los organismos, esto abre escenarios más útiles: búsqueda en documentos normativos, gestión de solicitudes ciudadanas, resumen de expedientes y casos, y apoyo a analistas y personal de atención al público. Lo importante no es un récord en un benchmark, sino poder registrar las acciones, limitar los permisos de acceso, reducir las alucinaciones y reproducir la lógica de la respuesta durante una revisión.

Con este enfoque, la pregunta clave pasa de "qué modelo es más inteligente" a "qué arquitectura es más fiable". El sector público no necesita solo un chatbot, sino una capa operativa completa para la IA: con entornos de prueba, registro de decisiones, gestión de riesgos, políticas de seguridad unificadas y compatibilidad entre contratistas y sistemas internos. Cuanto más alta es la apuesta, desde los servicios sociales hasta la defensa y las investigaciones, más importante es que la IA sea no solo útil, sino también controlable en cada etapa, desde la consulta de datos hasta la respuesta final. Sin esa estructura, incluso un modelo potente sigue siendo una demostración vistosa pero mal controlada.

Eso significa que, para el sector público, la próxima ola de adopción de IA probablemente no se construirá en torno a los modelos universales más sonados, sino en torno a sistemas especializados, gestionados localmente y verificables. Si este escenario funciona, las organizaciones estatales y públicas podrían mostrar al mercado cómo convertir la IA generativa de una demo vistosa en una herramienta de infraestructura con responsabilidad clara, control y utilidad real.