MIT Technology Review: Los pequeños modelos de lenguaje se convierten en la base para la implementación de IA en el sector público

Las estructuras gubernamentales ya no pueden permitirse discutir IA solamente a nivel de pilotos: para que la tecnología llegue al trabajo real, necesitan no los modelos más grandes, sino aquellos que pueden incorporarse en un perímetro rígido de seguridad, infraestructura local y marcos de responsabilidad. Por eso el interés se está desplazando cada vez más hacia modelos de lenguaje pequeños para departamentos e instituciones públicas — sistemas especializados que son más simples de controlar, más baratos de ejecutar y más fáciles de verificar contra requisitos de cumplimiento. En los negocios existe una lógica común de "conectar un LLM en la nube y probar escenarios", pero para las organizaciones gubernamentales a menudo no funciona.

Hay mayores requisitos para la protección de datos, reglas más estrictas para el movimiento de información, mayor importancia en la tolerancia a fallos y la auditabilidad de las soluciones. En muchos casos, no se puede confiar en acceso constante a internet, nubes centralizadas o intercambio libre de datos entre sistemas. Por eso, a pesar de la fuerte presión para acelerar la implementación, muchos proyectos de IA en el sector público quedan atrapados entre demostración y lanzamiento industrial.

Estas barreras se confirman con números. Según la investigación de Capgemini, el 79% de los líderes en el sector público citan la seguridad de datos como el principal obstáculo, el 74% — la falta de confianza en la calidad de las respuestas de IA, y el 71% — cuestiones de soberanía de datos y localización. Al mismo tiempo, el interés en la tecnología es alto: el 64% de las organizaciones ya están estudiando o realizando iniciativas en IA generativa, pero solo el 21% han llegado a pilotos o implementación real.

La brecha entre el deseo de usar IA y la capacidad de introducirla de manera segura en el ciclo de trabajo sigue siendo el principal cuello de botella. En este contexto, los SLM parecen un compromiso más realista. Estos modelos pueden adaptarse a una agencia específica, departamento o conjunto de tareas, en lugar de intentar superponer un LLM universal a todo el conjunto de restricciones.

Requieren menos recursos computacionales, a menudo pueden funcionar localmente o en un entorno aislado, y permiten mantener datos sensibles fuera del modelo mismo, alimentándolos bajo demanda a través de mecanismos de búsqueda y recuperación. Para entornos con internet limitado y un modesto parque de GPU, esto no es una conveniencia sino una condición básica para la implementación. Esto es especialmente importante donde los datos no pueden sacarse del perímetro, y cada respuesta debe ser explicable y vinculada a una fuente verificable.

En la práctica, esto significa una combinación de un modelo pequeño, búsqueda corporativa y reglas de acceso estrictas. En tal esquema, el sistema no "adivina" la respuesta a partir del conocimiento general, sino que extrae documentos relevantes, fragmentos de PDF, tablas, imágenes o materiales de archivo, los clasifica y solo entonces formula la respuesta. Para los organismos gubernamentales, esto proporciona escenarios más útiles: búsqueda en documentos normativos, procesamiento de solicitudes de ciudadanos, síntesis de expedientes y casos, apoyo a analistas y personal de primera línea.

Lo que importa no es un récord de benchmarks, sino la capacidad de registrar acciones, restringir derechos de acceso, reducir alucinaciones y reproducir la lógica de la respuesta al verificar. En este enfoque, la pregunta clave se desplaza de "cuál modelo es más inteligente" a "cuál arquitectura es más confiable". El sector público necesita no solo un chatbot, sino una capa operacional completa para IA: con perímetros de prueba, registro de decisiones, gestión de riesgos, políticas de seguridad unificadas y compatibilidad entre contratistas y sistemas internos.

Cuanto mayores sean los riesgos — desde servicios sociales hasta defensa e investigaciones — más importante es que la IA sea no solo útil sino manejable en cada etapa: desde la solicitud de datos hasta la respuesta final. Sin tal infraestructura, incluso un modelo potente sigue siendo una demostración impresionante pero mal controlada. Esto significa que para el sector público, la próxima onda de implementación de IA probablemente se construirá no alrededor de los modelos universales más publicitados, sino alrededor de sistemas especializados, controlados localmente y verificables.

Si este escenario funciona, pueden ser las organizaciones estatales y públicas quienes muestren al mercado cómo transformar la IA generativa de una demostración impresionante en una herramienta de infraestructura con responsabilidad clara, control y utilidad real.