Goodfire lanza monitores «internos» para agentes de IA que cuestan menos que la supervisión con LLM

Goodfire ha lanzado monitores para agentes de IA que prometen control por una fracción del precio habitual. En lugar de una segunda LLM que lee cada acción del agente, el sistema observa las señales internas del propio modelo mientras trabaja. La verificación costosa solo se activa si el panorama genera dudas. El anuncio no revela el factor concreto de abaratamiento; la formulación de la empresa es «fraction of the cost».

Cómo funciona la supervisión «desde dentro»

La forma estándar de vigilar a un agente es hoy la siguiente: el agente escribe código, navega por sitios web y llama a herramientas, mientras una segunda LLM lee el registro completo y emite un veredicto. El esquema es claro, pero la factura crece de forma lineal. Cada token de las acciones del agente se paga dos veces: primero como trabajo y después como verificación. Si hay cientos de agentes trabajando durante horas, la supervisión se convierte en una partida presupuestaria aparte.

Goodfire se dedica a la interpretabilidad, es decir, al estudio de lo que ocurre dentro de una red neuronal entre la entrada y la salida. Aquí esa disciplina se ha convertido en producto. El monitor lee las representaciones internas del modelo mientras este trabaja y busca en ellas indicios de comportamiento indeseado. Puede tratarse de engaño, de salirse del alcance de la tarea o de un intento de eludir las restricciones. No hace falta leer todo el texto de las acciones. Basta con una señal de que algo va mal en el modelo.

Una cascada en lugar de una revisión total

La idea clave está en la economía. El monitor interno, barato, funciona de forma permanente y deja pasar el flujo principal. El nivel caro, es decir, un segundo modelo o una persona, se activa de forma selectiva. Así están diseñados muchos sistemas de seguridad ajenos a la IA: un sensor sencillo vigila siempre y el análisis complejo se lanza cuando salta la alarma.

De ahí surge también la pregunta principal sobre el producto. Una cascada es tan buena como su primer filtro. Nadie revisará una infracción que se haya pasado por alto, y un monitor demasiado sensible llamará a la verificación cara con tanta frecuencia que el ahorro desaparecerá. El equilibrio entre falsos positivos y omisiones no se describe en los materiales disponibles.

Qué se sabe hasta ahora

• Enfoque: lectura de los estados internos del modelo mientras el agente trabaja, sin leer por separado todo el registro.
• Escalado: la segunda verificación se lanza solo ante señales sospechosas.
• Efecto declarado: el coste de la supervisión es una fracción del esquema «una LLM vigila a otra LLM».
• No se ha revelado: los porcentajes exactos de ahorro, la proporción de infracciones detectadas ni la de falsas alarmas.
• No se ha revelado: la lista de modelos compatibles ni si se requiere acceso a los pesos.

El último punto es importante. Solo se pueden examinar las activaciones si se tiene acceso al modelo a bajo nivel. Con pesos abiertos o con un modelo propio es factible. Con una API cerrada, donde solo se ve el texto de la respuesta, no se puede conectar un monitor así. Para las empresas que construyen agentes sobre API ajenas, el valor del producto aún no está claro.

Una mirada práctica

Por ahora es una propuesta, no un resultado verificado. Las afirmaciones sobre el coste proceden de la propia compañía y el anuncio no incluye benchmarks independientes. Pero la dirección parece razonable: a medida que aumenta la autonomía de los agentes, la pregunta «cuánto cuesta vigilar» se vuelve tan importante como «cuánto cuesta ejecutar».

Los equipos que ya ejecutan agentes en producción deberían medir su gasto en supervisión como porcentaje del coste total de la tarea. Si la verificación con una segunda LLM se come una parte apreciable del presupuesto, conviene probar los monitores internos en un piloto. Hay que comprobar no solo el precio, sino también el comportamiento en los escenarios propios: cuántas infracciones reales se detectan y cuántas falsas alarmas hay que revisar a mano. Los equipos que trabajan con API cerradas harían bien en esperar y ver si Goodfire ofrece una variante sin acceso a los pesos.