Garry Tan gasta hasta 200.000 dólares al año en tokens para agentes de IA

Garry Tan ha convertido a los agentes de IA de una herramienta curiosa en una partida de gasto propia: el director de Y Combinator gasta entre 100.000 y 200.000 dólares al año en tokens. Por ese dinero no obtiene solo un chat para responder preguntas. Los agentes le ayudan a escribir código, investigar temas, prepararse para entrevistas y trabajar con un enorme archivo personal, desde el correo electrónico y Dropbox hasta Apple Notes.

Para un desarrollador, lo importante no es la cifra en sí. Muestra dónde surge el valor real de un agente: en el acceso al contexto, en las herramientas y en la posibilidad de recorrer varios pasos sin indicaciones constantes de una persona. Pero el mismo ejemplo deja al descubierto tres limitaciones: el coste, la seguridad de los datos y el control de las acciones.

En qué se diferencia un agente de un chatbot común

Imaginemos a un directivo que se prepara para una reunión con un socio. Un chatbot común recibirá un documento, redactará un breve resumen y se detendrá. Un agente puede encontrar la correspondencia anterior, recuperar notas de reuniones pasadas, comprobar los últimos acuerdos, preparar una lista de preguntas y señalar de antemano las contradicciones. La persona fija el objetivo y el sistema monta por sí mismo la cadena de trabajo.

Así describe Tan a sus asistentes: no solo reaccionan a una petición, sino que proponen el siguiente paso. Para ello, el agente necesita tres cosas: memoria sobre el usuario o la empresa, acceso a las fuentes adecuadas y un conjunto de acciones permitidas. Sin ellas, tenemos el mismo chat de siempre, solo que con un prompt de sistema más largo.

En Y Combinator este enfoque se ha llevado al nivel de la organización. Según Tan, el agente interno Stray Light dispone de contexto compartido sobre los fundadores apoyados, las solicitudes y la correspondencia entrante. Ese «cerebro de la empresa» puede reducir el tiempo de búsqueda de información y permitir a los empleados reconstruir más rápido el historial de decisiones.

El precio del contexto profundo

Este esquema tiene un lado desagradable. El agente personal de Tan ha leído su correo, archivos, notas e incluso registros de terapia de veinte años. Cuanto más sabe el sistema, más útiles son sus respuestas y más graves las consecuencias de una filtración, una acción errónea o un acceso demasiado amplio.

Por eso el ejemplo de Tan no debe copiarse al pie de la letra. Un desarrollador debería empezar con un proceso acotado: por ejemplo, un agente que analiza errores de compilación, encuentra los cambios relacionados y propone una corrección, pero no tiene permiso para desplegarla en producción por su cuenta. Al equipo de producto le conviene separar de antemano la lectura, la preparación de decisiones y las acciones irreversibles. En cada transición deben estar claros el responsable, el registro de operaciones y el punto de confirmación humana.

El coste también requiere un seguimiento aparte. El presupuesto anual de Tan está fuera del alcance de la mayoría de los equipos, y la cantidad de tokens gastados no dice nada por sí sola sobre la utilidad. Hay que calcular el coste de una tarea completada: cuánto costaron el modelo, la búsqueda, los reintentos y la revisión humana; cuánto tiempo o dinero se ahorró; y con qué frecuencia hubo que rehacer el resultado.

Qué debe hacer un equipo ahora

Elija un proceso repetible y suficientemente costoso en el que la información ya esté almacenada en fuentes accesibles para el sistema. Limite el conjunto de datos y acciones, añada registro, un límite de gasto y confirmación obligatoria de las operaciones críticas. Después compare al agente con la forma actual de trabajar en tiempo, coste y proporción de tareas exitosas.

La experiencia de Tan no demuestra que toda empresa necesite un agente de 200.000 dólares al año. Muestra otra cosa: un agente potente se construye en torno al contexto y las acciones, no en torno a una conversación vistosa. La ventaja práctica empieza donde el sistema completa un trabajo útil. El riesgo práctico está en el mismo lugar, porque para ello hay que confiarle datos, permisos y presupuesto.