Anthropic adaptó Claude a los chips de AMD en tres días con su modelo Mythos

Anthropic ha iniciado su gira de presentaciones para la salida a bolsa, y en el vídeo para inversores apareció información que no había publicado antes: cómo funciona realmente la compañía por dentro a nivel de hardware. La parte más interesante es el apartado sobre cómputo, presentado por el cofundador Tom Brown. Para quienes construyen infraestructura para LLM, ofrece una mirada poco habitual al interior de la empresa.

Cuatro familias de chips en lugar de una

Brown afirma que Claude ya se entrena y se utiliza para servir inferencias en las cuatro grandes familias de chips: AWS Trainium, Google TPU, GPU de NVIDIA y GPU de AMD. Según explica, esto fue posible gracias a una apuesta poco convencional que hicieron hace tiempo. Entonces, muchos creían que ejecutar modelos en distintos chips no compensaba el esfuerzo.

Ese escepticismo tenía sus motivos. Cada chip necesita su propia pila de software y su propia pila de inferencia. Es caro y complejo. Si alguna vez has adaptado código de CUDA a otra plataforma, sabes lo que implica: los kernels, es decir, las funciones de bajo nivel que realizan los cálculos matriciales en un hardware concreto, deben reescribirse casi desde cero.

Anthropic lleva años trabajando en ello y, según Brown, ha tenido un «éxito increíble». Ya en septiembre hubo una pista indirecta de que utilizaba varias plataformas de chips. En un análisis de tres fallos recientes, la compañía describió errores que solo afectaron a los despliegues en TPU. Es decir, el mismo modelo realmente se ejecuta en distintas plataformas, y los errores pueden variar entre ellas.

Mythos puso Claude en funcionamiento en AMD en tres días

La cifra más llamativa tiene que ver con AMD. Este año, Anthropic comenzó a trabajar por primera vez con las GPU de este fabricante. Antes, incorporar una nueva plataforma de chips requería meses de trabajo de decenas de ingenieros. Esta vez, encargaron la tarea al modelo Mythos.

Según Brown, puso Claude en funcionamiento en AMD en tres días, con una intervención humana casi nula. Claude adaptó o escribió casi el 100% de los kernels.

Para quienes trabajan en este campo, es una señal importante. Adaptar kernels se consideraba precisamente ese trabajo «caro y tedioso» que mantiene a los ingenieros atados a un solo proveedor. Si un LLM realmente puede encargarse de la mayor parte de esa labor, disminuye el coste de dejar de depender de un único proveedor de GPU. También es un argumento en las negociaciones sobre el precio del hardware.

Multiplicadores de cómputo y el debate sobre la automejora

Brown identifica una segunda fuente de ventaja: la velocidad con la que se descubren «multiplicadores de cómputo». Anthropic se fija en el cómputo efectivo resultante: la capacidad física multiplicada por los multiplicadores descubiertos.

El vídeo ofrece este ejemplo. Supongamos que entrenar un modelo de cierto nivel requiere 100 unidades de cómputo. Un multiplicador de 4x significa que ese mismo modelo puede entrenarse con 25 unidades. O se pueden utilizar las cien y obtener un modelo más inteligente que antes habría requerido 400.

Según Brown, los multiplicadores se acumulan: cada uno nuevo potencia el efecto de los anteriores, y esa ventaja es difícil de replicar. Después llega la afirmación más ambiciosa. La compañía cree que el proceso podría acelerarse a medida que se acerque a la automejora recursiva, cuando Claude pueda descubrir multiplicadores por sí solo, de principio a fin.

Qué conviene tener presente

Primero: se trata de material para inversores, no de un informe independiente. Cifras como «tres días» y «casi el 100% de los kernels» proceden de uno de los fundadores y no se han verificado de forma independiente. Tampoco hay detalles sobre qué kernels concretos se utilizaron, cuánto se acerca el rendimiento al de NVIDIA o cuántas horas de revisión humana fueron necesarias.

Segundo: la automejora recursiva sigue siendo aquí una aspiración de futuro. No es un resultado que alguien haya medido. Conviene entenderla como parte de la estrategia de la compañía y de sus argumentos para la salida a bolsa.

Tercero: no hay una transcripción oficial del vídeo. Simon Willison generó una por su cuenta con MacWhisper y la publicó, por lo que conviene cotejar las citas con ella.

La conclusión práctica para los equipos que construyen su propia infraestructura de inferencia: si habéis pospuesto la compatibilidad con un segundo proveedor por el coste de adaptar los kernels, es hora de revisar esa estimación. Probad a darle a un modelo potente un kernel pequeño con pruebas y calculad cuántas horas de ingeniería ahorra realmente. Aunque vuestro resultado sea más modesto que tres días, el umbral de lo que se considera «caro y no merece el esfuerzo» ya se ha desplazado.