Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
InfraestructuraAnálisis · En radarMarkTechPost→ original

Taalas desafía a las GPU: lógica cableada en lugar de flexibilidad para alcanzar 17 000 tokens por segundo

Taalas, una startup de Toronto, desarrolla chips de IA especializados con lógica cableada (hardwired) que sustituyen a las GPU programables en tareas de inferencia. La compañía afirma que alcanza una velocidad de 17 000 tokens por segundo, órdenes de magnitud por encima de las soluciones típicas basadas en GPU. La idea contradice el gran dogma del sector: que la flexibilidad del silicio programable es lo más importante. Taalas sostiene que esa flexibilidad se ha convertido precisamente en el cuello de botella y que, para desplegar la IA a gran escala, hacen falta chips diseñados para operaciones concretas de las redes neuronales, no procesadores de propósito general.

Procesado por IA desde MarkTechPost; editado por Hamidun News
Taalas desafía a las GPU: lógica cableada en lugar de flexibilidad para alcanzar 17 000 tokens por segundo
Fuente: MarkTechPost. Collage: Hamidun News.
Escuchar artículo

Durante la última década, toda la industria de la inteligencia artificial se ha construido sobre un axioma tácito: el silicio debe ser flexible. Los modelos cambian cada semana, las arquitecturas evolucionan cada trimestre y solo las GPU programables pueden seguir ese ritmo. Taalas, una startup de Toronto, cree que esa lógica ha llevado al sector a un callejón sin salida y propone una alternativa radical: chips de lógica cableada que no saben hacer nada más que inferencia, pero que la ejecutan a 17 000 tokens por segundo.

Para entender el alcance de esta afirmación, conviene recordar el contexto. Las GPU actuales, desde la NVIDIA H100 hasta las últimas Blackwell, son en esencia superordenadores en un chip capaces de ejecutar cálculos arbitrarios. Su arquitectura hereda décadas de evolución de los procesadores gráficos: miles de núcleos programables, complejas jerarquías de memoria y buses de datos flexibles. Esa versatilidad permite usar el mismo hardware para entrenar modelos gigantescos, ejecutar inferencia y realizar simulaciones científicas. Pero la versatilidad tiene un precio en consumo energético, latencia y coste. Cada ciclo dedicado a decodificar instrucciones y gestionar flujos de datos es energía y tiempo que no se destinan a lo esencial: multiplicar matrices.

Taalas ataca justo ese punto. La compañía diseña chips en los que las rutas de cálculo están grabadas directamente en el silicio, la llamada lógica hardwired. Esto significa que el chip no interpreta un programa sobre la marcha, sino que implementa físicamente operaciones concretas de la arquitectura transformer: multiplicaciones de matrices, funciones de atención y normalización. En la práctica, en lugar de un procesador de propósito general, se obtiene un circuito electrónico que hace exactamente una cosa, pero con una sobrecarga mínima.

El enfoque no es nuevo en sí. Los ASIC (application-specific integrated circuits) llevan tiempo utilizándose en la minería de criptomonedas, las telecomunicaciones y el procesamiento de vídeo. Google ya presentó en 2016 las TPU, procesadores tensoriales también especializados en cálculo para redes neuronales, aunque conservan cierto grado de programabilidad. Pero Taalas, por lo que parece, va más allá y lleva la especialización al extremo para exprimir al máximo el rendimiento por token.

La cifra de 17 000 tokens por segundo merece un análisis aparte. Como referencia, la inferencia típica de un gran modelo de lenguaje en una sola GPU de la clase H100 ofrece entre varios cientos y varios miles de tokens por segundo, según el tamaño del modelo y del batch. Si Taalas realmente alcanza la velocidad anunciada con una calidad y un tamaño de modelo comparables, esto podría suponer una reducción múltiple del coste de inferencia, la principal partida de gasto para las empresas que despliegan servicios de IA en producción.

Hoy es el coste de la inferencia, y no el del entrenamiento, el que determina la economía de la mayoría de los productos de IA: cada consulta a ChatGPT, cada llamada a Copilot y cada imagen generada es dinero gastado en tiempo de GPU.

Sin embargo, el enfoque conlleva un riesgo evidente y serio. La lógica cableada implica una dependencia rígida de una arquitectura de modelos concreta. Si mañana la industria abandona los transformers por algo radicalmente distinto, como arquitecturas basadas en modelos state-space o enfoques híbridos, los chips de Taalas corren el riesgo de convertirse en caros pisapapeles. Es el dilema clásico de la especialización: se gana en eficiencia, pero se pierde en adaptabilidad. Google puede actualizar el software de sus TPU y NVIDIA publica nuevos drivers y bibliotecas CUDA, mientras que Taalas tendrá que diseñar un chip nuevo.

Aun así, la startup tiene un contraargumento sólido. La arquitectura transformer lleva ocho años dominando y no muestra señales de una retirada próxima. Las operaciones básicas, las multiplicaciones de matrices y el mecanismo de atención, siguen siendo esencialmente las mismas desde GPT-2 hasta los modelos más recientes. Además, la tendencia hacia la «inferencia ubicua» (ubiquitous inference), que Taalas ha convertido en su eslogan, plantea que el cálculo de IA debe llegar a ser tan barato y accesible como la electricidad. Y para eso hacen falta precisamente chips especializados y eficientes energéticamente, no costosas GPU de propósito general.

También está el contexto de mercado. La escasez de GPU y la posición monopolística de NVIDIA han generado una fuerte demanda de alternativas. Los grandes proveedores de nube, Amazon, Google y Microsoft, ya desarrollan sus propios chips. Startups como Groq, Cerebras y SambaNova ofrecen arquitecturas no convencionales. Taalas encaja en esta tendencia, pero ocupa la posición más radical en el espectro «flexibilidad frente a especialización».

La gran pregunta que Taalas tendrá que responder no es técnica, sino económica. ¿Podrá fabricar y actualizar sus chips lo bastante rápido como para no quedarse atrás frente a la evolución de los modelos? ¿Logrará convencer a los clientes de que la apuesta por la lógica cableada está justificada? Si lo consigue, podríamos asistir al inicio de una nueva era en la que la inferencia de IA deje de ser un lujo y se convierta en una norma de infraestructura. Si no, será otra lección sobre por qué la industria se aferra tanto a la flexibilidad.

Historia
ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…