Un autor de Habr AI propone construir una IA determinista en un MacBook Air en lugar de competir por GPU

Habr AI ha publicado un artículo de opinión en el que su autor ofrece una alternativa a la carrera por clústeres de GPU cada vez más caros. En lugar de escalar modelos probabilísticos, defiende un núcleo de IA determinista escrito en Rust que, según él, ya funciona en local en un MacBook Air M2 con 8 GB de memoria.

Por qué el autor discute con el mercado

El texto arranca con un ataque directo a la estrategia actual de los líderes del mercado: OpenAI, Google y Meta*. El autor la llama «fuerza bruta»: a su juicio, las limitaciones fundamentales de los LLM no se resuelven con matemáticas, sino que se disimulan con más GPU, más megavatios y más inversión. Según su lógica, la industria compensa los problemas de arquitectura con potencia de cálculo en lugar de buscar un modelo de decisión más estricto. El post de Habr está marcado como «Opinión», así que es más un manifiesto y una polémica con el mercado que un trabajo académico.

El artículo enumera tres razones por las que el autor considera que este enfoque es un callejón sin salida. La primera, el consumo energético: entrenar y ejecutar modelos grandes exige cada vez más electricidad y hardware. La segunda, la naturaleza estocástica de los LLM: el sistema no deduce la respuesta a partir de reglas estrictas, sino que adivina el siguiente token. La tercera, las alucinaciones, que el autor considera una propiedad inherente a la arquitectura probabilística y no un fallo que se pueda cerrar del todo con filtros adicionales.

«El futuro de la inteligencia artificial no es una cuestión de dinero.

Es una cuestión de las matemáticas correctas».

Qué propone

En lugar del esquema clásico de redes neuronales, el autor describe un núcleo determinista con lógica O(1). La idea clave es que el tiempo de toma de decisión y de validación se mantiene constante, y que el sistema no trabaja con un contexto probabilístico largo, sino con intenciones representadas como fórmulas matemáticas. Esto, según su planteamiento, eliminaría el principio mismo de «adivinar» y haría el comportamiento del modelo predecible. De ahí la promesa de una IA más fiable para escenarios en los que la respuesta no solo hay que generarla, sino verificarla.

El texto también incluye afirmaciones concretas sobre el proyecto. El autor escribe que la versión actual del núcleo, v0.26.0, ya se ha probado frente a modelos en la nube y que la solución se despliega en un MacBook Air M2 corriente. La pila principal es Rust, sin Python ni intérpretes intermedios: según él, las intenciones de alto nivel se traducen directamente en comandos ejecutables. Subraya que no apuesta por la «magia» general del modelo, sino por una arquitectura controlable.

• Lógica determinista O(1) para la inferencia y la verificación
• Ejecución local en un MacBook Air M2 con 8 GB de RAM
• Énfasis en Rust y DMA en lugar de capas pesadas de abstracción
• Rendimiento declarado de hasta 5,4 millones de operaciones en CPU
• Comparación con sistemas de IA en la nube en pruebas del núcleo v0.26.0

Cómo funciona la protección

Un bloque aparte del artículo trata del autoaprendizaje y la seguridad. El autor afirma que el núcleo incorpora una «constitución de valores humanos universales», no como un conjunto de prohibiciones textuales, sino como un sistema de axiomas matemáticos dentro de la lógica. El artículo recalca que este nivel de restricción es más difícil de eludir con el prompt engineering habitual, porque las acciones no deseadas deben cortarse ya en la fase de validación. La tesis central es simple: la IA debe ser no solo inteligente, sino también verificable en la propia arquitectura.

Aquí está también el principal giro ideológico del texto: el autor contrapone una IA local, controlada y matemáticamente rígida a los modelos en la nube, que escalan junto con los costes y los riesgos. Añade que la tecnología ya está protegida por una licencia BSL, que se prepara para patentarla y que los detalles técnicos y la hoja de ruta están publicados en los repositorios del proyecto. Todo esto se presenta como base no para un chatbot, sino para sistemas autónomos en los que un error es crítico. La idea final del autor es aún más amplia: el futuro de este tipo de IA debe empezar no en el centro de datos, sino en el dispositivo del usuario.

Qué significa

El artículo de Habr importa no como prueba de que una nueva arquitectura haya ganado, sino como señal de una demanda creciente de IA más compacta, predecible y local. Aunque las tesis del autor aún deban verificarse de forma independiente, la dirección es clara: el mercado está cansado de la idea de que cualquier problema de la IA se resuelve solo con otro rack de GPU. Con el alza de los precios del cómputo y el interés por los escenarios edge, textos como este ya plantean una agenda alternativa.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.