Python en la IA: por qué un lenguaje 70 veces más lento que C pierde terreno en el edge

La industria de la inteligencia artificial es la más voraz en cómputo de la historia. Aun así, hace la mayor parte de sus cálculos en Python, un lenguaje de programación unas 70 veces más lento que C y que ocupa el puesto 26 de 27 en el ranking de eficiencia energética de lenguajes de programación.

Lo que cuesta la corona de Python

El autor de un artículo publicado en Habr analiza el precio de esta elección en tres dimensiones. La primera son los microsegundos de cómputo. La segunda, los gigavatios-hora de energía que consumen los centros de datos. La tercera, el doble trabajo de los ingenieros, que tienen que compensar la lentitud del lenguaje con optimización adicional y con capas de integración sobre bibliotecas más rápidas. El texto se apoya en cifras y en enlaces a fuentes primarias. También examina contraargumentos honestos a favor de Python, así que no se limita a culpar al lenguaje de todos los problemas de la industria.

Por qué la industria eligió Python de todos modos

El dominio de Python en el machine learning tiene raíces históricas. Alrededor del lenguaje creció un enorme ecosistema de bibliotecas, y en la práctica la parte «lenta» del código casi siempre se delega a implementaciones rápidas en C y CUDA que trabajan por debajo. Pero la carga se está desplazando del entrenamiento de grandes modelos en la nube a su ejecución en el lado del usuario. A medida que avanza ese cambio, esta decisión de arquitectura empieza a jugar en contra de la industria.

Mientras el entrenamiento y la inferencia se hacían sobre todo en centros de datos con potentes clústeres de GPU, la sobrecarga de Python pasaba desapercibida frente al coste total del cómputo. La situación cambia cuando el modelo tiene que ejecutarse en un smartphone, un portátil o un dispositivo embebido con un presupuesto energético limitado. Ahí la diferencia entre ejecutar código interpretado y código compilado se vuelve crítica para el tiempo de respuesta y la batería. Deja de ser una simple línea en el informe de consumo energético de un centro de datos.

Dónde Python ya pierde terreno

La inferencia de modelos de IA se está trasladando a los dispositivos de los usuarios: escenarios on-device y edge, e inferencia local sin recurrir a la nube. A medida que avanza ese movimiento, la posición de Python se debilita. Los lenguajes compilados ya están conquistando estos nuevos territorios, empezando por Swift, que en estos escenarios ofrece ventajas en velocidad de ejecución y consumo energético.

• Python es unas 70 veces más lento que el lenguaje C
• En el ranking de eficiencia energética de lenguajes de programación, Python ocupa el puesto 26 de 27
• El precio del dominio de Python se mide en microsegundos, gigavatios-hora y trabajo de ingenieros
• En la inferencia on-device y en el edge, los lenguajes compilados le ganan terreno a Python, empezando por Swift

Qué implica este precio para los centros de datos

Los gigavatios-hora de esta comparación tienen una causa muy concreta: Python, al ser interpretado, necesita más ciclos de cómputo que el código compilado para la misma tarea. Eso se traduce en más electricidad para alimentar y refrigerar los servidores. El doble trabajo de los ingenieros es el precio de mantener una capa permanente por encima: integrar el código Python con bibliotecas más rápidas en C y CUDA, perfilar los cuellos de botella y reescribir las partes críticas a más bajo nivel para compensar la lentitud del propio lenguaje.

Qué significa esto

Python sigue siendo el lenguaje por defecto para entrenar y prototipar modelos de IA. Sin embargo, la inferencia se está desplazando a dispositivos locales y a escenarios edge, donde cuenta cada milivatio y cada milisegundo. Allí su precio resulta cada vez más visible, y es precisamente en ese terreno donde los lenguajes compilados tienen la oportunidad de desplazar al líder de tantos años. No se trata de sustituir por completo a Python en los próximos años, sino de un reparto gradual de los ámbitos de uso: la nube y el prototipado seguirán siendo suyos, mientras que el edge y el on-device pasan con cada vez más firmeza a alternativas compiladas como Swift.