Python en IA: por qué el lenguaje es 70 veces más lento que C y está perdiendo terreno en edge

La industria de la inteligencia artificial — la industria más intensiva computacionalmente en la historia — calcula principalmente en el lenguaje de programación Python, que es aproximadamente 70 veces más lento que C y ocupa el lugar 26 de 27 en la clasificación de eficiencia energética del lenguaje de programación.

El costo de la corona de Python

El autor del material en Habr desglosa el costo de esta elección en tres dimensiones: en microsegundos de computación, en gigavatios-hora de energía de centros de datos, y en el trabajo duplicado de ingenieros que deben compensar la lentitud del lenguaje con optimización adicional y envoltura sobre bibliotecas más rápidas. El material se construye sobre cifras y enlaces a fuentes primarias, y también considera contraargumentos honestos a favor de Python — es decir, no se reduce a acusaciones unilaterales del lenguaje en todos los problemas de la industria.

Por qué la industria aún eligió Python

El dominio de Python en el aprendizaje automático se desarrolló históricamente: alrededor del lenguaje creció un enorme ecosistema de bibliotecas, y la parte "lenta" del código en la práctica casi siempre se delega a implementaciones rápidas de C y CUDA bajo el capó. Pero a medida que la carga se desplaza de entrenar modelos grandes en la nube a ejecutarlos en el lado del usuario, esta decisión arquitectónica comienza a trabajar contra la industria.

Mientras que el entrenamiento e inferencia ocurrían principalmente en centros de datos en potentes clusters de GPU, la sobrecarga de Python era invisible sobre el fondo del costo general de la computación. La situación cambia cuando un modelo necesita ejecutarse en un smartphone, portátil o dispositivo integrado con presupuesto energético limitado: allí la diferencia entre ejecución de código interpretado y compilado se vuelve crítica para el tiempo de respuesta y la duración de la batería, no solo una línea en informes de consumo de energía de centros de datos.

Dónde Python ya está siendo desplazado

A medida que la inferencia del modelo de IA se desplaza a dispositivos del usuario — escenarios on-device y edge, inferencia local sin acceso a la nube — las posiciones de Python se debilitan. Estos nuevos territorios ya están siendo reclamados por lenguajes compilados, y en primer lugar Swift, que en tales escenarios tiene la ventaja de velocidad de ejecución y consumo de energía.

• Python es aproximadamente 70 veces más lento que el lenguaje C
• En la clasificación de eficiencia energética del lenguaje de programación, Python ocupa el lugar 26 de 27
• El costo del dominio de Python se mide en microsegundos, gigavatios-hora, y trabajo de ingenieros
• En inferencia on-device y edge, Python está siendo desplazado por lenguajes compilados, en primer lugar Swift

Lo que este costo significa para los centros de datos

Gigavatios-hora en esta comparación no es una abstracción, sino una consecuencia directa del hecho de que Python interpretado requiere más ciclos computacionales para la misma tarea que código compilado, y por lo tanto más electricidad para enfriamiento y alimentación de servidores. El trabajo duplicado de los ingenieros es el costo de la sobrecarga constante: envoltura de código Python sobre bibliotecas C y CUDA más rápidas, perfilación de cuellos de botella y reescritura de secciones críticas en un nivel inferior para compensar la lentitud del lenguaje.

Lo que esto significa

Python sigue siendo el lenguaje predeterminado para entrenar y prototipar modelos de IA, pero a medida que la inferencia se mueve a dispositivos locales y escenarios edge, donde cada miliwatio y milisegundo cuenta, su costo se vuelve cada vez más notable — y es allí donde los lenguajes compilados tienen la oportunidad de desplazar al líder de larga trayectoria. No se trata de un reemplazo completo de Python en los próximos años, sino de una división gradual de áreas de aplicación: la nube y el prototipado se quedan con él, edge y on-device se trasladan cada vez más a alternativas compiladas como Swift.