Autor de Habr advierte: el uso irreflexivo de IA conduce a la degradación de especialistas

Un autor de Habr planteó el tema de adónde podría llevar el uso irreflexivo de la IA: en su opinión, en la búsqueda de ganancias, los titulares de grandes modelos de lenguaje corren el riesgo de destruir no solo la calidad de los textos, sino también la calificación humana.

Por Qué el Texto Generado No Reemplaza la Experiencia

Los transformadores generativos, según el autor, no inventan nada — simplemente utilizan grandes modelos de lenguaje para la generación, es decir, combinando textos plausibles. Aquellos que aplican textos generados sin el análisis crítico adecuado pierden inadvertidamente la calificación, si es que la tenían. Y aquellos que nunca fueron especialistas calificados caen en euforia, imaginando que ahora pueden resolver problemas sin poseer los conocimientos necesarios.

"Esto funcionará mientras personas realmente conocedoras dirijan el desarrollo.

Pero cuando sean reemplazadas por aquellos que han dominado la interacción con la IA, pero no poseen las calificaciones necesarias para evaluar sobriamente los resultados obtenidos con la ayuda de la IA — entonces es cuando ocurrirá el desastre", advierte el autor.

Qué Sucede con los Modelos de Versión a Versión

El autor señala que de versión a versión, los modelos añaden mecanismos deterministas ocultos — lo que a menudo se describe diciendo "el modelo piensa" — que deberían mejorar la adecuación de las respuestas. Pero junto con esto, cada vez más factor humano se incrusta en las respuestas del modelo, y el sesgo humano puede dejar su huella en el resultado final. Para la promoción comercial del producto, esto, como señala irónicamente el autor, ciertamente es bueno.

Un problema separado son las fuentes de datos en las que se entrenan los modelos: su precisión no está garantizada por nada. Con la generación de código, según la observación del autor, las cosas son algo mejores, pero aquí también la IA fundamentalmente no inventa nada nuevo. Como máximo, si los modelos se entrenan en los resultados de generaciones reconocidas como las más exitosas, puede ocurrir alguna mejora o, por el contrario, degradación de los resultados finales.

Quién Está en Riesgo

La idea clave del autor es que el peligro no proviene de los grandes modelos de lenguaje en sí, sino de cómo son utilizados por una persona sin calificaciones adecuadas. Mientras las decisiones en las empresas sean tomadas por personas con experiencia real, capaces de evaluar críticamente los resultados de la IA, este problema sigue siendo manejable. El riesgo crece cuando tales personas en posiciones de liderazgo comienzan a ser reemplazadas por especialistas que solo pueden interactuar con la IA pero no pueden evaluar sobriamente la calidad del resultado obtenido.

En esencia, esto trata de un cambio generacional dentro de la profesión: una generación aún aprendió a resolver problemas con la mano y la mente, mientras que la siguiente corre el riesgo de aprender solo cómo formular solicitudes al modelo.

Qué Hacer Sobre Este Riesgo en la Práctica

Del razonamiento del autor se sigue una conclusión práctica: el resultado del trabajo de la IA debe verse como un borrador, no como una respuesta terminada, y debe ser verificado por una persona que es capaz de evaluar el contenido por sus méritos, no solo por la forma. Esto se aplica tanto a textos como al código de programa — en ambos casos, el modelo combina lo que ya ha visto en lugar de crear conocimiento fundamentalmente nuevo, y la responsabilidad de la calidad del resultado final permanece con la persona que lo usa.

Lo Que Esto Significa

El autor insta a no confundir la capacidad de usar la IA con la calificación profesional: la herramienta combina textos plausibles pero no reemplaza la capacidad de verificar críticamente el resultado. Mientras personas conocedoras permanezcan en control, el riesgo es manejable — pero crece a medida que son reemplazadas por aquellos que solo han dominado trabajar con la IA.