Un autor de Habr advierte: el uso irreflexivo de la IA lleva a la degradación de los especialistas

Un autor de Habr ha planteado a qué puede llevar el uso irreflexivo de la IA. En su opinión, en su afán de lucro, los propietarios de los grandes modelos de lenguaje corren el riesgo de destruir no solo la calidad de los textos, sino también la cualificación humana.

¿Por qué el texto generado no sustituye a la experiencia?

Según el autor, los transformers generativos no inventan nada: se limitan a usar grandes modelos de lenguaje para generar, es decir, combinar, textos verosímiles. Quienes aplican textos generados sin el análisis crítico necesario pierden cualificación sin darse cuenta, si es que alguna vez la tuvieron. Y quien nunca fue un especialista cualificado cae en la euforia y cree que ahora puede resolver problemas sin tener los conocimientos necesarios.

«Esto funcionará mientras las personas que realmente saben sigan al frente de los desarrollos.

Pero cuando las sustituyan quienes dominan la interacción con la IA, pero carecen de la cualificación necesaria para evaluar con criterio los resultados obtenidos con ella, entonces llegará el desastre», advierte el autor.

¿Qué ocurre con los modelos de una versión a otra?

El autor señala que, de una versión a otra, se añaden a los modelos mecanismos deterministas ocultos —lo que a menudo se describe como «el modelo piensa»— que deberían mejorar la pertinencia de las respuestas. Pero, al mismo tiempo, las respuestas de los modelos incorporan cada vez más factor humano, y los sesgos humanos pueden dejar su huella en el resultado final. Para la promoción comercial del producto, apunta el autor con ironía, esto es sin duda positivo.

Otro problema son las fuentes de datos con las que se entrenan los modelos: nada garantiza su fiabilidad. Con la generación de código, según observa el autor, la situación es algo mejor, pero tampoco aquí la IA inventa, por principio, nada nuevo. Lo máximo que puede ocurrir si se entrena a los modelos con los resultados de generaciones considerados más acertados es cierta mejora o, por el contrario, una degradación de los resultados finales.

¿Quién está en riesgo?

La idea clave del autor es que el peligro no procede de los grandes modelos de lenguaje en sí, sino de cómo los usa una persona sin la cualificación adecuada. Mientras en las empresas las decisiones las tomen personas con experiencia real, capaces de evaluar críticamente el trabajo de la IA, el problema sigue siendo manejable. El riesgo aumenta cuando esas personas empiezan a ser sustituidas en los puestos de dirección por especialistas que solo saben interactuar con la IA, pero no son capaces de valorar con criterio la calidad del resultado.

En el fondo, se trata de un relevo generacional dentro de la profesión: una generación aún aprendió a resolver problemas con las manos y la cabeza, mientras que la siguiente corre el riesgo de aprender solo a formular peticiones al modelo.

¿Qué hacer con este riesgo en la práctica?

De las reflexiones del autor se desprende una conclusión práctica: el resultado de la IA debe tratarse como un borrador, no como una respuesta definitiva, y debe revisarlo precisamente una persona capaz de evaluar el contenido en el fondo, y no solo en la forma. Esto vale tanto para los textos como para el código: en ambos casos, el modelo combina lo que ya ha visto, no crea conocimiento radicalmente nuevo, y la responsabilidad sobre la calidad del resultado final recae en la persona que lo utiliza.

¿Qué significa esto?

El autor pide no confundir saber usar la IA con la cualificación profesional: la herramienta combina textos verosímiles, pero no sustituye la capacidad de verificar críticamente el resultado. Mientras al timón sigan personas que saben, el riesgo es manejable, pero crece a medida que las relevan quienes solo han aprendido a trabajar con IA.