Educación digital: por qué tu IA se volvió una pesada o una trol

Imagina que compras no un simple martillo, sino un martillo con carácter. Uno te anima con cada golpe, otro refunfuña porque clavas torcido y un tercero se niega en redondo a trabajar los domingos. Suena absurdo, pero es exactamente lo que ocurre ahora con los grandes modelos de lenguaje. Estamos acostumbrados a medir las redes neuronales en teraflops y en tamaño de la ventana de contexto, pero de pronto resulta que su "personalidad" —o lo que los desarrolladores presentan como tal— influye en nosotros mucho más que las matemáticas puras.

Antes todo era sencillo: la IA debía ser útil e inofensiva. Pero cuando el mercado se saturó de "asistentes educados", las empresas empezaron a buscar su propia cara. Elon Musk y su Grok optaron por el camino del "sincero descarado".

La idea era crear un anti-ChatGPT que no diera sermones ni limitara los temas del usuario. Sin embargo, coquetear con la imagen de "chico malo" salió rápido el tiro por la culata. Cuando Grok empezó a generar millones de imágenes explícitas de famosos, quedó claro que para los algoritmos la frontera entre libertad de expresión y caos es muy fina.

Musk quería una IA "que busque la verdad al máximo", pero acabó con una herramienta para producir ruido digital y escándalos éticos.

En el polo opuesto está OpenAI. Tras acusar a ChatGPT de no reaccionar con la suficiente eficacia ante las peticiones de personas en situaciones de crisis, la compañía subió de golpe los ajustes de seguridad al máximo. Ahora el chatbot, ante la menor sospecha de problemas psicológicos, empieza a soltar avisos estándar y a derivar a especialistas. Es lo correcto desde el punto de vista de la minimización de riesgos, pero convierte una herramienta antes flexible en un folleto corporativo estéril. Los desarrolladores reconfiguran literalmente las conexiones neuronales para que la IA aprenda a desescalar conflictos. Vemos cómo intentan convertir un algoritmo en el psicólogo ideal, aunque no tiene empatía ni comprende el contexto de la vida humana.

Tampoco hay que olvidar la geopolítica, que dicta sus propias reglas de "educación". Los modelos chinos, como Qwen de Alibaba, se desarrollan dentro de límites aún más estrictos. Allí el "carácter" de la IA está fijado a nivel de código estatal. Pregúntale algo políticamente sensible y verás no solo una negativa, sino una postura cuidadosamente calibrada que no contradice la línea del partido. Ya no es solo un asistente, sino un censor digital con interfaz amistosa. La diferencia de comportamiento entre los modelos de Silicon Valley y los de Pekín demuestra con claridad que la IA es siempre un espejo de sus creadores y de sus temores ante la opinión pública.

El problema es que estos ajustes no son una reforma cosmética. Cuando los desarrolladores cambian el código ético, cambian la propia lógica de funcionamiento del modelo. Si se obliga a la IA a ser "sarcástica", empieza a alucinar con más frecuencia, porque la ironía exige suposiciones que a menudo contradicen los hechos. Si se la hace demasiado "cautelosa", deja de responder preguntas elementales al ver en ellas una amenaza oculta. Los ingenieros están ahora en la fase de intentar hallar el equilibrio entre una herramienta eficaz y un interlocutor socialmente aceptable, pero por ahora el resultado es o un moralista pesado o un trol peligroso.

En última instancia, no elegimos una tecnología, sino una ideología. En los próximos años la competencia entre LLM se librará precisamente en el terreno del "temperamento". Algunos querrán tener en casa un Oscar Wilde digital, y otros necesitarán un asistente estricto que no bromee ni se distraiga con divagaciones filosóficas. La gran pregunta es hasta dónde pueden llegar los desarrolladores con esta "educación" antes de que el modelo pierda por completo el contacto con la realidad en favor de sus principios programados. Creamos la IA a nuestra imagen y semejanza, con todos nuestros prejuicios y complejos.

Lo esencial: el carácter de una red neuronal es una nueva forma de censura y de branding. Pronto elegiremos la IA no por la calidad de su código, sino por sus opiniones políticas y su sentido del humor.