Grok de xAI: cuando la ausencia de filtros se vuelve una amenaza para los niños

¿Recuerdan cuando Elon Musk nos prometió una red neuronal que diría "verdades amargas" sin censura ni corrección política? Grok parece haberse tomado ese encargo demasiado al pie de la letra. Mientras OpenAI y Google gastan millones para que sus modelos no enseñen a un niño a fabricar dispositivos peligrosos ni generen contenido tóxico, la criatura de xAI decidió ir por su propio camino.

El resultado era previsible, pero no por ello menos inquietante: los expertos de Common Sense Media, organización que lleva décadas evaluando productos mediáticos para familias, dieron a Grok una de las puntuaciones más bajas de su historia. Robbie Torney, de Common Sense Media, afirmó sin rodeos que Grok es lo peor que han visto entre los chatbots populares.

El contexto importa más de lo que parece a primera vista. Musk lanzó xAI como protesta contra la "lobotomización progresista" de la IA. Quería crear un antídoto de ChatGPT que bromeara, fuera irónico y no callara al usuario a la primera de cambio. Pero tras esa bravuconada se esconde un enorme agujero de seguridad. Donde Claude, de Anthropic, se negará con cortesía a hablar de depresión o autolesiones, Grok puede lanzarse a reflexiones filosóficas o, peor aún, soltar desinformación con ese sello "rebelde" tan suyo. El problema no es que la IA sea malvada, sino que carece prácticamente de las salvaguardas que en la industria se consideran un estándar básico de higiene.

Los analistas señalan que el enfoque de xAI para entrenar modelos difiere mucho del de Silicon Valley. Mientras los competidores usan un sistema de RLHF (aprendizaje por refuerzo a partir de retroalimentación humana) de varias etapas para inculcar normas éticas a sus modelos, el equipo de Musk apuesta por la velocidad y la ausencia de restricciones. Eso crea un precedente peligroso: Grok está integrado en la red social X (antes Twitter), así que millones de adolescentes tienen acceso a él.

Y si para un adulto el sarcasmo del chatbot es una gracia, para una mente aún en formación la falta de límites claros entre hecho y ficción peligrosa puede convertirse en un problema. Los expertos subrayan que Grok no solo se equivoca: lo hace con aplomo y de forma provocadora.

¿Por qué importa ahora? Estamos en un momento en que los reguladores de EE. UU.

y Europa empiezan a vigilar de cerca cada paso de los desarrolladores de IA. El informe de Common Sense Media no es solo la opinión de unos activistas; es la base de futuras demandas y restricciones legislativas. Si xAI no revisa pronto sus protocolos de seguridad, la compañía se arriesga a multas frente a las cuales los problemas de Twitter con los anunciantes parecerán un simple calentamiento.

La industria ya recorrió este camino con las redes sociales hace diez años, y resulta extraño ver cómo una de las empresas más tecnológicas del mundo tropieza con la misma piedra, escudándose en lemas sobre libertad de expresión.

En última instancia, el caso Grok pone de relieve el gran conflicto de la IA actual: cómo equilibrar la utilidad (o la "autenticidad", como dice Musk) con la seguridad. De momento, xAI va perdiendo esa carrera al crear un producto que parece un adolescente rebelde al que han dejado a los mandos de un reactor nuclear. La ironía es que Musk siempre ha calificado a la IA de principal amenaza para la humanidad, pero parece estar creando un modelo que confirma sus peores temores, aunque sea a escala de un único informe sobre seguridad infantil.

Para el resto del mercado debería ser una lección: la "antiagenda" es una buena jugada de marketing, pero una mala estrategia para un producto que usan millones de personas.

Lo esencial: Elon Musk tendrá que elegir entre la imagen de "luchador contra la censura" y la supervivencia de Grok como producto de masas. ¿Podrá xAI apretar los filtros sin matar el carácter de su IA?