Los modelos LLM se quedaron atrapados en un pensamiento estereotipado — una startup busca corregirlo
Pídele a cualquier chatbot que diga un número aleatorio del 1 al 10 — casi con seguridad obtendrás 7. Es un síntoma de un problema sistémico: todos los…
Procesado por IA desde MIT Technology Review; editado por Hamidun News
Claude, ChatGPT y Gemini demuestran respuestas igualmente predecibles para consultas similares — el 1 de julio de 2026, MIT Technology Review identificó este fenómeno como un "pensamiento de grupo" sistémico de modelos de lenguaje e informó sobre una startup que trabaja para superarlo.
La
Prueba de los Números: ¿Por Qué Esto No Es una Coincidencia?
Pida a cualquier chatbot popular que nombre un número aleatorio entre 1 y 10 — casi seguramente obtendrá 7. Pregúntele de nuevo — escuchará 3 o 4, luego 8 o 9. El patrón se reproduce con consistencia asombrosa en diferentes modelos de diferentes empresas.
La explicación es simple: todos los LLM principales fueron entrenados en corpus web similares, donde "7" como respuesta a esta pregunta aparece con más frecuencia que otros números — la gente misma llama al siete "el número más aleatorio". El aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) además fomenta respuestas "seguras" y esperadas: aquellas que más frecuentemente reciben calificaciones altas de evaluadores humanos. Los modelos fueron literalmente entrenados para dar una respuesta predecible.
- Siete como un número "aleatorio" es un ejemplo de manual del pensamiento de plantilla de LLM
- El patrón es característico de Claude (Anthropic), ChatGPT (OpenAI) y Gemini (Google DeepMind)
- La razón es datos de entrenamiento superpuestos y procedimientos RLHF similares en todos los laboratorios principales
Dónde el Pensamiento de Grupo Causa Daño Real
Los números son solo un síntoma visible. En tareas reales, el problema es más amplio: los modelos reproducen los mismos clichés culturales, formulan recomendaciones estratégicas de manera similar, ofrecen soluciones de marketing comparables. Cuando una empresa utiliza múltiples LLM para "diversificar perspectivas", a menudo obtiene versiones parafraseadas de la misma opinión — con la ilusión de independencia.
"Hemos creado un ecosistema en el que todos los modelos ven el mundo de la misma manera — porque leyeron lo mismo", — constata MIT
Technology Review.
El problema es especialmente grave donde importa la originalidad: generación de hipótesis científicas, contenido no convencional, evaluación de riesgos no triviales. La "verificación independiente" a través de múltiples LLM en tales casos crea una ilusión de diversidad — pero no diversidad real.
Lo Que Propone la Startup
MIT Technology Review describe una startup enfocada en métodos para superar el "pensamiento de plantilla" en modelos de lenguaje. La arquitectura exacta de la solución no se ha revelado. La industria, mientras tanto, está discutiendo varios enfoques para este desafío:
- Entrenamiento en datos más diversos con inclusión deliberada de perspectivas de nicho
- Estocasticidad gestionada en la etapa de ajuste fino — fomentando la variabilidad como objetivo explícito
- Sistemas de ensemble donde múltiples modelos con diferentes "sesgos" debaten entre sí
- Métricas de diversidad de respuestas como parte obligatoria de evaluaciones — junto con precisión y seguridad
Lo Que Esto Significa
Si los métodos para superar el "consenso del grupo" logran establecer un nuevo estándar de la industria, esto cambiará cómo evaluamos los sistemas de IA: la diversidad e independencia de respuestas se convertirán en requisitos medibles equivalentes a la precisión o seguridad. Para los usuarios corporativos, esto abre la posibilidad de obtener perspectivas genuinamente diferentes de la IA, en lugar de una visión estadísticamente promediada en diferentes formulaciones.
¿Quieres dejar de leer sobre IA y empezar a usarla?
AI News es un feed curado de noticias de IA. Hamidun Academy te enseña a usar la IA en tu trabajo.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.