Los chatbots de IA responden peor a los usuarios vulnerables

Durante años, la industria tecnológica nos ha asegurado que la inteligencia artificial es el gran igualador, una herramienta que ofrece conocimiento de la misma calidad a un profesor de Harvard y a un estudiante de primer año de una universidad de provincias. Un nuevo estudio del MIT Center for Constructive Communication desmonta ese mito con precisión quirúrgica: los principales modelos de IA dan de forma sistemática respuestas menos precisas a usuarios con menor dominio del inglés, menos educación formal y origen no occidental. Dicho de otro modo, los chatbots funcionan mejor para quienes ya tienen acceso a información de calidad sin ellos.

Para entender la magnitud del problema hace falta contexto. Los grandes modelos de lenguaje, de ChatGPT a Claude y Gemini, se entrenaron sobre todo con datos en inglés creados por un grupo demográfico concreto: hablantes nativos con estudios, en su mayoría de Estados Unidos y Europa Occidental. Cuando el modelo «piensa», se apoya en los patrones aprendidos de ese corpus. No es un error, es una característica de la arquitectura, pero sus consecuencias son muy concretas y socialmente peligrosas.

Los investigadores del MIT analizaron cómo cambia la calidad de las respuestas según el perfil del usuario. Probaron escenarios en los que las preguntas se formulaban con rasgos típicos de un dominio limitado del idioma: sintaxis no estándar, léxico atípico, construcciones influidas por el acento. Los resultados fueron reveladores: los modelos no solo entendían peor esas consultas, sino que daban información objetivamente menos precisa. El problema no se reduce a que el chatbot pida reformular la pregunta. Responde con seguridad, pero responde peor. Es especialmente peligroso porque el usuario no recibe ninguna señal de que la calidad ha bajado.

El mecanismo es complejo. En primer lugar, los datos de entrenamiento reflejan la visión del mundo y las referencias culturales de la clase educada estadounidense. Cuando el modelo interpreta una consulta ambigua, hace suposiciones, y esas suposiciones están ajustadas estadísticamente a un perfil social determinado. En segundo lugar, las construcciones lingüísticas no estándar reducen la confianza del modelo al interpretar la intención del usuario, lo que genera respuestas menos relevantes o verificadas con menos cuidado. En tercer lugar, existe el llamado «sesgo cultural»: los mismos conceptos, médicos, jurídicos o financieros, tienen connotaciones y contextos distintos en cada cultura, y los modelos suelen pasarlos por alto.

Las consecuencias de este desequilibrio van mucho más allá del debate académico. Piense en quién recurre con más frecuencia a la IA para obtener información crítica sobre salud, derechos, educación o empleo: justamente quienes no pueden pagar a un abogado o a un médico. Un migrante que intenta entender las normas de visado. Un estudiante de primera generación que busca ayuda para ingresar a la universidad. Una persona mayor con pocas habilidades lingüísticas que confirma la pauta de un medicamento. Para ellos, un chatbot de IA no es un juguete cómodo, sino una alternativa real a servicios profesionales que no están a su alcance. Y son precisamente a quienes el sistema responde peor.

Para la industria, este estudio debería ser una señal de alarma. OpenAI, Google, Anthropic y otras empresas invierten recursos considerables en mejorar la precisión y la seguridad de sus modelos, pero los benchmarks estándar miden el rendimiento con entradas idealizadas. Si la calidad de la respuesta se degrada de forma notable cuando el idioma de entrada no es estándar, las cifras de precisión declaradas simplemente no reflejan la experiencia real de una gran parte de los usuarios. La industria necesita nuevas métricas, que tengan en cuenta la diversidad demográfica y lingüística de los escenarios de prueba.

El estudio del MIT no es una condena de la tecnología, sino un diagnóstico de su estado actual. Los modelos de lenguaje se entrenan con datos creados por personas y heredan la desigualdad estructural incorporada en ellos. Mientras los enfoques de entrenamiento y evaluación no se vuelvan radicalmente más inclusivos, las herramientas de IA reproducirán y agravarán la desigualdad que prometen superar. Una tecnología que funciona mejor para quienes menos la necesitan no es un instrumento neutral de progreso. Es el espejo del sistema de privilegios existente, solo que en versión digital.