OpenAI y los problemas de traducción: por qué Sam Altman quiere que la IA aprenda las leyes locales

Imagine que intenta explicarle a un habitante de Tokio un chiste que solo entienden los habituales de las cafeterías de San Francisco. Más o menos así se sienten hoy los grandes modelos de lenguaje cuando salen del internet anglófono. Durante mucho tiempo, Silicon Valley vivió bajo el paradigma de «una talla para todos», pero OpenAI ha decidido que es hora de cambiarlo. La compañía ha presentado su enfoque de localización de la IA, y va mucho más allá de añadir nuevos paquetes de idiomas al menú.

El sesgo occidental (Western bias) persigue a la industria desde que aparecieron los primeros chatbots. Las redes neuronales se entrenan sobre todo con la parte anglófona de la red y absorben valores, normas jurídicas e incluso hábitos cotidianos estadounidenses. Cuando un modelo así intenta razonar sobre el derecho en Arabia Saudí o las tradiciones culturales de Indonesia, acaba alucinando o imponiendo conceptos ajenos. OpenAI reconoce que, para ser una herramienta realmente global, GPT debe aprender a «pensar» en el idioma del usuario y no limitarse a traducir sus ideas desde el inglés.

¿Qué cambia exactamente en el enfoque de la compañía? Hay tres niveles de adaptación: lingüístico, cultural y jurídico. El nivel lingüístico afecta a la tokenización. Por si no lo sabía, generar texto en idiomas con alfabetos no latinos, como el hindi o el árabe, sale más caro al usuario y es más lento porque las palabras se dividen en tokens de forma ineficiente. OpenAI trabaja para equilibrar este sistema y hacer que usar IA sea económicamente viable en cualquier punto del planeta.

La adaptación cultural es una tarea aún más delicada. OpenAI planea colaborar con organizaciones locales para enseñar a los modelos la etiqueta, el contexto histórico y las normas sociales de cada región. Es un intento de alejarse de la imagen de «colonizador digital» que dicta al mundo lo que está bien y lo que está mal. Al mismo tiempo, la compañía subraya que los principios básicos de seguridad no cambiarán. Esto plantea un dilema interesante: ¿cómo cumplir las leyes locales (por ejemplo, en censura o libertad de expresión) sin convertir la IA en una herramienta de propaganda? Por ahora, OpenAI responde con vaguedad y promete un «equilibrio».

¿Por qué ahora? La respuesta es sencilla: negocio. Los mercados de EE. UU. y Europa están cerca de la saturación, y los principales focos de crecimiento están en Asia, Latinoamérica y África. Además, los reguladores de todo el mundo, incluida la UE con su AI Act, exigen a los desarrolladores transparencia y cumplimiento de las normas locales. Si OpenAI no quiere que sus servicios sean bloqueados por cortafuegos nacionales, tendrá que enseñar a GPT a respetar las fronteras ajenas. No es filantropía, sino una dura necesidad de mercado.

En definitiva, el éxito de esta iniciativa determinará si la IA se convierte en un asistente universal o sigue siendo un juguete para élites occidentalizadas. Para los hablantes de ruso, significa que la calidad de las redes neuronales con el idioma y el contexto rusos debería mejorar de forma notable en los próximos años: menos calcos del inglés y más comprensión de cómo se vive fuera de California.

Lo esencial: OpenAI ha comprendido que el dominio global es imposible sin tener en cuenta las particularidades locales. ¿Podrá la compañía nadar entre dos aguas, manteniendo una seguridad universal y cumpliendo leyes locales (a veces dudosas)?