Mo Gawdat, de Google X: por qué la principal amenaza de la AI no está en el código, sino en la ética

Mo Ghadir, antiguo director de desarrollo empresarial de Google X, propone ver la IA no como una amenaza aislada, sino como amplificador de problemas ya existentes en la sociedad. Según su versión, los algoritmos han interferido durante mucho tiempo en las elecciones cotidianas de las personas, y la siguiente etapa es un golpe al empleo, la economía y las reglas de distribución del poder.

Algoritmos y Atención

Ghadir comienza con una idea simple: la inteligencia artificial ya no está en algún laboratorio. Opera en feeds, recomendaciones, sistemas publicitarios y búsqueda, es decir, donde se decide qué exactamente verá, leerá y comprará una persona. Incluso la elección del contenido a menudo ocurre inconscientemente—un modelo optimizado para el engagement la toma por cuenta del usuario. Por lo tanto, según su opinión, la conversación sobre el futuro de la IA ha llegado demasiado tarde: la influencia ya está integrada en el entorno digital cotidiano.

De esto surge el cambio principal. Ya no se trata de si la IA puede hacer cosas útiles, sino de quién establece sus objetivos y qué incentivos hay detrás de sus acciones. Si un sistema está entrenado para retener la atención a cualquier costo, inevitablemente impulsa hacia la polarización, la dependencia del contenido y las reacciones emocionales. La tecnología aquí actúa no como un villano independiente, sino como un instrumento preciso de las prioridades humanas.

Trabajo y Sistema

La segunda línea de su argumento es la economía. Ghadir cree que en ciertos sectores el desempleo podría alcanzar el 50%, porque la IA automatiza no solo el trabajo rutinario sino también una parte significativa del trabajo cognitivo. Funciones que hace poco se consideraban protegidas están bajo amenaza: análisis, soporte, marketing, trabajo legal inicial, parte de tareas de ingeniería y creativas.

Esto no significa necesariamente un colapso inmediato, pero sí significa una transición muy dura para millones de profesionales.

• Automatización de empleados de cuello blanco
• Presión sobre los salarios en roles de servicio
• Crecimiento de ganancias para propietarios de infraestructura
• Débil preparación de los estados para una transición rápida

De aquí surge una tesis más radical sobre la crisis del capitalismo en su forma actual. Si la productividad crece pero el ingreso se concentra en un grupo estrecho de empresas e inversores, el sistema comienza a colapsar política y socialmente. La pregunta ya no es si la IA será más eficiente que los humanos en una operación específica, sino quién se beneficiará de esa eficiencia y cómo se redistribuirá el poder económico.

Ética como Cuello de Botella

La tesis más contundente de Ghadir es que el problema no está en la superinteligencia como tal, sino en el estado de los propios humanos en el momento de su llegada. Describe la situación así: la humanidad está llevando a una tecnología históricamente poderosa sus propios defectos antiguos—codicia, manipulación, culto al crecimiento y débiles restricciones morales. En tal configuración, la IA acelera no las mejores cualidades de la civilización, sino sus distorsiones. Cuanto más potente es la herramienta, más peligrosos son los malos motivos de su propietario.

"El problema principal no está en la inteligencia artificial, sino en

la ética humana."

Esto cambia el marco de toda la discusión. En lugar del debate habitual sobre si las máquinas se "rebelarán", Ghadir propone discutir cosas más prácticas: reglas de desarrollo, responsabilidad empresarial, transparencia de algoritmos y nuevos contratos sociales. De lo contrario, la sociedad obtendrá no un mal autónomo de la ciencia ficción, sino un sistema completamente humano que escala la desigualdad, la presión sobre los trabajadores y el control de la atención más rápido de lo que las instituciones pueden reaccionar.

Lo que Esto Significa

Tales afirmaciones no ofrecen un pronóstico listo con fechas específicas, pero ciertamente fijan un cambio: la conversación sobre la IA se aleja del entusiasmo por nuevos modelos hacia preguntas sobre poder, distribución de dinero y calidad de las decisiones humanas. Si la ética y la regulación no alcanzan la tecnología, los principales riesgos serán creados no por la máquina misma, sino por las personas que ya manejan sus objetivos.