Mo Gawdat, de Google X: la mayor amenaza de la IA está en la ética, no en el código

Mo Gawdat, extirector de desarrollo de negocio de Google X, propone ver la IA no como una amenaza aislada, sino como un amplificador de los problemas que la sociedad ya tiene. Según su versión, los algoritmos llevan tiempo interfiriendo en las decisiones cotidianas de la gente, y la siguiente etapa es un golpe al empleo, a la economía y a las reglas de reparto del poder.

Algoritmos y atención

Gawdat parte de una idea simple: la inteligencia artificial ya no está en algún laboratorio. Funciona en los feeds, las recomendaciones, los sistemas publicitarios y los buscadores, es decir, allí donde se decide qué verá, leerá y comprará una persona. Incluso la elección de qué contenido consumir suele producirse de forma inconsciente: la toma por el usuario un modelo optimizado para la interacción. Por eso, en su opinión, la conversación sobre el futuro de la IA llega tarde: la influencia ya está integrada en el entorno digital cotidiano.

De ahí se deriva el cambio principal. Ya no se trata de si la IA podrá hacer cosas útiles, sino de quién le marca los objetivos y qué incentivos hay detrás de sus acciones. Si un sistema se entrena para retener la atención a cualquier precio, empuja inevitablemente hacia la polarización, la dependencia del contenido y las reacciones emocionales. Aquí la tecnología no es un villano independiente, sino un instrumento preciso de las prioridades humanas.

Trabajo y sistema

La segunda línea de su argumento es la economía. Gawdat cree que en algunos sectores el desempleo puede llegar al 50%, porque la IA automatiza no solo la rutina, sino también una parte notable del trabajo cognitivo. Están en riesgo funciones que hasta hace poco se consideraban protegidas: analítica, soporte, marketing, trabajo jurídico inicial y parte de las tareas de ingeniería y creatividad. Esto no implica necesariamente un colapso instantáneo, pero sí una transición muy dura para millones de profesionales.

• Automatización de los trabajos de oficina
• Presión sobre los salarios en funciones de servicios
• Aumento de los beneficios de los dueños de la infraestructura
• Escasa preparación de los Estados para una transición rápida

De ahí la tesis más radical de una crisis del capitalismo en su forma actual. Si la productividad crece mientras los ingresos se concentran en un grupo reducido de empresas e inversores, el sistema empieza a resquebrajarse política y socialmente. La cuestión ya no es si la IA será más eficiente que una persona en una operación concreta, sino quién se beneficiará de esa eficiencia y cómo se redistribuirá el poder económico.

La ética como cuello de botella

La tesis más dura de Gawdat es que el problema no es la superinteligencia en sí, sino el estado de las propias personas en el momento de su aparición. Lo describe así: la humanidad lleva a una tecnología históricamente poderosa sus viejos defectos: codicia, manipulación, culto al crecimiento y débiles límites morales. En ese esquema, la IA acelera no las mejores cualidades de la civilización, sino sus desequilibrios. Cuanto más potente es la herramienta, más peligrosos son los malos motivos de su dueño.

«El problema principal no es la inteligencia artificial, sino la ética humana».

Esto cambia el marco de todo el debate. En lugar de la habitual discusión sobre si las máquinas se "rebelarán", Gawdat propone hablar de asuntos más terrenales: reglas de desarrollo, responsabilidad de las empresas, transparencia de los algoritmos y nuevos contratos sociales. De lo contrario, la sociedad no recibirá un mal autónomo de la ciencia ficción, sino un sistema muy humano que escala la desigualdad, la presión sobre los trabajadores y el control de la atención más rápido de lo que las instituciones puedan reaccionar.

Qué significa

Declaraciones como estas no ofrecen un pronóstico con fechas, pero sí reflejan un cambio: la conversación sobre la IA se aleja del entusiasmo por los nuevos modelos y se acerca a cuestiones de poder, reparto del dinero y calidad de las decisiones humanas. Si la ética y la regulación no alcanzan a la tecnología, los principales riesgos no los creará la máquina, sino las personas que ya controlan sus objetivos.