Google DeepMind inició negociaciones con sindicatos sobre preocupaciones de empleados sobre ética de IA

Google DeepMind acordó llevar a cabo negociaciones oficiales con sindicatos británicos sobre cuestiones que preocupan a sus empleados. La principal preocupación está relacionada con el uso que los gobiernos de Estados Unidos e Israel hacen de las tecnologías de la empresa con fines de seguridad nacional e inteligencia.

Primer paso hacia la representación sindical

Los empleados de la oficina de Londres de DeepMind votaron por el derecho a la representación sindical, y la empresa acordó llevar a cabo negociaciones oficiales a través de Acas (Advisory, Conciliation and Arbitration Service) — el servicio británico de resolución de disputas laborales y conciliación. Dos grandes sindicatos participarán en las negociaciones: Communications Workers Union y Unite, que llevan mucho tiempo tratando de representar los intereses de los trabajadores del sector de alta tecnología.

Este evento es significativo para la industria de la IA. Hasta ahora, los intentos de sindicalización en empresas como Google rara vez han recibido este nivel de reconocimiento oficial y consentimiento de la dirección. Por lo general, los gigantes tecnológicos se resisten a tales iniciativas o las ignoran. El consentimiento de DeepMind sugiere una presión creciente de los empleados y el reconocimiento por parte de la empresa de la legitimidad de sus preocupaciones.

Preocupación sobre el uso de IA en defensa

La razón principal de la activación de los empleados es la inquietud sobre cómo sus desarrollos son utilizados por los gobiernos y con qué propósitos. Los trabajadores de DeepMind están preocupados de que las tecnologías avanzadas de la empresa, incluidos los modelos de aprendizaje profundo y los sistemas de inteligencia artificial, puedan ser utilizados para propósitos que no aprueban o que plantean preocupaciones éticas y morales.

Las peticiones firmadas por los empleados se refieren a las siguientes áreas:

• Uso de IA en sistemas militares autónomos
• Aplicación en vigilancia digital y sistemas de inteligencia
• Despliegue en regiones en conflicto y zonas de combate
• Falta de transparencia sobre contratos gubernamentales específicos
• Influencia insuficiente de los empleados en las decisiones sobre asociaciones

Los empleados exigen más información sobre cómo sus códigos, modelos e investigaciones son utilizados por agencias gubernamentales y contratistas de defensa. Para muchos tecnólogos, esta es una pregunta fundamental: ¿debería la empresa trabajar con estructuras militares y cuán éticas son tales asociaciones?

DeepMind y la ética de la IA

DeepMind, dirigida por Demis Hassabis, laureado con el Premio Nobel, se ha posicionado durante mucho tiempo como un líder ético en el campo de la IA. La empresa publica investigaciones sobre la seguridad de la inteligencia artificial y habla regularmente sobre responsabilidad y transparencia. Sin embargo, el papel creciente de Google (la empresa matriz) en el trabajo con estructuras de defensa e inteligencia crea una tensión interna.

El consentimiento de la dirección para negociaciones oficiales puede ser una señal de que la empresa está dispuesta a discutir abiertamente estas cuestiones y, posiblemente, encontrar un compromiso. Sin embargo, sigue siendo incierto si las negociaciones conducirán a cambios concretos en la política de uso de tecnologías o a criterios más estrictos en la selección de socios gubernamentales.

«Este es el primer paso significativo en el reconocimiento de la voz

de los empleados en las decisiones sobre la aplicación de tecnologías», dicen fuentes en los sindicatos.

Qué significa esto

Este evento señala que las cuestiones éticas en la industria de la IA ahora impactan directamente en las relaciones entre empleadores y empleados. Para otras empresas en el sector, esto podría sentar un precedente e impulsar un diálogo más abierto con el personal sobre cómo se aplican sus tecnologías. Si las negociaciones en DeepMind conducen a resultados concretos, esto podría cambiar la forma en que las empresas de IA abordan el trabajo con estructuras gubernamentales.