Google DeepMind a ouvert des négociations avec les syndicats en raison des préoccupations éthiques des employés concernant l'IA

Google DeepMind a accepté de mener des négociations officielles avec les syndicats britanniques sur les questions préoccupant ses employés. La principale préoccupation concerne l'utilisation des technologies de l'entreprise par les gouvernements américain et israélien à des fins de sécurité nationale et de renseignement.

Une première étape vers la représentation syndicale

Les employés du bureau de Londres de DeepMind ont voté en faveur du droit à la représentation syndicale, et l'entreprise a accepté de mener des négociations officielles via l'Acas (Advisory, Conciliation and Arbitration Service) — le service britannique de résolution des différends du travail et de conciliation. Deux grands syndicats participeront aux négociations : Communications Workers Union et Unite, qui cherchent depuis longtemps à représenter les intérêts des travailleurs du secteur des hautes technologies.

Cet événement est significatif pour l'industrie de l'IA. Jusqu'à présent, les tentatives de syndicalisation dans des entreprises comme Google recevaient rarement un tel niveau de reconnaissance officielle et d'accord de la direction. Généralement, les géants technologiques s'opposent à ces initiatives ou les ignorent. L'accord de DeepMind suggère une pression croissante de la part des employés et la reconnaissance par l'entreprise de la légitimité de leurs préoccupations.

Préoccupation concernant l'utilisation de l'IA dans la défense

La raison principale de l'activation des employés est la crainte de la façon dont leurs développements sont utilisés par les gouvernements et à quelles fins. Les travailleurs de DeepMind craignent que les technologies avancées de l'entreprise, y compris les modèles d'apprentissage profond et les systèmes d'intelligence artificielle, puissent être appliqués à des fins qu'ils ne soutiennent pas ou qui soulèvent des questions éthiques et morales.

Les pétitions signées par les employés portent sur les domaines suivants :

• Utilisation de l'IA pour les systèmes militaires autonomes
• Application dans la surveillance numérique et les systèmes de renseignement
• Déploiement dans les régions en conflit et les zones de combat
• Manque de transparence concernant les marchés publics spécifiques
• Influence insuffisante des employés sur les décisions de partenariat

Les employés demandent plus d'informations sur la façon dont leur code, leurs modèles et leurs recherches sont utilisés par les agences gouvernementales et les entrepreneurs en défense. Pour de nombreux technologues, c'est une question fondamentale : l'entreprise doit-elle travailler avec les structures militaires et dans quelle mesure ces partenariats sont-ils éthiques ?

DeepMind et l'éthique de l'IA

DeepMind, dirigée par le lauréat du prix Nobel Demis Hassabis, se positionne depuis longtemps comme un leader éthique dans le domaine de l'IA. L'entreprise publie des recherches sur la sécurité de l'intelligence artificielle et parle régulièrement de responsabilité et de transparence. Cependant, le rôle croissant de Google (la société mère) dans le travail avec les structures de défense et de renseignement crée une tension interne.

L'accord de la direction pour des négociations officielles pourrait être un signe que l'entreprise est prête à discuter ouvertement de ces questions et à trouver peut-être un compromis. Cependant, il reste peu clair si les négociations aboutiront à des changements concrets dans la politique d'utilisation des technologies ou à des critères plus stricts lors du choix des partenaires gouvernementaux.

« C'est la première étape significative dans la reconnaissance de la

voix des employés dans la prise de décisions concernant l'application des technologies », disent les sources syndicales.

Ce que cela signifie

Cet événement signale que les questions éthiques dans l'industrie de l'IA influencent maintenant directement les relations entre employeurs et employés. Pour les autres entreprises du secteur, cela pourrait devenir un précédent et un catalyseur pour un dialogue plus ouvert avec le personnel sur la façon dont leurs technologies sont appliquées. Si les négociations chez DeepMind aboutissent à des résultats concrets, cela pourrait changer la façon dont les entreprises d'IA abordent le travail avec les structures gouvernementales.