Google DeepMind abre negociações com sindicatos após preocupações de funcionários com a ética da IA

A Google DeepMind aceitou conduzir negociações formais com sindicatos britânicos sobre questões que preocupam seus funcionários. A principal inquietação é o uso da tecnologia da empresa pelos governos dos EUA e de Israel para fins de segurança nacional e inteligência.

Primeiro passo rumo à representação sindical

Funcionários do escritório da DeepMind em Londres votaram pelo direito à representação sindical, e a empresa concordou em realizar negociações formais por meio do Acas (Advisory, Conciliation and Arbitration Service), serviço britânico de resolução de disputas trabalhistas e conciliação entre as partes. Dois grandes sindicatos participarão: Communications Workers Union e Unite, que há tempos buscavam representar trabalhadores do setor de alta tecnologia.

O fato é significativo para a indústria de IA. Até agora, tentativas de sindicalização em empresas como o Google raramente recebiam esse nível de reconhecimento formal e concordância da diretoria. Normalmente, as gigantes de tecnologia resistem a iniciativas desse tipo ou as ignoram. A concordância da DeepMind sugere pressão crescente dos funcionários e o reconhecimento, pela empresa, da legitimidade de suas preocupações.

Preocupação com o uso de IA na defesa

O principal motivo da mobilização é o receio sobre como governos usam o trabalho dos funcionários e para quais fins. Os trabalhadores da DeepMind temem que as tecnologias avançadas da empresa, incluindo modelos de aprendizado profundo e sistemas de inteligência artificial, possam ser aplicadas em fins que eles não aprovam ou que levantam questões éticas e morais.

As petições assinadas pelos funcionários abrangem as seguintes áreas:

• Uso de IA em sistemas militares autônomos
• Aplicação em vigilância digital e sistemas de inteligência
• Implantação em regiões de conflito e zonas de combate
• Falta de transparência sobre contratos governamentais específicos
• Influência insuficiente dos funcionários nas decisões sobre parcerias

Os funcionários exigem mais informações sobre como seu código, seus modelos e suas pesquisas são usados por agências governamentais e empreiteiras de defesa. Para muitos profissionais de tecnologia, a questão é fundamental: a empresa deve trabalhar com estruturas militares e quão éticas são essas parcerias?

DeepMind e a ética da IA

A DeepMind, liderada pelo Nobel Demis Hassabis, há muito tempo se posiciona como líder ética em IA. A empresa publica pesquisas sobre segurança da inteligência artificial e fala regularmente sobre responsabilidade e transparência. No entanto, o papel crescente do Google, sua controladora, na atuação com órgãos de defesa e inteligência cria tensão interna.

A concordância da diretoria em negociar formalmente pode indicar que a empresa está pronta para discutir esses temas abertamente e, possivelmente, buscar um compromisso. Ainda não está claro, porém, se as negociações levarão a mudanças concretas na política de uso da tecnologia ou a critérios mais rígidos na escolha de parceiros governamentais.

"Este é o primeiro passo significativo para reconhecer a voz dos

funcionários nas decisões sobre a aplicação da tecnologia", dizem fontes nos sindicatos.

O que isso significa

O fato indica que as questões éticas na indústria de IA agora afetam diretamente a relação entre empregadores e funcionários. Para outras empresas do setor, pode servir de precedente e de estímulo a um diálogo mais aberto com o pessoal sobre o uso de suas tecnologias.

Se as negociações na DeepMind produzirem resultados concretos, isso pode mudar a forma como as empresas de IA lidam com órgãos governamentais.