Trabalho sujo para inteligência 'limpa': como mulheres indianas pagam com a psique pela segurança de suas redes neurais

Imagine uma aldeia indiana típica: o som de panelas, gritos de crianças, o cheiro de especiarias. E no meio dessa cena pastoril, senta-se uma jovem mulher com um laptop em uma saliência de barro. Ela não está escrevendo código para o futuro nem criando arte digital. Na sua tela há uma cena de violência brutal, capturada pela câmera em todos os detalhes. Ela precisa assistir até o fim para aplicar a tag correta. Isto não é um cenário de distopia ciberpunk, mas a realidade cotidiana daqueles que tornam sua IA "segura." Enquanto OpenAI, Google e Anthropic competem pela ética de seus modelos, o trabalho sujo é feito por pessoas cujos nomes nunca aparecerão nos créditos.

A indústria de inteligência artificial hoje está obcecada pelo conceito de "alinhamento." Queremos que redes neurais não forneçam receitas de napalm, não promovam ódio e não sejam mal-educadas com usuários. Mas para alcançar isto, os algoritmos primeiro precisam ser mostrados o que exatamente é "ruim." Milhões de horas de vídeo contendo violência, tortura e exploração precisam ser rotuladas manualmente. Ironicamente, para criar uma inteligência artificial que não magoe os sentimentos de um usuário ocidental, você acaba infligindo trauma psicológico muito real e profundo aos residentes do Sul Global. Isto é uma espécie de colonialismo digital: exportamos pureza ética, deixando resíduos tóxicos na forma de psiques destruídas de trabalhadores.

Empresas como Scale AI, Appen ou Sama contratam dezenas de milhares de trabalhadores na Índia, Quênia e Filipinas. Para mulheres na Índia rural, como Monsumi Murmu, essa geralmente é a única chance de ganhar dinheiro sem deixar a casa e abandonar suas famílias. Mas o preço acaba sendo exorbitante. Após dez horas assistindo cenas de violência sexualizada ou assassinatos, a psique simplesmente "desliga." As trabalhadoras descrevem esse estado como "vazio" ou "mancha branca." Retornam às suas famílias, aos seus filhos, mas não conseguem sentir alegria ou intimidade. Isto não é apenas trabalho pesado, é uma exportação sistemática de transtorno de estresse pós-traumático em escala industrial.

O problema é agravado pelo fato de que gigantes da tecnologia maximizam sua distância dessa cadeia de suprimentos. Eles compram conjuntos de dados já "limpos" de contratantes, que por sua vez economizam em tudo, incluindo suporte psicológico. Os contratos frequentemente especificam requisitos de desempenho, mas quase nunca especificam proteções à saúde mental. Como resultado, temos um esquema clássico: matéria-prima (dados) é extraída em condições difíceis, limpa por centavos nas regiões mais pobres e vendida como um produto de elite, "inovador" em San Francisco. Sem esse escudo vivo feito de psiques humanas, nenhum GPT-4 duraria um dia sem um grande escândalo.

O mais triste nessa situação é a falta de alternativas. Automatizar esse processo ainda não é possível: para ensinar IA a reconhecer violência, você precisa de uma pessoa para dizer o que é violência. Caímos em uma armadilha onde o humanismo de uma parte da humanidade é construído sobre a desumanização de outra. Enquanto o Vale do Silício discute os riscos de revoltas de robôs, mulheres em aldeias indianas perdem a capacidade de sentir, apenas para que seu chatbot não diga algo fora de linha. Este é um defeito fundamental da indústria de tecnologia moderna, um que é costumeiramente escondido vergonhosamente atrás de apresentações sobre "benefício para a humanidade."

Ponto-chave: A segurança da IA hoje não é apenas fórmulas matemáticas elegantes, mas milhares de vidas quebradas do outro lado do planeta. A indústria conseguirá criar filtros automáticos para treinar filtros, ou a "carne humana" permanecerá o componente mais barato das redes neurais?