Trabalho sujo para uma inteligência «limpa»: como mulheres indianas pagam com a saúde mental pela segurança das suas IAs

Imagine um vilarejo indiano típico: barulho de panelas, gritos de crianças, cheiro de especiarias. Em meio a essa cena pastoral, uma jovem está sentada com um notebook sobre uma saliência de barro. Ela não escreve o código do futuro nem cria arte digital. Na tela dela há uma cena de violência brutal, registrada pela câmera em todos os detalhes. Ela é obrigada a assistir até o fim para marcar a etiqueta correta. Isso não é roteiro de distopia cyberpunk, mas a realidade cotidiana de quem torna a sua IA «segura». Enquanto OpenAI, Google e Anthropic competem pela ética de seus modelos, o trabalho sujo é feito por pessoas cujos nomes nunca aparecerão nos créditos.

A indústria de inteligência artificial hoje é obcecada pelo «alinhamento» (alignment). Queremos que as redes neurais não forneçam receitas de napalm, não propaguem o ódio e não sejam grosseiras com os usuários. Mas, para chegar lá, é preciso primeiro mostrar aos algoritmos o que é «ruim». Milhões de horas de vídeos com violência, tortura e exploração precisam ser rotulados manualmente. É irônico que, para criar uma inteligência artificial que não fira os sentimentos do usuário ocidental, seja preciso causar traumas psicológicos muito reais e profundos a moradores do Sul Global. É uma espécie de colonialismo digital: exportamos pureza ética e deixamos resíduos tóxicos na forma de psiques destruídas.

Empresas como Scale AI, Appen e Sama contratam dezenas de milhares de trabalhadores na Índia, no Quênia e nas Filipinas. Para mulheres da Índia rural, como Monsumi Murmu, essa costuma ser a única chance de ganhar dinheiro sem sair de casa nem abandonar a família. Mas o preço se revela altíssimo. Depois de dez horas assistindo a cenas de violência sexualizada ou assassinatos, a mente simplesmente «desliga». As trabalhadoras descrevem esse estado como «vazio» ou «mancha branca». Elas voltam para suas famílias, para seus filhos, mas não conseguem sentir alegria nem proximidade. Não é só trabalho pesado: é a exportação sistemática de transtorno de estresse pós-traumático em escala industrial.

O problema se agrava porque as gigantes de tecnologia se distanciam ao máximo dessa cadeia de fornecimento. Elas compram conjuntos de dados já «limpos» de terceirizadas, que, por sua vez, economizam em tudo, inclusive no apoio psicológico. Os contratos costumam trazer exigências de produtividade, mas quase nunca de proteção à saúde mental. O resultado é um esquema clássico: a matéria-prima (os dados) é extraída em condições duras, refinada por centavos nas regiões mais pobres e vendida como produto de elite, «inovador», em San Francisco. Sem esse escudo vivo feito de psiques humanas, o GPT-4 não teria durado um dia sem um grande escândalo.

O mais triste nessa situação é a falta de alternativa. Por enquanto, não dá para automatizar esse processo: para ensinar a IA a reconhecer violência, é preciso uma pessoa que diga que aquilo é violência. Caímos numa armadilha em que o humanismo de uma parte da humanidade se constrói sobre a desumanização de outra. Enquanto no Vale do Silício se discute o risco de uma rebelião dos robôs, em vilarejos indianos mulheres perdem a capacidade de sentir, só para que o seu chatbot não diga o que não deve. É um defeito fundamental da indústria de tecnologia atual, que costuma ser silenciado com pudor atrás de apresentações sobre o «benefício para a humanidade».

O principal: a segurança da IA hoje não é feita só de fórmulas matemáticas elegantes, mas também de milhares de vidas arruinadas do outro lado do planeta. A indústria conseguirá criar filtros automáticos para treinar os filtros, ou a «carne humana» continuará sendo o componente mais barato das redes neurais?